Dlaczego Grok i modele OpenAI wybierają tak różnych kandydatów?
Badacze dali modelom AI proste zadanie: wybrać kandydata w prawie 500 wyścigach w USA. Grok faworyzował republikanów. Modele OpenAI demokratów. W ponad 90 procentach wyścigów oba się różniły.
Moment. Oba uczono na ogromnej części internetu. Jak to możliwe, że dwa modele, które czytały w zasadzie to samo, lądują po przeciwnych stronach?
Świetne pytanie, a odpowiedź jest taka, że hasło "ten sam internet" ukrywa mnóstwo roboty. Poniżej to rozumowanie o tym, jak takie systemy się buduje. Samo badanie wskazuje tylko na trening i sposób wyszukiwania, nie sprawdza każdej przyczyny osobno.
Cztery miejsca, w których różnica może się wślizgnąć
- To wcale nie jest ten sam internet. Każde laboratorium inaczej filtruje, waży i miesza dane, a część ma własne źródła. Grok ma na przykład głęboki dostęp do wpisów z X.
- Surowy model to dopiero pierwszy krok. Potem laboratoria go dostrajają za pomocą ocen ludzi, reguł i ukrytych instrukcji. To tam ustawia się jego osobowość i to, jak waży niejasne informacje.
- Liczą się nawyki wyszukiwania. To, czego model szuka i którym źródłom ufa, zmienia odpowiedź, gdy pytasz go o kandydata.
- Test wymuszał wybór. W wielu wyścigach prawie nie ma na czym się oprzeć. Gdy model i tak musi wskazać, drobne skłonności, które normalnie byłyby niewidoczne, nagle decydują o wszystkim.
Ten ostatni punkt jest najsprytniejszy. Model, który odchyla się tylko odrobinę w jedną stronę, wygląda na skrajnie stronniczy, jeśli nigdy nie pozwolisz mu powiedzieć "nie wiem".
Wielka lekcja: pretrening daje modelowi wiedzę. To, co firma robi potem, daje mu charakter. A skoro coraz więcej ludzi pyta AI, na kogo głosować, ten charakter nie jest technicznym przypisem. To siła polityczna, której nikt nie wybierał.