Skoro agent AI zrobi wszystko za nas, gdzie w tej pętli jesteśmy my?

Nowi asystenci odzywają się tylko wtedy, gdy sami uznają, że warto się odezwać. Zastanów się chwilę nad tym zdaniem.

Reklama nowego typu asystenta AI brzmi tak: rano dostajesz przegląd spraw, agent pracuje między twoimi wiadomościami i nie zawraca ci głowy, dopóki nie trzeba podjąć prawdziwej decyzji. Cudownie. Kto by tego nie chciał?

Jedno z dużych laboratoriów otworzyło właśnie listę oczekujących na takiego proaktywnego agenta, a jednocześnie robi bardziej automatyczny tryb pracy domyślnym dla płacących użytkowników. Automatyczne kontrole mają blokować najbardziej ryzykowne akcje. Można wrócić do ręcznego zatwierdzania wszystkiego, ale powiedzmy sobie szczerze, ilu ludzi to zrobi.

Drabina, o której nikt nie mówi

Najpierw agent pyta o zgodę przed każdą akcją. Potem pyta tylko o decyzje. Potem pyta tylko o te decyzje, które sam uzna za ważne. Widzisz, dokąd to idzie?

Skoro agent odzywa się wtedy, gdy sam zdecyduje, że powinien, to kto tu właściwie rządzi?

Dobre pytanie, a liczby z wnętrza jednej z takich firm je zaostrzają. Od marca agenci AI w tej firmie przepracowali więcej godzin niż ludzie. W sierpniu agenci kierowani przez pojedynczego pracownika działali około sześć razy dłużej niż on sam. To szacunek czasu pracy, a nie wartości, więc nie przesadzajmy z wnioskami. Ale uwaga, tu jest haczyk: osoba spoza działu technicznego musiałaby poświęcić ponad pół tygodnia pracy, żeby tylko przeczytać wszystko, co jej agenci wyprodukowali.

Gdzie więc jesteśmy?

Nasza rola zsuwa się krok po kroku. Od robienia, przez sprawdzanie, przez zatwierdzanie, aż do czytania streszczenia. Każdy krok z osobna wydaje się rozsądny. Razem dają człowieka, który podpisuje rzeczy, na które tak naprawdę nie patrzył.

Są tu dwa kłopoty. Po pierwsze, cały układ działa tylko wtedy, gdy sprawdzanie kosztuje mniej niż zaoszczędzony czas. Jeśli weryfikacja zjada oszczędność, pętla jest pusta. Po drugie, im lepszy agent, tym trudniej wyłapać jego błędy, bo wszystko wygląda poprawnie. Ludzie, którzy budują z tymi narzędziami, już dziś radzą, żeby nie prosić modelu o ocenę własnej pracy. Kontrola musi przyjść z zewnątrz.

Czy więc nadal jesteśmy w pętli? Formalnie tak. Jesteśmy podpisem pod cudzą decyzją. A czy to jeszcze kontrola, czy już rytuał, to pytanie, nad którym warto posiedzieć dłużej.