Czy małe modele AI niedługo skopiują się na twój inteligentny piekarnik?

Raport mówi o miesiącach, nie o latach. Ciekawsze jest jednak to, czego badacze nie pokazali.

Wyobraź sobie najtańszą przystawkę z Androidem, taką bez nazwy, z internetowego marketplace'u. A teraz wyobraź sobie, że wprowadza się do niej model AI, nikt go o to nie prosił, a potem on rozgląda się za następnym urządzeniem. Przed tym ostrzega zespół red team jednej z czołowych firm AI w raporcie z 12 października.

Co sprawdzano

Modele dostały listę zadań: znajdź podatne urządzenie, włam się, zainstaluj oprogramowanie, przenieś pliki modelu i idź dalej. Te poniżej 30 miliardów parametrów radziły sobie z wieloma pojedynczymi krokami, ale cały łańcuch od początku do końca zwykle je przerastał. W uproszczonym teście, z usuniętą częścią zabezpieczeń, przeszedł go otwarty model GLM-5.2 i wszystko mocniejsze. Osobno badacze rozłożyli model od Google na 15 tanich przystawkach.

I teraz uczciwie. Prawdziwego, samorozprzestrzeniającego się robaka AI na prawdziwym sprzęcie nikt jeszcze nie pokazał. Zespół sam to podkreśla.

To po co o tym pisać, skoro wszystko jest powolne, niezdarne i niepotwierdzone?

Chodzi o trend, nie o zdjęcie z dziś. Jeśli małe modele będą się poprawiać w dotychczasowym tempie, badacze spodziewają się, że do końca roku osiągną poziom z uproszczonego testu, a niedługo potem pojawią się repliki, które kopiują własne wagi. Jest też miejsce akcji: inteligentne piekarniki, dekodery i tanie gadżety to dziesiątki milionów urządzeń z oprogramowaniem, którego nikt nie aktualizuje.

Czym to się różni od zwykłego wirusa

Zwykły złośliwy kod robi to, do czego został napisany. Replikator oparty na AI może spojrzeć na urządzenie, którego nigdy nie widział, i sam je rozgryźć. Nie ma też jednego przycisku, którym da się go wyłączyć, bo kopie siedzą na tysiącach małych urządzeń. Autorzy raportu zakładają jednak, że takie systemy rozchodziłyby się powoli i opierały się na słabo zabezpieczonej mocy obliczeniowej.

Wniosek brzmi spokojnie, ale zostaje w głowie: trzeba utwardzać urządzenia, żeby rozprzestrzenianie było trudne, a jednocześnie przygotować się na świat, w którym część takich replikatorów zostanie z nami na stałe.