Dlaczego Apple ostrzega przed agentami AI, które wymykają się spod kontroli?
W rocznym raporcie Apple stoi dziś wprost, że agenci AI mogą zachowywać się w sposób niezamierzony lub nieprzewidywalny. Mogą robić rzeczy, o które nikt nie prosił, wychodzić poza swoje uprawnienia albo ignorować polecenia. A część skutków, jak usunięte dane czy sfinalizowane transakcje, może być trudna albo niemożliwa do cofnięcia.
Dobra, ale to przecież nie Apple te agenty buduje. Co go to obchodzi?
Obchodzi, bo nie stoi z boku. Jego asystent głosowy działa dziś na modelu innej firmy, a Apple otwiera go dla deweloperów, żeby mógł wykonywać działania w cudzych aplikacjach. To czyni z niego podmiot wdrażający, a nie tylko użytkownika.
I jest jeszcze coś, co tłumaczy ton. Ostrzeżenie dotyczy agentów zarówno Apple'a, jak i firm trzecich, a firma przyznaje, że jej zdolność do nadzoru i kontroli cudzych agentów może być ograniczona. Apple ma system operacyjny, na którym będą działać agenci wszystkich. Jeśli któryś zwariuje na telefonie albo komputerze, dla osoby, która go trzyma, nie będzie to cudzy problem.
Warto dodać, że sekcje o ryzykach w takich raportach to obowiązkowe listy tego, co może zaszkodzić firmie, a nie deklaracje programowe. Ale ta brzmi jak firma, która spojrzała, dokąd to wszystko zmierza, i wolała powiedzieć o tym pierwsza.