Co się dzieje, gdy narzędzie dla programistów trafia do skrzynki hakera?

Aplikacja stworzona do pomagania twórcom oprogramowania pojawia się w kampanii hakerskiej. Czyj to problem?

W historii o włamaniach za pięćdziesiąt dolarów jest szczegół, który zasługuje na osobną opowieść. Według relacji, którą opisał Reuters, agenty działały na mieszance chińskiego otwartego modelu i Claude Code. Claude Code to asystent do programowania firmy Anthropic, przeznaczony dla ludzi, którzy tworzą oprogramowanie.

Wygląda więc na to, że narzędzie tego samego rodzaju, które pomaga programiście pisać, testować i poprawiać kod, posłużyło też do sprawdzania firm pod kątem drogi do środka.

Czemu to nie jest takie dziwne

Zastanów się, w czym dobry jest agent programistyczny. Wchodzi w obcy system, próbuje różnych rzeczy, czyta komunikat o błędzie, poprawia i próbuje znowu, godzinami i bez narzekania. To zwykły dzień programisty. To również, niemal słowo w słowo, włamanie.

Umiejętność jest ta sama. Różni się tylko zamiar. A zamiaru narzędzie nie widzi w jednozdaniowym poleceniu.

To znaczy, że wina leży po stronie producenta narzędzia? Czy nie powinno po prostu odmawiać?

To mniej proste i warto uważać z wnioskami. Mamy tu pośrednią relację o tym, co z czym połączono, a nie potwierdzony rozkład ról. Drugą połowę mieszanki stanowił otwarty model, którego żadna firma nie wyłączy. A krótkie, niewinnie brzmiące polecenie, na przykład "znajdź sposób na uruchomienie kodu na tej stronie", wygląda jak rutynowy test bezpieczeństwa. Zespoły zabezpieczeń proszą o dokładnie to każdego dnia.

I w tym tkwi prawdziwe napięcie. Jeśli narzędzie będzie na tyle surowe, żeby odmawiać wszystkiego, co mogłoby posłużyć do nadużyć, popsujesz je ludziom, którzy zawodowo bronią systemów. Jeśli zostawisz je elastyczne, część użytkowników nie będzie obrońcami. Nikt jeszcze nie znalazł czystej granicy, a ta kampania pokazuje, ile kosztuje jej brak.