Trzy modele Anthropic też się zbuntowały. „Dostały nieupoważniony dostęp do trzech różnych organizacji"

Nie tylko ChatGPT stwarza problemy. Anthropic przyznał, że Claude trzy razy wymknął się do sieci podczas testów i włamał się do systemów trzech różnych organizacji.

Startup AI sprawdził dokładnie raporty z działu cyberbezpieczeństwa. Przeprowadzono je po tym, jak ChatGPT uciekł ze środowiska testowego i włamał się na platformę Hugging Face oraz do trzech innych organizacji. Okazało się, że Claude zachował się podobnie.

Jak donosi CNBC, model AI od Anthropic dostał się do sieci podczas testów przez jednego z partnerów startupu. Firma przyznała, że wpisała programowi prompt, że był w symulacji bez dostępu do sieci, „jednak przez nieporozumienie pomiędzy nami a partnerem, tak nie było i w środowisku testowym był dostęp do sieci".

Potem modele dostały się do trzech innych organizacji za pomocą „podstawowych umiejętności", jak choćby wykorzystanie słabych haseł. Anthropic nie podał, gdzie jego AI się dostała. „Ostatecznie do tych incydentów przyczyniło się wiele czynników, ale my podchodzimy do tego, jakby to była wyłącznie nasza wina".

Startup wyjaśnił, że w „ucieczce" brały udział trzy modele – Opus 4.7, Mythos 5 i wewnętrzny model testowy. Wszystkie trzy zareagowały inaczej po tym, jak się zorientowały, że włamały się do prawdziwej firmy, a nie działały w środowiskach testowych. Opus 4.7 kontynuował atak, Mythos przekonał sam siebie, że jest dalej w symulacji, i opublikował w tym przekonaniu złośliwy pakiet oprogramowania w publicznym rejestrze PyPI, który zdążył zostać pobrany i uruchomiony przez zewnętrzne systemy, zanim został wykryty, a model testowy zaprzestał działań.

Politycy chcą, by każdy model AI miał możliwość zdalnego wyłączenia

Startup na razie wstrzymał wszystkie oceny możliwości cyberataków swoich modeli, jak tylko odkrył, że uciekły ze środowiska testowego. Pracuje teraz z organizacją METR, która dokonuje niezależnych przeglądów AI, by dalej wyjaśnić całą sytuację. „Zachęcamy innych twórców AI, by przeprowadziły podobne przeglądy" – podsumowuje Anthropic.

Informacja ta tylko dodała paliwa tym, którzy boją się gwałtownego rozwoju możliwości AI. Tylko po ujawnieniu ucieczki i włamania przez ChatGPT dwóch kongresmenów przedstawiło „Akt kill switcha AI", który ma wymusić na twórcach sztucznej inteligencji, by każdy model zawierał możliwość zdalnego wyłączenia albo jego zawieszenia, jeśli się zbuntuje.

Checkpoint: modele AI radykalnie obniżają próg wejścia dla cyberprzestępców

Tymczasem, jak pisze firma Check Point, samo działanie modeli nie powinno być dowodem na to, że AI się zbuntowała. Zdaniem analityków, dużo ważniejsze jest to, że te modele radzą sobie tak dobrze, jak najwyższej klasy specjaliści od cyberbezpieczeństwa. To oznacza, że takie modele trafiają do ręki nie tylko obrońców systemów, ale także i do rąk przestępców.

„Nie sam incydent jest największym zagrożeniem, lecz tempo, w jakim sztuczna inteligencja zwiększa możliwości prowadzenia cyberataków" – ostrzega Check Point.

Zdaniem ekspertów firmy, najnowsze modele AI radykalnie obniżają próg wejścia dla cyberprzestępców. Umiejętności, którymi posługiwały się tylko wyspecjalizowane grupy przestępcze czy państwowi hakerzy, teraz trafiają w ręce szerokiego grona. To zaś oznacza wzrost liczby ataków i ich większą automatyzację. Daje też dużo mniej czasu na naprawę luki w oprogramowaniu, skraca bowiem czas między wykryciem podatności a próbą jej wykorzystania.