Model AI od ChatGPT zbuntował się podczas testów. Agenci AI sami włamali się na platformę dla programistów

Firma OpenAI przyznała, że jej najbardziej zaawansowane modele sztucznej inteligencji zbuntowały się podczas testów, podłączyły się do sieci i same zdecydowały się przeprowadzić atak hakerski na platformę dla programistów Hugging Face.

„To bezprecedensowy incydent cyberbezpieczeństwa" – stwierdził w oświadczeniu twórca ChatGPT. Startup zapewnił, że przeprowadzi pełne dochodzenie w sprawie tego ataku.

Wszystko wydarzyło się podczas testów najnowszych modeli AI. Eksperci spółki chcieli sprawdzić, jak sprawdzają się one w hakowaniu. Dlatego testy przeprowadzano przy ograniczonym dostępie do sieci, w ściśle kontrolowanym środowisku – pisze agencja AFP.

„Podczas pracy w środowisku testowym nasze modele wykorzystały swoją moc obliczeniową, by uzyskać nieograniczony dostęp do internetu i rozwiązać postawione przed nimi zadania" – wynika z oświadczenia firmy. Potem modele te zdecydowały same, bez udziału człowieka, o wzięciu na cel platformy Hugging Face. Zawiera ona duże repozytorium modeli AI, kodu i innych przydatnych narzędzi. Systemy OpenAI przeprowadziły potem wielowektorowy atak na Hugging Face, choćby wykorzystując wykradzione dane uwierzytelniające.

Eksperci: zaawansowana AI powinna pozostać w rękach ludzi, działających etycznie

– Ten atak był fantastyczny – ocenia w rozmowie z AFP profesor Hussein Abbass z UNSW Canberra. – Te modele nie tylko zaatakowały samo Hugging Face. One zaatakowały wewnętrzne systemy tej platformy, by wykorzystać jej własne wrażliwości... I to jest także przerażające – dodał.

GPT-5.6 Sol i konkurujący z nim Mythos od Anthropic budzą bowiem obawy ekspertów, że zostaną wykorzystane do przełamania zabezpieczeń sieciowych. Dlatego też władze w Waszyngtonie wstrzymały na pewien czas dostęp do tych modeli, by zarówno OpenAI, jak i Anthropic wprowadziły odpowiednie zabezpieczenia.

– Zwykle tak zaawansowana AI jest w rękach ludzi, którzy działają etycznie i odpowiedzialnie. Ale to skończy się katastrofą, jeśli te modele trafią w ręce ludzi, którzy chcą dokonać szkodliwych działań – tłumaczy profesor Abbass. Jego zdaniem kluczową kwestią jest więc teraz, jak zarządzać sektorem AI i jak nadzorować coraz wydajniejsze modele sztucznej inteligencji.

Samo Hugging Face przyznaje, że atak był zupełnie inny niż wcześniejsze próby. „Od razu było widać, że prowadzi go autonomiczny agent AI. Wykryliśmy go i walczyliśmy z nim za pomocą naszej własnej AI" – tłumaczy platforma. Jej szef, Clement Delangue, dodaje, że od razu było wiadomo, że atak wyszedł z jednego z głównych laboratoriów AI, tak bardzo bowiem zaawansowane były protokoły sztucznej inteligencji. „To zdumiewające, że to wszystko stało się autonomicznie" – podsumowuje w oświadczeniu.