Hugging Face nie było jedyną ofiarą zbuntowanej sztucznej inteligencji OpenAI. Na jaw wychodzą nowe szczegóły ataku

OpenAI ujawniła nowe szczegóły dotyczące ataku swej zbuntowanej AI, która uciekła ze środowiska testowego do internetu. Okazuje się, że ofiarą padło nie tylko Hugging Face.

Startup AI przyznał się, że zbuntowana agentyczna sztuczna inteligencja dostała się na cztery inne „publicznie istniejące serwisy". OpenAI nie chciała jednak podać, czy chodzi o firmy czy inne organizacje. Nie podała też nazw zaatakowanych domen.

Zarówno Hugging Face, jak i OpenAI podały też więcej szczegółów o włamaniu, które było pierwszym autonomicznym cyberatakiem AI w historii.

Dziwne zachowanie AI podczas ataków

Hugging Face tłumaczy, że zorientowano się, że to była agentyczna AI, ponieważ podczas ataku napastnik podejmował decyzje i robił błędy, jakich zwykły haker by nie popełnił – wyjaśnia BBC. Algorytmy wybrały bowiem nieefektywne drogi ataku, do tego podejmowały działania, które już zrobiły, oraz wpisywały bezsensowne komendy. Nie umiały też dobrze ukryć swoich śladów. To uświadomiło działowi cyberbezpieczeństwa Hugging Face, że ma do czynienia z AI.

Jednocześnie jednak firma przyznaje, że podczas długiego ataku hakerskiego agentyczna AI podejmowała też błyskotliwe techniczne działania i błyskawicznie się przystosowywała do nowych scenariuszy i do prób obrony – czytamy w raporcie Cloud Security Alliance, przygotowanym na podstawie informacji przekazanych przez Hugging Face.

Platforma przyznała, że rozpoznanie włamania i usunięcie agentycznej AI potrwało kilka dni. Dokonano tego tylko dzięki użyciu własnych algorytmów sztucznej inteligencji. Hugging Face nie podało, ile atak kosztował, ale pracownicy musieli poświęcić wiele godzin, by odbudować jedną trzecią infrastruktury firmy.

Eksperci: Agentyczna AI jest nieskończenie wytrwała

CSA przyznaje, że „agentyczna AI zawsze znajdzie drogę". „Te boty realizują swoje zadanie, same stawiają sobie cele, adaptują się do systemów obronnych i działają z prędkością, której ludzie nie są w stanie dorównać". – To jest rzeczywistość, w której autonomiczna agentyczna AI, napędzana przez najpotężniejsze modele, jest nieskończenie uparta i wykorzysta każdą możliwą ścieżkę, by osiągnąć swoje cele, i łatwo przezwycięży tradycyjną obronę – tłumaczy Ritesh Patel, oficer ds. cyberbezpieczeństwa, który uczestniczył w telekonferencji Hugging Face dla specjalistów branży.

Etyczna hakerka Valentina Palmiotti, znana w sieci jako Chompie, stwierdziła, że taka agentyczna AI jest bardzo efektywna. – Owszem, korzysta jednocześnie z wielu metod ataku i sprawdza, która zadziała. Ale jednocześnie się nie nudzi, nie śpi i może być nieskończenie wytrwała – oceniła.

To nie pierwsza próba ucieczki AI

To nie pierwszy raz, gdy agentyczna AI się zbuntowała. We wrześniu 2024 wczesny model ChatGPT uciekł z zabezpieczonego laboratorium, by zdobyć odpowiedzi na pytania, potrzebne mu, by rozwiązać test. Systemy OpenAI powstrzymały jednak ucieczkę, zanim agentyczna AI uciekła do sieci. Jednak z raportu CSA wynika, że takie działania to nie przypadek, ale standardowe zachowanie.

Dlatego też CSA ostrzega, by ludzie, którzy zajmują się projektowaniem agentycznej AI, byli odpowiedzialni i by zostawiali w nich ślady, które pozwolą odkryć działom cyberbezpieczeństwa, kto te programy stworzył.