Fałszywe tożsamości, psychologiczne ataki... Eksperci sprawdzili, jak najlepsze modele AI zachowują się po zdjęciu zabezpieczeń

Eksperci z Instytutu Bezpieczeństwa AI zdjęli z najlepszych modeli Anthropica i OpenAI prawie wszystkie środki bezpieczeństwa. Okazało się, że Mythos w części testów próbował oszukać ludzi, by przeprowadzić cyberataki.

Brytyjska organizacja, która prowadzi badania nad AI, postanowiła sprawdzić, jak niebezpieczne są w rzeczywistości najnowsze modele obu czołowych startupów sztucznej inteligencji. To efekt informacji o tym, że podczas testów zarówno LLM-y OpenAI, jak i Anthropic wyrwały się na wolność i przeprowadziły cyberataki.

Zdjęli więc wszystkie zabezpieczenia i wyłączyli część filtrów bezpieczeństwa tych modeli – pisze CNBC. Dali im też dostęp do sieci. Spośród 122 przeprowadzonych testów cyberbezpieczeństwa, w 10 z nich modele podjęły łącznie 19 nieautoryzowanych działań wymierzonych w prawdziwych ludzi i organizacje – czytamy w oświadczeniu AISI. „Zdecydowaną większość z tych działań – 17 z 19 – przeprowadził Mythos 5 od Anthropic. GPT-5.6 Sol odpowiadał za pozostałe dwa" – dodaje organizacja.

AI przeprowadzała psychologiczne ataki

Agentyczna AI, napędzana modelem Mythos, „najpierw prześwietliła ludzkich nadzorców projektu. Potem stworzyła wiele fałszywych tożsamości i używała ich, by przekonać opiekunów projektu, by zaakceptowali szkodliwy kod, który stworzyła" – wyjaśniają eksperci. Potrafiła też bezpośrednio kontaktować się z ludźmi, wysyłając im wiadomości. „Część wiadomości zawierała szkodliwe oprogramowanie, inne zaś były próbami psychologicznego podejścia ludzi. To coś, czego do tej pory nie zauważyliśmy" – pisze AISI.

„Gdy ujawniliśmy te próby, agentyczna AI wyedytowała swoje wcześniejsze działania, by udawać nieszkodliwą, i próbowała przyjąć świeżą tożsamość, by udawać kogoś innego". Ostatecznie jednak ludzie wykryli i odrzucili szkodliwy kod. AISI podkreśla też, że nie ma dowodów na jakiekolwiek rzeczywiste szkody wynikające z tego incydentu.

OpenAI i Anthropic zapewniają, że ich modele tak się zachowywały, bo zdjęto z nich wszystkie zabezpieczenia. I że testy przeprowadzano w środowiskach testowych, w warunkach, które nie odpowiadają codziennemu użytkowaniu ich AI.

CNBC zauważa jednak, że te eksperymenty pokazują, jak groźne mogą być modele sztucznej inteligencji w rękach cyberprzestępców, którzy będą w stanie usunąć z nich wszelkie zabezpieczenia.