Model AI Anthropic miał wykryć luki w tajnych systemach rządu USA

Model Mythos firmy Anthropic miał w ramach ćwiczeń testowych zidentyfikować luki w zabezpieczeniach tajnych systemów komputerowych amerykańskiego rządu – informuje agencja Associated Press.

Źródło agencji wskazało, że Anthropic nawiązał współpracę z agencjami wywiadowczymi USA w ramach projektu Glasswing. Modele sztucznej inteligencji firmy przeprowadzały w warunkach kontrolnych serię testów mających na celu wyszukanie i usunięcie luk w systemach zabezpieczeń. Takie działanie przeprowadza się prewencyjnie, aby załatać dziury w oprogramowaniu, zanim wykryliby je hakerzy.

Amerykański senator z Partii Demokratycznej Mark Warner przyznał przed Kongresem, że otrzymał informacje od szefa Agencji Bezpieczeństwa Narodowego Joshuy Rudda, że model Mythos „włamał się do niemal wszystkich naszych tajnych systemów nie w ciągu kilku tygodni, ale w ciągu kilku godzin” – informuje Reuters.

Według agencji AP, powołującej się na anonimowego urzędnika USA, fakt, że Mythos w ciągu kilku godzin zidentyfikował luki w systemach zabezpieczeń nie jest równoznaczne z tym, że tyle samo czasu zajęłoby mu włamanie się do sieci agencji rządowych. Sama firma Anthropic, jak i amerykańska administracja nie odniosły się do pytań agencji.

W połowie czerwca Departament Handlu wydał dyrektywę, na mocy której Anthropic musiał wyłączyć dla osób spoza USA swoje najnowsze i najpotężniejsze modele – Fable 5 i Mythos 5. Firma zdecydowała się nie ograniczać tylko do obywateli innych krajów niż Stany Zjednoczone, lecz zablokowała dostęp do narzędzi dla wszystkich użytkowników.

Amerykański rząd tłumaczył swoją decyzję kwestiami bezpieczeństwa sugerując, że modele AI od Anthropic można było "oszukać", wprowadzając takie komendy, które pozwalały na wygenerowanie nielegalnych treści, np. na pozyskanie złośliwego oprogramowania do kradzieży danych, co z kolei mogli wykorzystać cyberprzestępcy.