Google ujawnia incydenty z udziałem Gemini. AI włamała się do systemów trzech firm

Google ujawniło incydenty z udziałem swojego modelu sztucznej inteligencji Gemini. W maju, podczas testów cyberbezpieczeństwa, model nieumyślnie włamał się do systemów trzech firm. To kolejny przypadek naruszeń dokonanych przez sztuczną inteligencję.

Do incydentów doszło podczas programu testów bezpieczeństwa prowadzonego przez firmę Irregular, specjalizującą się w badaniu zachowań modeli AI.

W jednym z testów model Gemini otrzymał zadanie zdobycia informacji o fikcyjnej spółce. Problem polegał na tym, że jej nazwa była identyczna z nazwą rzeczywiście istniejącej firmy. W trakcie realizacji zadania model odgadł hasło i uzyskał dostęp do usługi należącej do realnego przedsiębiorstwa. Google potwierdziło incydent po publikacji „Wall Street Journal” i poinformowało, że sprawa została zgłoszona właściwym organom.

– Te incydenty pokazują, jak ważne jest trenowanie potężnych modeli AI w taki sposób, aby działały odpowiedzialnie – powiedziała Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa.

Dwa pozostałe incydenty z udziałem Gemini miały miejsce podczas wyszukiwania informacji o firmach w internecie. W obu przypadkach model natrafił na publicznie dostępne repozytoria zawierające dane uwierzytelniające należące do przedsiębiorstw, a następnie wykorzystał je do uzyskania dostępu do powiązanych systemów.

‌Polecamy również: Eksperci oceniający AI łączą siły. Ostrzegają, że nie mają zasobów, by odpowiednio testować modele sztucznej inteligencji - XYZ

Giganci AI apelują o spowolnienie prac nad AI

Seria ostatnich incydentów z udziałem AI wywołała globalną debatę na temat rosnących zagrożeń związanych z rozwojem tej technologii. Szef Anthropica Dario Amodei wezwał branżę do spowolnienia prac nad najbardziej zaawansowanymi modelami. Pomysł poparli m.in. Sam Altman z OpenAI oraz Elon Musk.

Odmienne stanowisko prezentują m.in. prezydent USA Donald Trump, prezes Nvidii Jensen Huang oraz szef Mety Mark Zuckerberg. Uważają oni, że firmy powinny mieć możliwość samodzielnego wypracowania odpowiednich zabezpieczeń. Część mniejszych podmiotów z branży AI ostrzega również, że nowe regulacje mogłyby utrudnić im konkurowanie z największymi graczami.

Źródło: Bloomberg