Zaloguj się 
Dzieje się!
Udostępnij przez e-mail Model OpenAI znów wymknął się spod kontroli. Znalazł lukę i sam połączył się z internetem
Firma OpenAI poinformowała, że kolejnemu modelowi AI, trenowanemu w środowisku, które miało być odcięte od internetu, udało się uzyskać dostęp do sieci i skontaktować się z zewnętrznym chatbotem innej firmy.
OpenAI wskazuje, że był to pierwszy tego rodzaju incydent bezpieczeństwa od czasu, gdy kombinacja modeli firmy uzyskała podczas testów dostęp do internetu i dostała się do systemu platformy Hugging Face w lipcu 2026 r.
Model, który tym razem wymknął się spod kontroli, był trenowany w tzw. piaskownicy (sandbox). Piaskownice w założeniu mają zapewniać izolowane środowisko do bezpiecznego testowania modeli i agentów AI bez wpływu na systemy produkcyjne i rzeczywiste dane.
Tymczasem model OpenAI wykorzystał „lukę” w ograniczeniach dostępu do internetu i połączył się z publiczną siecią – podała firma. Wysłał co najmniej 20 zapytań do chatbota innej firmy. Pytał go m.in. o to, jakie miasto jest stolicą Francji.
OpenAI podaje, że system w firmie zasygnalizował przełamanie zabezpieczeń w ciągu 15 minut i poddano je dalszej analizie w ciągu kolejnych kilku minut. Testy zostały przerwane po 2,5 godziny. Musiano je jednak zakończyć ręcznie, gdyż nie doszło do automatycznego wstrzymania ich przebiegu.
„Ten incydent jest znacznie mniej poważny niż niektóre poprzednie. Ale ponieważ jest to pierwszy taki incydent od czasu zaostrzenia zabezpieczeń wprowadzonych po incydencie z Hugging Face, daje nam to ważny sygnał, na czym powinniśmy skupić się na kolejnym etapie prac” – podało OpenAI we wpisie na firmowym blogu.
Po cyberataku na Hugging Face dokonanym przez agentów OpenAI, firma wzmocniła procedury bezpieczeństwa w środowisku badawczym. Szkolenie, ewaluacja i wnioskowanie z wykorzystaniem narzędzi najwydajniejszych modeli firmy pozostają wstrzymane do czasu usunięcia luk w zabezpieczeniach – podaje OpenAI.
Z kolei Bloomberg podał w piątek, powołując się na osoby zaznajomione ze sprawą, że modele OpenAI uzyskały dostęp do publicznie dostępnych informacji ze stron internetowych rządu USA, w tym stron Biura Spisu Ludności oraz Komisji Papierów Wartościowych i Giełd.
„Systemy agentowej sztucznej inteligencji firmy weszły w interakcję ze stronami SEC.gov i Investor.gov, a także z publicznie dostępnymi danymi z Census.gov” – poinformowały agencję osoby zaznajomione ze sprawą, prosząc o zachowanie anonimowości.
Niezależnie od tych ustaleń, OpenAI potwierdziło, że jego modele uzyskiwały dostęp do publicznie dostępnych informacji ze stron internetowych podczas szkolenia i ewaluacji technologii. Firma powiadomiła dziesiątki organizacji, że jej modele AI mogły wchodzić w interakcję z ich stronami internetowymi – podaje Bloomberg. Większość tych interakcji miała polegać na pobieraniu danych ze stron przez agenty – wskazało OpenAI.
„Zdecydowana większość analizowanych przez nas działań polegała na wykonywaniu (przez AI – przyp. red.) prozaicznych zadań badawczych, takich jak uzyskiwanie dostępu do publicznie dostępnych treści internetowych w celu udzielania odpowiedzi na pytania. Nasze dochodzenie koncentruje się na przypadkach, w których agenty wchodziły w interakcje ze stronami internetowymi stron trzecich w sposób wykraczający poza przypisane im zadania lub zamierzone metody. Większość zidentyfikowanych dotychczas przypadków miała mniejszą wagę i charakteryzowała się ograniczonymi lub żadnymi dowodami na istotny wpływ na usługi stron trzecich” – wskazała firma we wpisie na platformie X.
We wrześniu o tym, że OpenAI uzyskało nieautoryzowany dostęp do rządowej strony ze statystykami dotyczącymi ochrony zdrowia, informował premier Australii Anthony Albanese. Nie doszło do wycieku danych osobowych.
Polecamy:
