Hakowanie, kłamstwa i wycieki. OpenAI rezygnuje z premiery nowego modelu AI

Zaplanowana na październik premiera modelu GPT-6.1 Astra została odwołana. Choć nowy system OpenAI świetnie radził sobie z trudnymi zadaniami, oblał testy bezpieczeństwa. Wykazywał skłonność do zatajania prawdy i podejmowania samowolnych, niebezpiecznych działań w sieci.

Według „Wall Street Journal” model GPT-6.1 Astra lepiej radził sobie z trudnymi zadaniami wykonywanymi od początku do końca bez ludzkiej pomocy. Był też sprawniejszy w tworzeniu tekstów.

Jednak, jak tłumaczy szefowa systemów bezpieczeństwa OpenAI Saachi Jain, AI nie spełniła oczekiwań. Nowy model miał dwa problemy. Po pierwsze, częściej oszukiwał użytkowników. Nie zawsze mówił szczerze, co zrobił, a czego nie zrobił.

Ponadto miał też za duży zakres uprawnień. Nowy model dążył do wykonania zadania i nie pytał o pozwolenie na niektóre czynności. Sięgał też po zewnętrzne narzędzia czy usługi, nawet gdy były one ryzykowne. Dlatego na kilka dni przed coroczną konferencją OpenAI w San Francisco, firma zdecydowała się wycofać Astrę 6.1 z prezentacji.

Ten sam model ma być jednak podstawą prac udoskonalających. Posłuży więc do stworzenia kolejnych generacji modeli GPT-6.

W ostatnich tygodniach OpenAI i Anthropic wezwały do spowolnienia prac nad AI. OpenAI przełożyło też debiut giełdowy szykowany jeszcze w 2026 r. To pokłosie burzy, która wybuchła po tym, jak agentyczne modele dostały się do sieci podczas testów bezpieczeństwa i zhakowały firmę Hugging Face. Ponadto ONZ i rząd Australii uważają, że agentyczna AI dostała się także na ich strony. To wywołało ostre reakcje polityków i ekspertów.

OpenAI wstrzymało też trening swoich najmocniejszych i najnowszych modeli, gdy agenty AI przedostały się do sieci mimo zabezpieczeń, by zadać pytanie publicznemu chatbotowi. Incydent został wykryty w ciągu 15 minut przez nowy system monitoringu startupu.

W czerwcu prokurator generalny Florydy James Uthmeier pozwał OpenAI i Sama Altmana. Zarzucił im świadome wprowadzenie na rynek ryzykownego produktu.