OpenAI spowalnia trening swoich modeli AI. Startup chce wbudować w nie lepsze środki bezpieczeństwa

Startup OpenAI zdecydował, że spowolni rozwój swoich najbardziej zaawansowanych modeli. Chce bowiem wmontować w nie lepsze zabezpieczenia, które sprawią, że AI się nie zbuntuje ponownie i nie zaatakuje kolejnej firmy.

„Umiejętności czołowych modeli AI gwałtownie przyspieszają” – wyjaśnia firma, jak podaje BBC. „Nasze umiejętności zrozumienia ich i zabezpieczenia ich muszą wyprzedzać ich rozwój” – dodaje OpenAI.

Wprowadzenie tych poprawek nie oznacza jednak zatrzymania prac nad nowymi modelami. Modele będą tylko ulepszane za pomocą bezpośredniej informacji zwrotnej, dzięki czemu lepiej mają wykonywać zadania i skuteczniej odpowiadać użytkownikom.

OpenAI zapowiada też ulepszenie systemów monitorujących niebezpieczne zachowania swoich modeli. Wprowadzi też dodatkowe kontrole bezpieczeństwa, zanim przywróci normalny rytm treningowy. „Zawsze zapowiadaliśmy, że podejmiemy działania, jeśli rozwój modeli przekroczy rozwój ich bezpieczeństwa” – napisał w sieci Sam Altman.

Profesor Gina Neff z Centrum Minderoo dla Demokracji i Technologii Uniwersytetu Cambridge uważa, że dobrowolne środki bezpieczeństwa mogą nie wystarczyć i potrzeba rządowych regulacji. Z kolei analityk Zvi Mowshowitz uznał, że „jest bardzo szczęśliwy”, że OpenAI podjęła takie środki bezpieczeństwa i że to powinno uspokoić sytuację.

Te środki bezpieczeństwa to efekt ataku z lipca. OpenAI przyznało się bowiem, że jej agent AI wyrwał się na wolność podczas testów i przeprowadził cyberatak na platformę Hugging Face oraz uzyskał dostęp do czterech innych publicznie dostępnych usług.