OpenAI broni się po zwolnieniu trojga ekspertów ds. bezpieczeństwa. „Znacząco naruszyli zaufanie”

OpenAI broni swojej decyzji o zwolnieniu trzech ekspertów zajmujących się bezpieczeństwem AI. Startup tłumaczy w piątek, że nie wyrzucono ich za podnoszenie alarmu ws. bezpieczeństwa modeli sztucznej inteligencji, lecz za „znaczące naruszenie zaufania”.

Eksperci, jak twierdzi startup, mieli podzielić się poufnymi informacjami firmowymi z niezależną grupą zajmującą się bezpieczeństwem AI. Według OpenAI zwolnieni pracownicy „złamali nasze zasady i złamali zaufanie wymagane w naszej pracy”.

Jasmine Wang, Tomek Korbak i Mikita Balesni napisali – po wyrzuceniu z pracy – list zaadresowany do rady nadzorczej OpenAI oraz do komitetów ds. bezpieczeństwa spółki – pisze CNBC. Stwierdzili w nim m.in., że firmy zajmujące się AI mogą stracić możliwość monitorowania procesów rozumowania systemów AI. Chodzi o pisemne zapisy tego, jakie działania podejmował model. Ich monitorowanie i analiza pozwalają ekspertom zrozumieć, jak AI rozwiązuje problemy.

OpenAI oczekuje wzrostu przychodów w ujęciu rocznym do ponad 70 mld dolarów

„Jako przemysł AI nie wiemy jeszcze, jak bezpiecznie odkrywać i wprowadzać modele, których nie możemy monitorować. OpenAI i inne czołowe laboratoria nie powinny więc rozwijać AI, którą coraz trudniej jest monitorować”. Wezwali więc do współpracy z niezależnymi audytorami i do pełnej transparentności we współpracy z organizacjami zajmującymi się bezpieczeństwem AI. Tylko w ten sposób da się bowiem – ich zdaniem – „uniknąć ryzyka katastrofy” – pisze „Wall Street Journal”.

Pracownicy bronią się, że nie złamali zasad OpenAI

W piśmie tym pracownicy dodali, że nie wierzą, iż złamali firmowe zasady, i że ich zwolnienie „to mrożące ostrzeżenie dla każdego, kto zostaje w OpenAI”. Zapewnili też, że w kontaktach z zewnętrznymi ekspertami działali w ramach swoich obowiązków i zgodnie z dotychczasowymi zasadami współpracy.

Rzecznik OpenAI stwierdził, że firma zgadza się z rekomendacjami badaczy. „Doceniamy ich wkład w bezpieczeństwo AI oraz ich chęć do poruszania tych kwestii. Za to nie zwalniamy ludzi” – stwierdził.

Były pracownik ostro krytykuje kulturę pracy w OpenAI. „Skończył się czas prób i błędów”

Burza wokół bezpieczeństwa modeli AI

Afera wokół zwolnienia tych ludzi to kolejny element burzy wokół bezpieczeństwa AI. OpenAI znalazło się na celowniku ekspertów i polityków, gdy jej agentyczna AI wydostała się z zamkniętego środowiska testowego i włamała się zarówno na strony australijskiego rządu, jak i na platformę Hugging Face. Po tym incydencie startup zezwolił niezależnym audytorom na przeprowadzenie badań bezpieczeństwa AI w biurach firmy. Podobne działania zapowiedział też Dario Amodei, szef Anthropic.