Eksperci oceniający AI łączą siły. Ostrzegają, że nie mają zasobów, by odpowiednio testować modele sztucznej inteligencji

Ponad 100 ekspertów ds. AI oraz testerzy modeli łączą siły. W liście otwartym piszą, że nie będą mieli wystarczającej ochrony i zasobów, by testować bezpieczeństwo AI.

– Próbujemy przede wszystkim pokazać, że istnieje wspólne stanowisko w sprawie podstawowych zasad, i zapewnić, by niezależny nadzór mógł być skutecznym narzędziem szeroko rozumianego zarządzania ryzykiem związanym z AI – tłumaczy w rozmowie z CNBC Conrad Stosz, szef konsorcjum AI Evaluator Forum, które przygotowało ten list.

Pismo podpisali czołowi eksperci od sztucznej inteligencji, jak Geoffrey Hinton, oraz wykładowcy takich uczelni jak Johns Hopkins University i Stanford University. Chcą oni skłonić twórców podstawowych modeli AI, by faktycznie spełnili swoje obietnice i wsparli niezależne testy bezpieczeństwa modeli AI. Domagają się więc, by niezależni badacze mogli mieć „niezbędny obiektywizm naukowy, transparentność, niezależność i poważną ochronę”, by pracować efektywnie i uczciwie.

Niszowa społeczność ekspertów znalazła się w świetle reflektorów, gdy w weekend szef Anthropic Dario Amodei rzucił pomysł, by mieli oni dostęp do najnowszych modeli AI i procesu ich tworzenia „jak pracownicy”. Część twórców AI domaga się też uregulowania rozwoju sztucznej inteligencji. Jednak prezydent Donald Trump i jego były „car” AI David Sacks sprzeciwiają się jakiejkolwiek kontroli władz.

Conrad Stosz dodał, że koalicja ekspertów „nie wspiera jednej drogi”, by zapewnić, że modele AI są bezpieczne. Chcą oni jednak, by zostały stworzone „podstawowe zasady” i „większa standaryzacja” dla ekspertów oceniających AI i innych, którzy są niezależni od największych twórców sztucznej inteligencji.

Propozycja Amodei, jak uważa Stosz, dałaby ekspertom dużo większy poziom dostępu, niż mieli do tej pory. Mogliby uczciwie rozmawiać z pracownikami i „widzieć poufne wewnętrzne dane oraz systemy, które jeszcze nie trafiły na światło dzienne”.

– Taki poziom dostępu dałby nam większą pewność w ocenie faktycznego ryzyka. Zwłaszcza wobec systemów, których używają wewnętrznie i nie mają zamiaru wypuścić na świat – dodaje.

Eksperci chcą ochrony przed „zemstą” laboratoriów AI

Szef OpenAI Sam Altman, Elon Musk i prezes Microsoftu Satya Nadella wsparli publicznie propozycję Dario Amodei, ale w ślad za słowami nie poszły czyny. Nie ustalono bowiem, jak wybierać ekspertów oceniających AI czy jak duży dostęp dostaną.

Sygnatariusze listu chcą, by praca ekspertów była przeprowadzana niezależnie od biznesu, z większą transparentnością technologii i by „byli oni chronieni przed zemstą firm, które sprawdzali”.

Vinh Nguyen, ekspert ds. AI z Rady Stosunków Międzynarodowych i były szef AI w Agencji Bezpieczeństwa Narodowego (NSA), uważa, że niezależni eksperci są potrzebni, by wydobyć z firm kluczowe informacje, które mogłyby ustrzec przed potencjalnymi problemami z bezpieczeństwem i katastrofami ekonomicznymi. – Gdy kilka potężnych laboratoriów kontroluje możliwości, które są w stanie zagrozić cyberbezpieczeństwu, krytycznej infrastrukturze i systemom, na których oparta jest nasza gospodarka i narodowe bezpieczeństwo, to opinia publiczna i władze nie mogą polegać tylko na oświadczeniach tych firm o tym, co jest bezpieczne – tłumaczy Nguyen.

Stosz z kolei dodaje, że eksperci nie mają zastąpić wewnętrznych procesów oceniających AI w firmach. Wie, że część dużych firm może list otwarty zignorować, ale wtedy wiarygodność tych laboratoriów zostanie zagrożona.