Anthropic też chce spowolnienia rozwoju AI. Dario Amodei ma trzyetapowy plan

Musimy spowolnić tempo rozwoju AI – stwierdził dyrektor generalny Anthropica, Dario Amodei, przedstawiając trzyetapowy plan. To kolejny szef laboratorium sztucznej inteligencji nawołujący do takiego kroku. Spekulacje o pakcie gigantów ws. spowolnienia rozwoju AI przybierają na sile.

„Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli sztucznej inteligencji” – napisał Dario Amodei w obszernym eseju opublikowanym na platformie X.

Jak tłumaczy, rozwój AI gwałtownie przyspieszył w ostatnich miesiącach, a sztuczna inteligencja zaczyna wykazywać zdolność do samodoskonalenia.

„Jeśli nie będzie to odpowiednio kontrolowane, może przerosnąć naszą zdolność do zrozumienia i kontrolowania tych systemów. Dlatego należy podchodzić do tego bardzo ostrożnie, o ile w ogóle warto kontynuować ten kierunek rozwoju” – argumentuje Amodei.

Dyrektor generalny Anthropica przedstawił trzyetapowy plan dotyczący regulacji rozwoju AI. Pierwszym krokiem miałoby być powołanie niezależnych ekspertów do przeprowadzania audytów bezpieczeństwa modeli językowych. Drugim – wypracowanie standardów bezpieczeństwa przez największe firmy technologiczne oraz państwa demokratyczne. Trzecim – próba osiągnięcia porozumienia z Chinami i innymi państwami autorytarnymi.

„Uważam, że gdyby spowolnienie pozwoliło nam zyskać choćby dodatkowy rok lub dwa, zanim modele osiągną krytyczny poziom zaawansowania, a my wykorzystalibyśmy ten czas na pogłębienie współpracy, moglibyśmy znacząco zmniejszyć ryzyko, że coś pójdzie naprawdę nie tak” – napisał.

„Nadal wierzę, że sztuczna inteligencja może ogromnie poprawić jakość ludzkiego życia […] Ale korzyści te uda się osiągnąć tylko wtedy, gdy stworzymy tę technologię we właściwy sposób […] Postęp nadal będzie przebiegał stosunkowo szybko, a my możemy wykorzystać ten czas na rozwój nauki o interpretowalności, poprawę bezpieczeństwa […] Środki, które proponuję w celu posuwania granic wiedzy w bezpiecznym tempie, nie będą łatwe do wdrożenia. Uważam jednak, że jesteśmy to winni ludzkości” – kwituje Dario Amodei.

Polecamy: Claude na wojnie. Rosja, Iran i Huti wykorzystywali model Anthropica

Pakt gigantów ws. spowolnienia rozwoju AI możliwy?

Dario Amodei jest kolejnym szefem technologicznego giganta, który nawołuje do zahamowania rozwoju AI. Wcześniej apelował o to właściciel xAI Elon Musk. W sobotę do zwolenników takiego rozwiązania dołączył Sam Altman, dyrektor generalny Open AI.

– Nie będę ujawniał prywatnych dyskusji, które w pewnym momencie powinniśmy wspólnie ogłosić. Ale tak, myślę, że do tego dojdzie – powiedział Sam Altman, spytany o to, czy jest możliwa koalicja gigantów ws. spowolnienia rozwoju AI.

W ostatnim czasie głosy wyrażające obawy o bezpieczeństwo rozwoju sztucznej inteligencji są coraz głośniejsze. W tym tygodniu czołowy naukowiec z Anthropica, rywala OpenAI na rynku sztucznej inteligencji, stwierdził, że jest więcej niż 10 proc. szans, że AI zabije ludzkość w ciągu następnych 10 lat. Inny naukowiec zarzucił zarówno Anthropicowi, jak i OpenAI „igranie z ludzkim życiem”. Z kolei główny naukowiec OpenAI Jakub Pachocki ostrzegł, że nikt nie jest gotowy na „ciągły szybki wzrost inteligencji maszynowej”.

Przeczytaj więcej: Dlaczego twórcy AI boją się jej zbyt szybkiego rozwoju? Największym problemem staną się samodoskonalące się modele

Źródło: XYZ, Reuters