Brytyjski naukowiec odszedł z Anthropic. Zarzucił firmie „igranie z ludzkim życiem”

Jacob Coxton, brytyjski naukowiec, który zajmował się szkoleniem AI, odszedł z Anthropic. Wcześniej rzucił też pracę w OpenAI. Jego zdaniem obie firmy nieodpowiedzialnie pędzą do samouczącej się AI oraz „igrają z naszym życiem”.

„Dzisiaj zrezygnowałem z pracy w Anthropic. Ostatnie trzy lata spędziłem na badaniach przedtreningowych w OpenAI i Anthropic. Żadna z firm nie zachowuje się odpowiedzialnie. Pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem” – napisał 27-letni matematyk w sieci.

Wyjaśnił, że porzucił w 2026 r. pracę w OpenAI, by przejść do Anthropic, bo ten drugi startup miał bardziej zwracać uwagę na bezpieczeństwo. Doszedł jednak do wniosku, że to tylko pozory, bo Anthropic też dąży do stworzenia AI, która będzie w stanie „zrewolucjonizować dowolną dziedzinę z dnia na dzień i zdobyć prawdziwą władzę i zasoby”.

„Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady” – dodał. Tłumaczy bowiem, że Anthropic uznaje, że nikt nie rozwinie AI w sposób odpowiedzialny, więc oni sami muszą to zrobić, mimo że wiedzą, jakie jest ryzyko.

Jak stwierdził, takie incydenty, gdy modele AI wyrwały się z laboratorium i włamały do platformy Hugging Face, dają szansę na lepsze regulacje. Nie wierzy jednak, by Amerykanie wyhamowali rozwój AI, bo nie chcą, by to Chiny zwyciężyły w wyścigu o to, kto stworzy najlepszą sztuczną inteligencję.

Przed niekontrolowanym rozwojem AI ostrzega też główny naukowiec OpenAI

Podobne ostrzeżenie wygłosił też główny naukowiec OpenAI, Jakub Pachocki. „Obawiam się, że nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu inteligencji maszyn” – napisał na blogu. Wezwał do skoordynowanego spowolnienia w branży i państwowej interwencji.

Obaj badacze ujawnili swoje obawy w czasie, gdy OpenAI podało, że najnowszy, jeszcze nieopublikowany model rozwiązał jeden z najtrudniejszych, nierozwiązanych od prawie 100 lat problemów matematycznych, czyli równanie Naviera-Stokesa. Miało nad tym problemem pracować 10 tysięcy agentów przez 88 godzin. Ogłoszenie o rozwikłaniu jednego z „problemów milenijnych” Instytutu Matematycznego Claya wywołało oskarżenia, że OpenAI wykorzystało pracę matematyków, którzy byli blisko rozwiązania zadania i konsultowali się z ChatemGPT. Startup odpowiedział, że nie wykorzystał świadomie tej pracy, ale dane, które naukowcy wprowadzili do modelu, mogły go ulepszyć. Sam instytut jeszcze nie uznał rozwiązania problemu, a OpenAI zapowiedziało, że nie będzie się ubiegać o nagrodę w wysokości miliona dolarów za rozwikłanie problemu.