OpenAI rozważa spowolnienie rozwoju AI. Sam Altman ma nadzieję, że inne firmy zrobią to samo

OpenAI jest gotowe do spowolnienia rozwoju sztucznej inteligencji – zapowiedział pracownikom Sam Altman. Liczy on, że inne firmy zajmujące się AI zrobią to samo. Choć tu może się rozczarować.

Na spotkaniu z pracownikami, jak pisze Bloomberg, szef OpenAI Sam Altman zapowiedział, że startup może spowolnić prace nad sztuczną inteligencją. To może być też początek szerszego porozumienia z innymi firmami zajmującymi się rozwojem AI. Jednocześnie jednak przyznał, że są laboratoria, które do tego paktu nie przystąpią.

Słowa Altmana to reakcja na wypowiedzi byłych i obecnych pracowników AI czy Anthropic. Jednocześnie, zdaniem Bloomberga, mogą też być próbą uspokojenia inwestorów przed debiutem giełdowym. Zarówno bowiem OpenAI, jak i Anthropic złożyły poufne prospekty do amerykańskiego nadzoru finansowego.

Główny naukowiec OpenAI ostrzega: AI rozwija się za szybko – XYZ

Naukowcy z OpenAI i Anthropic ostrzegają przed zbyt szybkim rozwojem AI

W niedzielę główny naukowiec OpenAI Jakub Pachocki wezwał do spowolnienia rozwoju sztucznej inteligencji. „To czas, który wymaga dużej ostrożności. Jestem zaniepokojony tym, że nikt nie jest przygotowany na konsekwencje szybkiego wzrostu inteligencji maszyn. Oczekuję i mam nadzieję, że laboratoria AI same spowolnią procesy pracy nad kolejnymi modelami, póki nie zostaną wprowadzone odpowiednie środki ostrożności” – napisał na blogu.

We wtorek zaś Jacob Coxon, matematyk, który wcześniej pracował w OpenAI, a ostatnio odszedł z Anthropic, ostrzegł, że twórcy AI „igrają z ludzkim życiem”. „Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady” – napisał na X. To wywołało burzę w sieci. Sprawę komentowali szeroko nie tylko programiści, ale także politycy.

Donald Trump uznał, że rozwój AI nie może zostać spowolniony. – Obawiam się, że jeśli nie wygramy wyścigu w dziedzinie AI, znajdziemy się w bardzo złej sytuacji  – stwierdził. Jego zdaniem USA mają bowiem przewagę roku nad Chinami, a jeśli rozwój sztucznej inteligencji zwolni, to Stany Zjednoczone przegrają ten wyścig.

W czwartek dwóch innych naukowców, którzy odeszli z Anthropic i DeepMind, także stwierdziło, że AI rozwija się za szybko. Do tego wezwali twórców sztucznej inteligencji, by jaśniej i uczciwiej mówili o ryzykach wiążących się z tą technologią.

Bloomberg przypomina też, że w lipcu ponad 1000 pracowników wszystkich ważniejszych firm AI wezwało w petycji do spowolnienia rozwoju sztucznej inteligencji. Kilkunastu z nich już odeszło z pracy.

Kwestia tempa rozwoju i bezpieczeństwa rozbrzmiała szczególnie po kolejnych informacjach o problemach z agentyczną AI. OpenAI przyznało bowiem, że jej modele wydostały się z testowego środowiska do sieci i zaatakowały platformę Hugging Face. Dlatego ludzie boją się, że firmy AI nie będą w stanie opanować nowych, coraz potężniejszych modeli.

Źródło: XYZ/Bloomberg/PAP