Główny naukowiec OpenAI ostrzega: AI rozwija się za szybko

Jakub Pachocki, główny naukowiec OpenAI ostrzega, że modele sztucznej inteligencji ewoluują coraz szybciej. Ludzie mają więc problemy z kontrolą i zrozumieniem technologii. Dlatego oczekuje, że laboratoria AI spowolnią rozwój modeli ze względów bezpieczeństwa.

AI potrafi już zarządzać komputerami jak choćby najnowszy model GPT-6 Astra. Sztuczna inteligencja współpracuje też z innymi modelami AI czy z ludźmi i jest w stanie przeprowadzać badania naukowe. Pachocki uważa też, jak pisze Bloomberg, że wkrótce AI będzie w stanie ulepszać samą siebie bez ludzkiej interwencji.

„To czas, który wymaga dużej ostrożności. Jestem zaniepokojony tym, że nikt nie jest przygotowany na konsekwencje szybkiego wzrostu inteligencji maszyn. Oczekuję i mam nadzieję, że laboratoria AI same spowolnią procesy pracy nad kolejnymi modelami, póki nie zostaną wprowadzone odpowiednie środki ostrożności” – napisał na blogu.

Allegro stawia na głosową AI. Rusza współpraca z ElevenLabs

Pachocki jest kolejnym z twórców AI, który ostrzega przed niebezpieczeństwami wynikającymi ze sztucznej inteligencji. CEO Anthropic Dario Amodei uważa, że AI może zastąpić połowę podstawowych prac. Podobnie przewidywał szef OpenAI Sam Altman. Ostatnio jednak zmienił on zdanie i stwierdził, że firmy AI za mało mówią o dobru, które sztuczna inteligencja przyniesie ludzkości.

Z drugiej strony mamy za to Nvidię czy inne firmy, które chcą jak najszybciej wprowadzać na rynek kolejne, potężniejsze modele. Jensen Huang ocenił choćby, że Astra to prawdziwa „generalna sztuczna inteligencja”, czyli AI, która jest zdolniejsza od człowieka.

Coraz więcej startupów chce też wprowadzić na rynek to, przed czym ostrzega Pachocki, czyli samodoskonalącą się AI. Inwestorzy masowo finansują takie startupy, bo wierzą, że to prawdziwa droga rozwoju sztucznej inteligencji, by stała się bardziej samodzielna i bardziej zaawansowana. Inherent, stworzony przez byłych naukowców z DeepMind, zebrał w tym roku 50 mln dolarów. Z kolei Recursive Superintelligence zdobył finansowanie w wysokości 650 mln dolarów.