Dlaczego twórcy AI boją się jej zbyt szybkiego rozwoju? Największym problemem staną się samodoskonalące się modele

Dlaczego eksperci zajmujący się AI ostrzegają przed jej zbyt szybkim rozwojem? Chodzi o osiągnięcie przez sztuczną inteligencję zdolności do samoulepszania modeli.

Evan Hubinger, jeden z czołowych naukowców Anthropic, napisał na X, że – jego zdaniem – jest więcej niż 10 proc. szans, że AI zabije ludzkość w ciągu następnych 10 lat. „Boję się, że z modelu o rekursywnym samoulepszaniu powstanie superinteligencja. Zwłaszcza że rozwój AI dzieje się szybciej, niż zakładaliśmy” – dodał.

To sytuacja, jak pisze CNBC, w której AI osiąga zdolność „rekursywnego samoulepszania”. Czyli potrafi sama tworzyć swoje coraz lepsze wersje. Naukowcy boją się, że wtedy sztuczna inteligencja przejmie kontrolę nad trenowaniem nowych modeli, a ludzie stracą nad tym procesem kontrolę.

Brytyjski naukowiec odszedł z Anthropic. Zarzucił firmie „igranie z ludzkim życiem”

Przed takimi scenariuszami ostrzegają zarówno same firmy, jak i ludzie dla nich pracujący. „Nasze dane pokazują, że Claude przyspiesza rozwój AI. To ścieżka do rekursywnego samodoskonalenia, czyli do AI, która autonomicznie buduje lepszego następcę swojego modelu. To dzieje się szybciej, niż sądziliśmy, a implikacje tego działania wymagają dużej uwagi” – napisał startup Anthropic w czerwcu na X. W sierpniu z kolei Anthropic przyznało, że jego inżynierowie piszą obecnie osiem razy tyle kodu oprogramowania na kwartał, ile robili między 2021 a 2025 r.

– AI jest już na poziomie, że sama może wprowadzać nowe pomysły do swojego rozwoju. Ciężko więc przewidzieć, w którym punkcie ten proces gwałtownie przyspieszy rozwój jej możliwości – tłumaczy w rozmowie z CNBC prof. Vincent Conitzer z Carnegie Mellon University.

Ostrzeżenia naukowców OpenAI i Anthropic

W sobotę, 6 września, główny naukowiec OpenAI Jakub Pachocki ostrzegał też, że nikt nie jest gotowy na „ciągły szybki wzrost inteligencji maszynowej”. „Jeśli rozwój AI będzie szedł obecną ścieżką, to systemy, które zobaczymy w ciągu najbliższych lat, będą się rozwijać jeszcze szybciej i same napędzać swój rozwój” – napisał na blogu.

Główny naukowiec OpenAI ostrzega: AI rozwija się za szybko

Dlatego też wpis Jacoba Coxona, matematyka Anthropic, wcześniej pracującego dla OpenAI, który napisał, że odchodzi z firmy, bo „igra ona z ludzkim życiem”, dążąc do samoulepszającej się AI.

– Trudno nie zauważyć, jak niebezpieczny jest pęd do samoulepszającej się AI – mówi CNBC Jasmine Wang z OpenAI. – Nie ma dobrego, działającego naukowego planu, który zmniejszyłby ryzyko związane z taką sztuczną inteligencją – wtóruje jej Anna Wang z Anthropic.

Trzy scenariusze rozwoju AI

Dlaczego naukowcy tak boją się takiego rozwoju AI? Anthropic przewiduje bowiem trzy scenariusze. Pierwszy, najmniej prawdopodobny, to taki, że rozwój się zatrzyma, a sztuczna inteligencja przestanie być ulepszana. To, zdaniem firmy, najmniej prawdopodobny rozwój zdarzeń.

Drugi, bardziej prawdopodobny, to taki, w którym laboratoria AI kontynuują pracę, a kontrolę nad modelami zachowują ludzie.

Jest jeszcze trzeci scenariusz. AI osiąga zdolność do samodoskonalenia, a ludzie mają coraz mniejszy wpływ na jej rozwój. „Największą niewiadomą pozostaje to, czy w przyszłości uda się rozwiązać problem alignmentu – czyli zapewnić, że AI będzie dążyć do celów zgodnych z ludzkimi – czy też nie” – podsumowuje Anthropic.