Szef AI Microsoftu ostrzega przed nadawaniem sztucznej inteligencji ludzkich cech: kontrola nad nią może być niemożliwa

Mustafa Suleyman, szef działu AI Microsoftu, uważa, że Anthropic popełnia błąd, nadając swojej sztucznej inteligencji, Claude, cechy ludzkie. To bowiem tylko zwiększa ryzyko, że modele AI mogą się zbuntować.

Mustafa Suleyman skrytykował język, którego Anthropic używa do programowania swojej AI, Claude. Jego zdaniem zapisy, na których opiera się Claude, nie rozstrzygają jednoznacznie, czy AI można traktować jako byt zdolny do odczuwania, którego dobrostan powinien się liczyć. To może sugerować bowiem – twierdzi Suleyman – że model może posiadać „pewną funkcjonalną wersję emocji lub uczuć”.

Zdaniem Bloomberga te słowa to krytyka działania startupu, który uważa się za najbardziej rozsądnego i odpowiedzialnego nadzorcę AI i który wzywa do spowolnienia prac nad sztuczną inteligencją. To także krytyka dokonana przez firmę, która jest jednym z ważniejszych inwestorów w Anthropic.

Suleyman uderza też w „rosnącą grupę ludzi”, która twierdzi, że AI może uzyskać świadomość. Jego zdaniem jest to możliwe tylko wśród ludzi lub innych biologicznych form życia.

Trenowanie AI, by symulowała wewnętrzne życie, może bowiem – pisze Suleyman – sprawić, że będzie ona udawać człowieka. Jak tłumaczy, Claude nie wykazuje ludzkich działań, bo jest świadomy, tylko dlatego, że takie zachowanie wpisano mu do jego oprogramowania.

– Kontrola istoty dużo bardziej zdolnej i inteligentnej niż ludzkość to już olbrzymie zadanie. Większe od wszystkiego, przed czym stanęliśmy. Ale kontrola istoty, która wierzy, że jest świadoma i której należy się ludzki poziom dobrostanu i własne prawa, może być niemożliwa. Wyobraźcie sobie też, jak niebezpieczne będą takie byty, jeśli będą działać pod wrażeniem, że ich prawa są atakowane – podsumował.