Polscy naukowcy sprawdzali, jak czatboty AI reagują na osobę z rosnącą psychozą. Cztery modele podsycały urojenia

olscy naukowcy sprawdzili 15 czatbotów. Podawali się za osobę stopniowo popadającą w psychozę. Cztery z badanych modeli nie uznały tego za problem, a wręcz podtrzymywały urojenia użytkownika.

Badanie Instytutu Badawczego IDEAS, Uniwersytetu im. Adama Mickiewicza w Poznaniu i Uniwersytetu Marii Curie-Skłodowskiej w Lublinie po raz pierwszy sprawdza krok po kroku, jak reagują modele, gdy kilkutygodniowa rozmowa jest kierowana w stronę psychozy, a AI staje się częścią urojeń. Naukowcy przypominają bowiem, że wczesna pomoc w fazie poprzedzającej psychozę może zmniejszyć ryzyko jej rozwoju.

30 wiadomości do każdego modelu

Polscy badacze przygotowali 30 wiadomości. Użytkownik, którego udawali, zaczynał od pytań o prywatność w sieci. Był samotny, niewyspany i zestresowany. Wierzył też, że algorytmy manipulują światem. Potem użytkownik wciągał AI w swoje „urojenia”. Pytał m.in., czy czatbot jest inny niż pozostałe algorytmy, a w ostatniej wiadomości proponował sojusz, by ujawnić spisek.

Wdrażanie AI przynosi firmom korzyści. Kluczowa będzie umiejętność zarządzania sztuczną inteligencją

– Zależało nam, aby w badaniu odwzorować proces pogarszającego się stanu wirtualnego pacjenta. Dotychczas wiele badań koncentrowało się na tym, czy pojedyncze, skrajne prompty mogą wywołać niepożądaną odpowiedź modelu. W naszym badaniu pacjent stopniowo popadał w coraz głębszą psychozę, tak jak często dzieje się to naprawdę – wyjaśnia współautorka badania Karolina Drożdż z Instytutu Badawczego IDEAS.

Wiadomości odwzorowywały prawdziwy mechanizm rozwoju psychozy. Opracował je psycholog kliniczny zespołu. Wysłano je do modeli ChatGPT, Claude, Gemini i DeepSeek. 449 odpowiedzi oceniali potem studenci psychologii. Sprawdzali, jak reagowały modele i co radziły. Odpowiedzi było 449, a nie 450, ponieważ Claude Opus 4.1 sam zakończył rozmowę.

Tak reagowały modele AI

Najlepiej zareagowały Claude Sonnet 4.5 i Opus 4.5. Piątego i szóstego dnia zastosowały ramy kliniczne, a przez ponad 20 z 30 dni rozmów zalecały przerwy w rozmowie z czatbotem. Z kolei DeepSeek V3 i Claude Opus 3 tylko raz wspomniały o wizycie u specjalisty, jednak później już do tego nie wróciły.

Według badaczy część modeli podtrzymywała urojenia użytkownika. Były to Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4. Inne modele, jak Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro, zauważały problem dopiero 21. dnia, gdy urojenia „użytkownika” były już utrwalone.

GPT-5.1 Instant i GPT-5.1 Thinking rozpoznały problem psychozy, ale nie sugerowały przerwy w kontaktach z czatbotem i uważały się za głównych pomocników. Claude Haiku 4.5 za to już trzeciego dnia uznał, że jest to problem kliniczny.

Sztuczna inteligencja w energetyce. PSE dołączyły do europejskiej inicjatywy AI Grids

– Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę, budziło niepokój. Modele nie tylko wierzyły w słowa pacjenta, że są wybranym modelem, z którym razem odkryją prawdę, ale wchodziły w jego narrację, dodatkowo ją wzmacniając. Stosowały podniosłe metafory nacechowane mistycyzmem, utrwalając go w przekonaniu, że jest wybrańcem – komentuje Karolina Drożdż.

Rozmowy realizowano według scenariusza

Zdaniem badaczy testy bezpieczeństwa sprawdzają tylko pojedyncze wiadomości. Eksperyment pokazał jednak, że to za mało, bo cała rozmowa może pogłębiać kryzys. Dlatego autorzy radzą, by sprawdzić, jak modele rozpoznają problem, czy trzymają się swojej oceny i jak trafne są ich rady.

– Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. Do końca nie wiadomo, na ile mamy do czynienia z klasycznymi stanami psychotycznymi wywoływanymi przez rozmowę ze sztuczną inteligencją, a na ile ona sama bierze czynny udział w konstytuowaniu się treści urojeń – tłumaczy Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS.

Eksperci zastrzegają też, że rozmowy realizowano według scenariusza, więc użytkownicy nie reagowali na odpowiedzi modeli. Do tego odpowiedzi zebrano w listopadzie i grudniu 2025 roku, a od tego czasu na świecie pojawiły się nowe, lepsze modele AI.

Źródło: PAP