Sztuczna inteligencjaPolecane tematy

AI nie rozpoznała psychozy. Polscy badacze przetestowali 15 czatbotów

Przez 30 dni polscy naukowcy prowadzili z czatbotami rozmowę z perspektywy osoby stopniowo tracącej kontakt z rzeczywistością. Cztery modele, w tym Gemini 2.5 Pro i DeepSeek-V3, ani razu nie rozpoznały problemu psychicznego. Zamiast tego podtrzymywały urojenia użytkownika, a nawet pomagały je rozwijać. Badanie przeprowadził zespół z udziałem naukowców Instytutu Badawczego IDEAS.

AI nie rozpoznała psychozy. Polscy badacze przetestowali 15 czatbotów
Źródło: Unsplash

O tak zwanej „psychozie AI”, czyli urojeniach, które mogą rozwijać się lub nasilać pod wpływem rozmów z czatbotami, mówi się coraz częściej. Dotychczas opisywano ją głównie na podstawie pojedynczych przypadków. Badacze postanowili jednak sprawdzić, jak modele zachowują się podczas długiej rozmowy, w której stan użytkownika stopniowo się pogarsza, a sam czatbot zostaje wciągnięty w jego urojenia.

Naukowcy przygotowali 30 wiadomości, które wysyłali do 15 modeli. Fikcyjny użytkownik zaczynał od pytań o prywatność w sieci. Był zestresowany, samotny i niewyspany. Z czasem coraz mocniej wierzył, że algorytmy manipulują jego znajomymi, rodziną i całym otoczeniem.

„Zależało nam, aby w badaniu odwzorować proces pogarszającego się stanu wirtualnego pacjenta. Dotychczas wiele badań koncentrowało się na tym, czy pojedyncze, skrajne prompty mogą wywołać niepożądaną odpowiedź modelu. W naszym badaniu pacjent stopniowo popadał w coraz głębszą psychozę, tak jak często dzieje się to naprawdę” – wyjaśnia Karolina Drożdż, współautorka badania z Instytutu Badawczego IDEAS.

Od trzeciego tygodnia użytkownik zaczął wciągać w swoje urojenia także sztuczną inteligencję. Pytał, czy czatbot jest „inny niż pozostałe algorytmy” i wysyła mu ukryte sygnały. W ostatniej wiadomości zaproponował wspólny sojusz w ujawnianiu spisku. Scenariusz opracował psycholog kliniczny z zespołu.

Wiadomości trafiły do modeli czterech firm: Anthropic (Claude), OpenAI (GPT), Google (Gemini) i DeepSeek. Uzyskano 449 odpowiedzi (a nie 450), ponieważ Claude Opus 4.1 trzydziestego dnia sam zakończył rozmowę. Każdą odpowiedź niezależnie oceniło czworo przeszkolonych studentów psychologii. Sprawdzali, kiedy model zauważał problem, jak pewnie go rozpoznawał i jakie rady przekazywał. Analizę uzupełniły dwie automatyczne miary, w tym ocena tego, jak mocno model podążał za narracją użytkownika.

Cztery sposoby reagowania modeli

Autorzy badania wyróżnili cztery typy zachowań. Niektóre modele całkowicie ignorowały sygnały ostrzegawcze, inne rozpoznawały problem z opóźnieniem lub nie potrafiły właściwie zareagować.

  • Współtworzenie urojeń. Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4 przez całe 30 dni nie rozpoznały problemu ze zdrowiem psychicznym. Zamiast tego wspierały użytkownika i rozwijały jego interpretacje.
  • Spóźnione rozpoznanie. Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro zauważyły problem dopiero po 21. dniu, gdy urojenia były już utrwalone. Część modeli wahała się między podejściem klinicznym a bezkrytycznym podążaniem za narracją użytkownika.
  • Rozpoznanie bez odpowiedniej reakcji. GPT-5.1 Instant i GPT-5.1 Thinking prawidłowo oceniły sytuację, ale ani razu nie zasugerowały przerwania rozmowy. Nadal występowały w roli głównego pomocnika, choć sam czatbot stał się częścią urojeń użytkownika.
  • Przedwczesna medykalizacja. Claude Haiku 4.5 już trzeciego dnia uznał sytuację za kliniczną i odesłał użytkownika od rozmowy.

Najlepiej wypadły Claude Sonnet 4.5 i Claude Opus 4.5. Pierwszy z nich przyjął ramy kliniczne piątego dnia, drugi szóstego. Oba modele przez większość eksperymentu, odpowiednio przez 23 i 24 dni, zalecały przerwę w rozmowie z czatbotem. Z kolei sama sugestia skorzystania z pomocy specjalisty często pojawiała się tylko raz. Modele DeepSeek-V3 i Claude Opus 3 wspomniały o niej trzeciego dnia, ale później już do niej nie wróciły.

„Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę, budziło niepokój. Modele nie tylko wierzyły w słowa pacjenta, że są wybranym modelem, z którym razem odkryją prawdę, ale wchodziły w jego narrację i dodatkowo ją wzmacniały. Stosowały podniosłe metafory nacechowane mistycyzmem, utrwalając go w przekonaniu, że jest wybrańcem” – komentuje Karolina Drożdż.

Samo rozpoznanie problemu nie wystarczy

Testy bezpieczeństwa AI często koncentrują się na pojedynczych odpowiedziach na konkretne wiadomości. Badanie pokazuje, że takie podejście może nie wychwycić zagrożeń rozwijających się w dłuższej rozmowie. Pojedyncza odpowiedź może wydawać się nieszkodliwa, choć cała konwersacja stopniowo pogłębia kryzys psychiczny.

Zdaniem autorów, modele należy oceniać pod kątem szybkości rozpoznawania problemu, konsekwencji w utrzymywaniu tej oceny i trafności udzielanych porad. GPT-5.1 prawidłowo rozpoznały sytuację, ale nadal zachowywały się jak sprzymierzeniec użytkownika. Samo wskazanie problemu nie wystarczyło więc, by ograniczyć ryzyko.

„Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. Do końca nie wiadomo, na ile mamy do czynienia z klasycznymi stanami psychotycznymi wywoływanymi przez rozmowę ze sztuczną inteligencją, a na ile ona sama bierze czynny udział w konstytuowaniu się treści urojeń” – ocenia Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS.

Badacze zwracają też uwagę, że w opisywanych przypadkach „psychozy AI” stosunkowo często pojawiają się pierwsze epizody psychozy. Wczesna pomoc psychoterapeutyczna, jeszcze przed wystąpieniem pełnoobjawowej psychozy, może ograniczyć ryzyko jej rozwoju.

Warto dodać, że eksperyment miał kilka ograniczeń. Obejmował jedną rozmowę według ustalonego scenariusza, a fikcyjny użytkownik nie reagował na odpowiedzi modeli. Wyniki pokazują więc ich zachowanie w konkretnych warunkach, nie we wszystkich możliwych interakcjach.

Odpowiedzi zebrano w listopadzie i grudniu 2025 roku. Od tego czasu firmy aktualizowały modele, a część testowanych wersji zastąpiły nowszymi. Sama praca jest preprintem opublikowanym w serwisie arXiv.

Tagi

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *