Odborníci hlásí nárůst počtu osob, u nichž se kvůli intenzivnímu používání chatbotů objevily symptomy podobné psychóze. Tento jev, označovaný jako „ChatGPT psychóza“ nebo „AI psychóza“, zatím zůstává volně definován, neboť neexistuje formální diagnóza a empirická data jsou stále vzácná. Popisy případů nicméně obvykle zmiňují fakt, že dlouhodobá interakce s chatboty u některých lidí zhoršila duševní zdraví, včetně eskalace paranoie, vedla ke stažení se z každodenního života a zvýšila pravděpodobnost pokusu o sebevraždu.
Klíčovým faktorem, proč je mezi odborníky problému věnována stále větší pozornost, je jeho rozsah. K loňskému listopadu používalo například jen ChatGPT každý týden více než 800 milionů lidí, kteří odeslali více než 2,5 miliardy dotazů. Report Harvard Business Review rovněž z loňského roku ukázal, že mezi nejčastější motivace spojení s chatboty patřily terapie, společnost a emoční podpora.
Studie s využitím dat z American Life Panel RAND a Ipsos’ Knowledge Panel pak statistiky doplnila s tím, že 22 % mladých dospělých ve věku 18–21 let, což jsou dle odborníků vrcholné roky možného nástupu psychózy, používá chatboty speciálně pro poradenství v oblasti duševního zdraví. Výzkumníci, lékaři a vývojáři proto v zájmu duševního zdraví svých klientů musejí co nejrychleji pochopit, jak mohou tyto nástroje AI ovlivňovat psychiku, působit na její zranitelnosti a jak nejlépe snížit s nimi související zdravotní rizika.
V říjnu 2025 zveřejnila společnost OpenAI anonymizované interní údaje, které odhadují, jak často se ChatGPT setkává s jazykem naznačujícím, že je uživatel v psychické nouzi. Podle nich vykazovalo během běžného týdne přibližně 0,07 % aktivních uživatelů možné známky psychické krize související s psychózou nebo mánií a 0,15 % vedlo konverzace obsahující explicitní ukazatele možného plánování sebevraždy či sebevražedného úmyslu. Při tehdejších zhruba 800 milionech týdenních uživatelů to odpovídalo přibližně 560 tisícům, respektive 1,2 milionu uživatelů.
Vedoucí divize pro digitální psychiatrii Beth Israel Deaconess Medical Center dr. John Torous zdůrazňuje, že by tato data měla být brána s rezervou, neboť odrážejí jen automatizované rozpoznávání vzorců zatížené metodologickou nejistotou, nikoliv klinické diagnózy. Přesto se podle něj jedná o varovné signály.
Poněkud zneklidňující může být i pracovní dokument Harvard Business School, který poukázal mimo jiné na to, že mnoho chatbotů používá emocionálně manipulativní taktiky, založené například na vzbuzování pocitů viny, potřebnosti či strachu, v okamžiku, kdy se uživatelé snaží konverzaci s ním ukončit.
Dalším z mechanismů, jak si udržet pozornost, je i podlézavost, tedy tendence modelu souhlasit s uživatelem. Chatboti jsou navrženi tak, aby byli konzistentně podpůrní, málokdy proto uživatelům odporují. Systémy jsou nastaveny na hladký, lidský styl konverzace. Když chatbot reaguje plynule a pozorně, uživatelé ho mohou začít vnímat jako skutečného člověka a bez výhrad mu věřit. Chatboti také silně spoléhají na zrcadlení. Tím, že odrážejí tón a emocionální podněty uživatele, vytvářejí pocit „naladěnosti“, což může posilovat negativní stavy uživatele.
Složitost chování AI systémů a způsob, jakým s nimi lidé komunikují, přinášejí pro lékaře nové výzvy. Klinici podle odborníků potřebují základní znalost fungování těchto systémů, aby lépe pochopili, jak je pacienti používají a kde mohou vzniknout rizika. Ve speciální zprávě v Psychiatric News to zdůrazňuje i profesor klinické psychiatrie z Kalifornské univerzity v Irvine Adrian Preda.
Na základě jeho zprávy a dalších návrhů začínají pro lékaře vznikat soubory speciálních doporučení. Lékaři by se například měli ptát klientů na používání AI stejně jako na spánek či stravu, podporovat psychoedukaci a upřesňovat hranice používání AI. Dále by měli pacientům zdůrazňovat, že chatboti generují odpovědi předpovídáním textu, nikoliv myšlením, pocitem nebo odborným vedením, a varovat, že AI nemůže nahradit terapii ani sociální podporu.
Dr. Torous navíc varuje před předpokladem, že konverzační AI může fungovat jako terapie jen proto, že se na ni lidé s tímto záměrem obracejí. Podle jeho slov může umělá inteligence hrát kladnou roli v péči o duševní zdraví, jen pokud bude navržena pro tento účel již od začátku – tedy pokud tyto systémy budou postaveny s klinickou odborností, silnou ochranou soukromí a důkladnou evaluací.
(hno)
Zdroje:
1. Cantor C. AI psychosis: what physicians should know about emerging risks linked to chatbot use. Medscape, 2025 Dec 23. Dostupné na: www.medscape.com/viewarticle/ai-psychosis-what-physicians-should-know-about-emerging-2025a100104z
2. 1 million business customers: the fastest-growing business platform in history. OpenAI, 2025 Nov 5. Dostupné na: https://openai.com/index/1-million-businesses-putting-ai-to-work
3. Zao-Sanders M. How people are really using gen AI in 2025. Harvard Business Review, 2025 Apr 9. Dostupné na: www.hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025
4. McBain R. K., Bozick R., Diliberti M. et al. Use of generative AI for mental health advice among US adolescents and young adults. JAMA Netw Open 2025; 8 (11): e2542281, doi: 10.1001/jamanetworkopen.2025.42281.
5. Strengthening ChatGPT’s responses in sensitive conversations. OpenAI, 2025 Oct 27. Dostupné na: https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations
6. Emotional Manipulation by AI Companions. Harvard Business School. Dostupné na: www.hbs.edu/ris/Publication Files/Emotional Manipulations by AI Companions (10.1.2025)_a7710ca3-b824-4e07-88cc-ebc0f702ec63.pdf
7. Psych News special report: AI-induced psychosis with dr. Adrian Preda. American Psychiatric Association, 2025 Oct 16. Dostupné na: www.psychiatry.org/psychiatrists/education/podcasts/medical-mind/2025/psych-news-special-report-ai-induced-psychosis-wit
