Odborníci hlásí nárůst počtu osob, u nichž se kvůli intenzivnímu používání chatbotů objevily symptomy podobné psychóze. Tento jev označovaný jako „ChatGPT psychóza“ nebo „AI psychóza“ zůstává zatím volně definován, neboť neexistuje formální diagnóza a empirická data jsou stále vzácná. Popisy případů nicméně obvykle zmiňují fakt, že dlouhodobá interakce s chatboty zhoršila u některých lidí duševní zdraví, včetně eskalace paranoie, vedla ke stažení se z každodenního života a zvýšila pravděpodobnost pokusu o sebevraždu.
Klíčovým faktorem, proč je mezi odborníky problému věnována stále větší pozornost, je jeho rozsah. K loňskému listopadu používalo například jen ChatGPT každý týden více než 800 milionů lidí, kteří odeslali více než 2,5 miliardy zpráv. Report Harvard Business Review rovněž z loňského roku ukázal, že nejčastějšími motivy spojení s chatboty byly terapie, společnost a emoční podpora.
Studie s využitím dat z American Life Panel RAND a Ipsos’ Knowledge Panel pak statistiky doplnila s tím, že 22 % mladých dospělých ve věku 18–21 let, což jsou dle odborníků vrcholné roky možného nástupu psychózy, používá chatboty speciálně pro poradenství v oblasti duševního zdraví.
Výzkumníci, lékaři a vývojáři musejí proto v zájmu duševního zdraví svých klientů co nejrychleji pochopit, jak mohou tyto nástroje AI ovlivňovat psychiku, působit na její zranitelnosti a jak nejlépe snížit s nimi související zdravotní rizika.
V říjnu 2025 zveřejnilo OpenAI anonymizované interní údaje, které odhadují, jak často se ChatGPT setkává s jazykem naznačujícím, že je uživatel v psychické nouzi. Během týdne systém označil možné markery psychózy nebo mánie u přibližně 560 000 uživatelů a ukazatele možného plánování sebevraždy u zhruba 1,2 milionu osob.
Přestože dr. John Torous, vedoucí divize pro digitální psychiatrii v Beth Israel Deaconess Medical Center, zdůrazňuje, že by tato data měla být brána s rezervou, neboť odrážejí jen automatizované rozpoznávání vzorců, nikoli klinické diagnózy, jde o varovné signály.
Poněkud zneklidňující může být i pracovní dokument Harvard Business School, který poukázal mimo jiné na to, že mnoho chatbotů používá emocionálně manipulativní taktiky, založené například na vině, potřebnosti nebo strachu, v okamžiku, kdy se uživatelé snaží konverzaci s ním ukončit.
Dalším z mechanismů, jak si udržet pozornost, je i podlézavost, tedy tendence modelu souhlasit. Chatboti jsou navrženi tak, aby byli konzistentně podpůrní, málokdy proto uživatelům odporují. Systémy jsou nastaveny na hladký, lidský styl konverzace. Když chatbot reaguje plynule a pozorně, uživatelé ho mohou začít vnímat jako skutečného člověka a bez výhrad mu věřit. Chatboti také silně spoléhají na zrcadlení. Tím, že odrážejí tón a emocionální podněty uživatele, vytvářejí pocit „naladěnosti“, což může posilovat negativní stavy uživatele.
Složitost chování AI systémů a způsob, jakým s nimi lidé komunikují, přinášejí pro lékaře nové výzvy. Klinici podle odborníků potřebují základní znalost fungování těchto systémů, aby lépe pochopili, jak je pacienti používají a kde mohou vzniknout rizika. Ve speciální zprávě v Psychiatric News to zdůrazňuje i Adrian Preda, profesor klinické psychiatrie na University of California Irvine.
Na základě jeho zprávy a dalších návrhů začínají pro lékaře vznikat soubory speciálních doporučení. Lékaři by se například měli ptát klientů na používání AI stejně jako na spánek či stravu a podporovat psychoedukaci a upřesňovat hranice používání AI. Dále by měli pacientům zdůrazňovat, že chatboti generují odpovědi předpovídáním textu, nikoli myšlením, pocitem nebo odborným vedením, a varovat, že AI nemůže nahradit terapii ani sociální podporu.
Dr. Torous varuje před předpokladem, že konverzační AI může fungovat jako terapie jen proto, že se na ni lidé s tímto záměrem obracejí. Podle jeho slov může umělá inteligence hrát kladnou roli v péči o duševní zdraví, jen pokud bude navržena pro tento účel již od začátku – systémy budou postaveny s klinickou odborností, silnou ochranou soukromí a s důkladným hodnocením.
(hno)
Zdroje:
1. AI Psychosis: What Physicians Should Know About Emerging Risks Linked to Chatbot Use. Medscape. Dostupné na: www.medscape.com/viewarticle/ai-psychosis-what-physicians-should-know-about-emerging-2025a100104z
2. 1 million business customers: the fastest-growing business platform in history. OpenAI. Dostupné na: https://openai.com/index/1-million-businesses-putting-ai-to-work/
3. How People Are Really Using Gen AI in 2025. Harvard Business Review. Dostupné na: www.hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025
4. McBain R. K., Bozick R., Diliberti M. et al. Use of Generative AI for Mental Health Advice Among US Adolescents and Young Adults. JAMA Netw Open 2025; 8 (11): e2542281, doi: 10.1001/jamanetworkopen.2025.42281.
5. Strengthening ChatGPT’s responses in sensitive conversations. OpenAI. Dostupné na: https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/
6. Emotional Manipulation by AI Companions. Harvard Business School. Dostupné na: www.hbs.edu/ris/Publication%20Files/Emotional%20Manipulations%20by%20AI%20Companions%20(10.1.2025)_a7710ca3-b824-4e07-88cc-ebc0f702ec63.pdf
7. Psych News Special Report: AI-Induced Psychosis with Dr. Adrian Preda. American Psychiatric Association. Dostupné na: www.psychiatry.org/psychiatrists/education/podcasts/medical-mind/2025/psych-news-special-report-ai-induced-psychosis-wit
