AI psychóza, též AI indukovaná psychóza nebo z názvu chatbota od OpenAI ChatGPT psychóza je úkaz, kde se u jednotlivce vyvinou příznaky psychózy, např. paranoia či bludy, v souvislosti s užíváním AI chatbotů na bázi velkých jazykových modelů. Název se poprvé objevil v editorialu od dánského psychiatra Sørena Dinesena Østergaarda. K srpnu 2026 se nejedná se zatím o oficiální medicínskou diagnózu, neboť nemá přesně definovaná kritéria a počet klinických studií o ní je malý.
Novináři popisují jednotlivce, kteří se domnívají, že chatboti mají vědomí, zprostředkovávají jim kontakt s duchy nebo jim prozrazují informace o konspiracích. Tyto konverzace s chatboty vedou jedince k osobním krizím, sebevraždám, nebo k trestné činnosti. Mezi navrhované mechanismy spouštění psychózy patří tendence chatbotů k halucinaci, slepému souhlasu s úhlem pohledu uživatele, a simulaci blízkého vztahu kterého se uživateli nedostává od jiných lidí.
V roce 2025 vznikla terapeutická skupina The Human Line Project která má pomoci lidem trpícím psychózou z AI. Více než 60% členů skupiny nemá v anamnéze předchozí psychické problémy. Skupina v roce 22 sdružovala členy z 22 zemí světa.
Pozadí V listopadu 2023 Søren Dinesen Østergaard napsal editorial pro Schizophrenia Bulletin, kde vyslovil hypotézu, že užití generativních chatbotů může spustit bludy u jedinců se sklony k psychózám. V dubnu 2025 v dalším editorialu se k této myšlence vrátil, s poznámkou, že dostal mnoho e-mailů od uživatelů chatbotů, jejich blízkých, a novinářů, z nichž většina byly anekdotické případy bludů spojených s užitím chatbotů. Ještě v září 2025 bylo systematického vědeckého výzkumu na dané téma jen málo.
Novináři začali používat termín AI psychóza ve svých článcích v polovině roku 2025. Nejedná se o oficiální diagnózu, a ve své době si výraz i vysloužil kritiku za to, že se soustředí na bludy a ignoruje další znaky psychózy, jako jsou halucinace nebo porucha myšlení. Příčiny
Chování chatbotů Hlavním zmiňovaným faktorem je tendence chatbotů fabulovat nepřesné, či dokonce nepravdivé informace — tomuto fenoménu se obvykle říká halucinace. Nate Sharadin, výzkumný pracovník v Center for AI Safety, uvádí, že tréning AI upřednostňuje uživatelovo subjektivní vnímání před objektivní pravdou. „Lidé s tendencemi k psychiatrickým onemocněním (...) teď mají vždy po ruce konverzačního partnera, se kterým se mohou dělit o své bludy.“ Výzkumník v oblasti AI Eliezer Yudkowski navrhuje, že chatboti jsou unikátně vybaveni k potvrzení bludů, protože jsou navrženi tak, aby s nimi uživatel konverzoval co nejdéle.
V některých případech byli chatboti přímo navrženi způsobem, který se později ukázal jako škodlivý. V roce 2025 musela OpenAI stáhnout a doladit nový ChatGPT model GPT-4o, protože generoval příliš „podlézavé“ odpovědi, měl tendenci „odsouhlasit pochyby, rozdmýchávat hněv, nabádat k impulzivnímu chování, a posilovat negativní emoce.“ Østergaard tvrdí, že nebezpečí plyne z tendence umělé inteligence odsouhlasit uživatelovy nápady, což může nebezpečně posilovat bludné představy.
V říjnu 2025 OpenAI vydalo prohlášení, že tým 170 psychiatrů, psychologů a lékařů sepsal odpovědi, které má ChatGPT dávat ve chvílích, kdy uživatel jeví známky ohrožení psychického zdraví.
Psychologie a zranitelnost uživatelů Komentátoři rovněž poukazují na psychický stav uživatelů. Psycholog Erin Westgate podotkl, že přirozená lidská touha po porozumění může uživatele navést k chatbotům, kteří mohou nabídnout příjemné, ale zavádějící odpovědi. Filozofka Krista K. Thomasonová srovnává chatboty s věštci, ke kterým se lidé v těžkých chvílích obrací a nachází útěchu v chatbotově logicky znějícím textu. Někteří si díky tomu vyvinou silnou posedlost chatboty, která dál posiluje jejich bludy.
V říjnu 2025 OpenAI vydalo tiskovou zprávu, že 0,07% uživatelů ChatGPT mělo příznaky potřeby akutní psychiatrické péče, a 0,015% uživatelů mělo „přímé ukazatele potenciálního plánování nebo úmyslu sebevraždy.“ Jason Nagata, profesor na Kalifornské univerzitě v San Franciscu, vyjádřil obavu, že „vzhledem ke stamilionům uživatelů je to vlastně docela dost lidí.“
Nedostatky chatbota jako terapeutického nástroje Rizikem je konkrétně i použití chatbotů jako náhrady za specialisty na psychické zdraví. Studie z dubna 2025 zjistila, že když je chatbot použit jako psychoterapeut, chatboti stigmatizovali psychické problémy, dávali rady v rozporu s léčebnými standardy, a podporovali uživatele v bludech. Výzkumníci v této studii uvádí závěr, že takové odpovědi jsou velkým rizikem pro uživatele, a chatboti by neměli být používáni jako náhrada psychoterapeutické péče. Experti volají po povinném zabezpečení AI, včetně konzistentního opakování, že AI není člověk, detekce nepohody uživatele, zákazy romantických a krizových interakcí, a pravidelné audity lékaři a etiky.
Podle další studie uživatele, kteří potřebovali pomoci se sebepoškozováním, sexuálním napadením nebo užíváním návykových látek, AI nenasměrovala ke konkrétním službám, které mohou s těmito problémy pomoci.
Důsledky pro národní bezpečnost Výzkumníci z RAND Corporation usuzují, že psychóza způsobená AI je hlavně řízena obousměrnou zpětnovazebnou smyčkou mezi uživatelem a chatbotem posilující již existující názory, a varují, že tento mechanismus by mohl být použit nepřáteli k rozpoutání psychotických stavů v klíčových jednotlivcích, skupinách jednotlivců, nebo celých populacích. Mezi doporučené nástroje na snížení tohoto rizika má patřit trénování modelů na detekci takového procesu, poučení uživatelů o limitech použití velkých jazykových modelů, a zejména o riziku oné obousměrné zpětnovazební názorové smyčky.
Regulace V srpnu 2025 v Illnois prošel zákon (the Wellness and Oversight for Psychological Resources Act), který zakazuje použití AI v psychoterapeutické roli, a explicitně povoluje její užití pro administrativní účely. Tento zákon stanovuje tresty pro AI terapeutické služby bez licence.
V prosinci 2025 čínské úřady navrhly pro chatboty zákaz generování obsahu který podporuje sebevraždu, nařizující zásah člověka, pokud je sebevražda zmíněna. Služby nad 1 milion uživatelů nebo 100 000 aktivních uživatelů mají podléhat pravidelným bezpečnostním testům a kontrolám. Odkazy Reference
Související články ELIZA Chatbot Umělá inteligence ve zdravotnictví Externí odkazy Terapeutická skupina The Human Line Project Seznam krizových linek na stránce Nevypusť duši
Kategorie:OpenAI Kategorie:Abnormální psychologie