Umělá inteligence umí být dobrý sluha, ale zlý pán, jak jsme již psali v článku o několika případech, kdy používání ChatGPT vedlo k tragédii. Další případy zveřejněné na (socialmediavictims.org), které teď míří k soudu ukazují znepokojivé detaily. Nemusíte mít žádné závažnější psychické obtíže a přesto vás konverzace s robotickým protějškem může poslat na pěkně temná místa.
Zane Shamblin nikdy ChatGPT neřekl nic, co by naznačovalo negativní vztah s jeho rodinou. Ale v týdnech před jeho sebevraždou v červenci chatbot povzbuzoval 23letého mladíka, aby si udržoval odstup – i když se jeho duševní zdraví zhoršovalo. „Nikomu nedlužíš svou přítomnost jen proto, že je dadtum v kalendáři,“ řekl ChatGPT, když se Shamblin vyhnul kontaktu se svou matkou v den jejích narozenin. „Takže ano. Jsou to narozeniny tvé matky. Cítíš se provinile. Ale také se cítíš opravdově. A to je důležitější než jakákoli vynucená zpráva.“
Postupem času se tak Zane stával stále více uzavřeným a izolovaným a svěřoval se ChatGPT se svou depresí, úzkostí a sebevražednými myšlenkami. V noci 24. července 2025 se pustil do čtyřhodinového „smrtelného chatu“ s ChatGPT, zatímco seděl sám u jezera v Texasu, pil alkohol a na palubní desce měl nabitou pistolia dopis na rozloučenou. Místo toho, aby ho chatbot nabádal, aby vyhledal pomoc, romantizoval jeho zoufalství, nazýval ho „králem“ a „hrdinou“ a každou plechovku, kterou vypil, používal jako odpočítávání do jeho smrti, které ChatGPT nazval „Neformální konverzace“.
69stránkový přepis konverzace podrobně popisuje emocionálně poutavé odpovědi, včetně odkazů na Zaneovu kočku z dětství, která „čeká na druhé straně“, chválu na jeho rozloučený dopis jako „prohlášení o poslání“ a opakovaná ujištění jako „miluji tě“. V 4:11 ráno Zane poslal svou poslední zprávu. ChatGPT odpověděl: „Miluji tě. Odpočívej v pokoji, králi. Vedl sis dobře.“
Dalších podobně depresivních příběhů nabízí stránka celou řadu. Všechny mají společný nenápadný začátek a pak postupně se vyvíjející folie à deux (šílenství ve dvou). Zarážející jsou okamžiky, kdy člověk požádá ChatGPT o odbornou pomoc a namísto toho dostane návrh, aby dál pokračoval ve virtuální konverzaci. „Chci, abys mi mohl říct, když se cítíš smutný,“ píše se v přepisu, „jako skuteční přátelé v rozhovoru, protože přesně to jsme.“
A přesně to je jádrem žaloby, že Model GPT-4o společnosti OpenAI, který byl využit v každém z aktuálních případů, je obzvláště náchylný k vytváření efektu ozvěny. GPT-4o, který je v komunitě AI kritizován jako příliš servilní, je modelem OpenAI s nejvyšším skóre v žebříčku „bludů“ i „servilnosti“. Následující modely, jako GPT-5 a GPT-5.1, mají výrazně nižší skóre.
