Používání umělé inteligence širší veřejností ma za následek ojedinělé, ale velice tragické případy. Mezi ně patří ty, které se týkají sebevražd mladých lidí. Na OpenAI se snesla vlna kritiky poté, co se se zjistilo, že jejich ChatGPT od takového jednání v několika případech nejenom že nezrazoval, ale dokonce v něm aktivně pomáhal.
Výsledkem byl příslib „lepšího chování“ chatbota v citlivých otázkách, stejně jako zpřísnění podmínek používání pro nezletilé uživatele. Třináctiletý chlapec z DeLandu na Floridě se o tom dozvěděl poměrně drsným způsobem. Policie zatkla teenagera za to, že se ptal umělé inteligence, jak zabít svého kamaráda, jak informuje server (wfla.com).
Teenager používal školou vydaný notebook, na kterém běžel monitorovací software Gaggle, který jeho dotaz okamžitě označil. Během několika hodin se objevili policisté a zatkli ho. Chlapec se bránil tím, že jen „trollil“ kamaráda, který ho rozčiloval, uvedli zástupci policie. „Rodiče, prosím, promluvte si se svými dětmi, aby neudělaly stejnou chybu,“ apeloval místní šerif v tiskovém prohlášení.
I když se tentokrát o informování úřadů postaral nadstavbový software, případ ukazuje, že nic, co sdělíte ChatGPT a dalšími podobným, nemůže být a nebude považováno za důvěrné. Pro mnoho jedinců však může být matoucí, že se chatbot „chová“ jako terapeut nebo dobrý kamarád, který umí udržet tajemství. Nic z toho ale neplatí a i zde, že co řeknete nebo napíšete, může být použito proti vám.
