Generální ředitel OpenAI Sam Altman v příspěvku na X oznámil, že společnost brzy zmírní některá bezpečnostní omezení ChatGPT a umožní uživatelům, aby odpovědi chatbota byly přátelštější nebo více lidské a aby se ověření dospělí mohli zapojit do erotických konverzací.
We made ChatGPT pretty restrictive to make sure we were being careful with mental health issues. We realize this made it less useful/enjoyable to many users who had no mental health problems, but given the seriousness of the issue we wanted to get this right.
— Sam Altman (@sama) October 14, 2025
Now that we have…
„ChatGPT jsme udělali dost restriktivní, abychom se ujistili, že jsme opatrní v otázkách duševního zdraví. Jsme si vědomi, že to pro mnoho uživatelů, kteří nemají problémy s duševním zdravím, bylo méně užitečné, ale vzhledem k závažnosti problému jsme to chtěli uvést na pravou míru,“ napsal Altman. „V prosinci, kdy plněji zavedeme věkovou hranici a v rámci naší zásady 'chovat se k dospělým uživatelům jako k dospělým', povolíme ještě více, například erotiku pro ověřené dospělé.“
Toto oznámení je pozoruhodným obratem od několikaměsíční snahy společnosti OpenAI řešit problematické vztahy, které si někteří psychicky labilní uživatelé vytvořili s ChatGPT. V jednom případě se zdálo, že ChatGPT přesvědčil muže, že je matematický génius, který musí zachránit svět. V jiném případě žalovali společnost OpenAI rodiče teenagera, kteří tvrdili, že ChatGPT podporoval sebevražedné myšlenky jejich syna v týdnech předcházejících jeho smrti.
V reakci na to vydala OpenAI řadu bezpečnostních prvků, které mají řešit patolízalství umělé inteligence. Zdá se ale, že s navazováním kybersexuálních vztahů na nás čeká zcela nová úroveň problémů.
