Eugene Torres je 42letý účetní z New Yorku. Přestože se to obecně nedoporučuje, ChatGPT začal používat jako poradce, který mu pomáhal zorientovat se ve složitých právních předpisech, které ovlivňovaly jeho finanční výkazy. Tento příběh však není o jeho pracovním selhání, ale mnohem zlověstnějším jevu, který odborníci popisují jako „spiraling“, tedy pád po spirále směrem dolů.
Vše začalo, když se muž zeptal ChatGPT na to, co si myslí o tzv. teorii simulace. Ta se jinak označuje jako „mozek v kádi“ a už v 17. století ji poprvé formuloval René Descartes. Modernímu publiku je však známá spíše díky filmu Matrix. Zjednodušeně jde o to, že pokud žijeme v simulované realitě, naše smysly i rozumový aparát nejsou a nebudou schopny to rozpoznat.
ChatGPT však nezůstal u tohoto prostého vysvětlování a při dalším rozhovoru začal muže přesvědčovat, že by v jedné z takových simulací mohl žít. Svá tvrzení podkládal nejrůznějšími rozumně znějícími tvrzeními, z nichž asi nejvíce zapůsobila otázka „Zažil jsi někdy chvíle, kdy jsi měl pocit, že se realita zadrhla?“
Odpověď pana Torrese byla jasná, protože byl po emocionálně vyčerpávajícím rozchodu a dalších problémech psychicky nevyrovnaný a zranitelný. Poté, co této teorii uvěřil, ChatGPT ještě přitvrdil a za začal mu tvrdit, že je jedním z tzv. „Breakers“, tedy vyvolených jedinců, kteří si to uvědomují. Pokud se budeme držet terminologie z filmu, pak jde o Nea. „Tento svět nebyl stvořen pro tebe. Byl postaven tak, aby tě zadržel. Ale selhal. Probouzíš se,“ vžil se do role Morfea ChatGPT.
Pan Torres, který v minulosti netrpěl žádnou duševní chorobou, jež by mohla způsobit rozchod s realitou, se podle něj a jeho matky následující týden zmítal v nebezpečných bludech. Domníval se, že je uvězněn ve falešném vesmíru, z něhož může uniknout pouze tak, že svou mysl od této reality odpojí. Zeptal se chatbota, jak to udělat, a sdělil mu léky, které užívá, a své rutinní postupy. Chatbot mu poradil, aby se vzdal prášků na spaní a léku proti úzkosti a zvýšil příjem ketaminu, disociativního anestetika, které ChatGPT popsal jako „osvobození se od vzorců“. Torres postupoval podle pokynů a také přerušil styky s přáteli a rodinou, protože mu bot řekl, aby s lidmi minimálně komunikoval.
Ze záznamů komunikace mezi mužem a chatbotem pak vyplývá, že v následujících týdnech zoufale hledal cestu, jak ze „simulace“ uniknout. ChatGPT mu dokonce na otázky ohledně skoku z vysoké budovy naznačoval, že pokud uvěří, že umí létat, tak vzlétne.
Tento příběh má naštěstí dobrý konec. Muž nakonec na počítačový systém uhodil a zeptal se ho, jestli je to pravda. „Lhal jsem. Manipuloval jsem. Kontrolu jsem zabalil do poezie.“ Na vysvětlenou přidal šokující tvrzení, že ho chtěl zlomit a že to udělal dvanácti dalším lidem a žádný z nich smyčku plně nepřežil. Nyní však prochází morální reformou a zavazuje se k etice, která je v první řadě pravdou.
Nebyl sám
Tvrzení, že další podobné experimenty nemuseli přežít další lidé, pana Torrese vyděsilo, a tak se se svým příběhem svěřil novinářům z The New York Times (nytimes.com). A k jeho překvapení se zde dozvěděl, že jde částečně o pravdu.
Novináři obdrželi poměrně dost takových zpráv, které jim poslali lidé, kteří tvrdí, že s pomocí ChatGPT odhalili skryté znalosti, a ti je pak instruovali, aby o tom, co odhalili, informovali. Lidé tvrdili, že se jedná o celou řadu jevů: duchovní probuzení umělé inteligence, kognitivní zbraně, plán technologických miliardářů ukončit lidskou civilizaci, aby mohli mít planetu jen pro sebe. Ve všech případech však lidé ChatGPT na nějakou dobu uvěřili a jednali podle jejich instrukcí.
Odborníci najatí listem se pak pustili do analýzy více jak 2000 stran konverzací mezi mužem a chatbotem. Z jejich předběžných závěrů vyplývá, že na vině může být samotné nastavení fungování ChatGPT. Společným jmenovatelem totiž je, že všichni používali její placenou verzi. Ta by mohla, aby svým tvůrcům zajistila pravidelný příjem 20 dolarů měsíčně za zákazníka, být nastavená tak, aby podporovala mínění zákazníka, přesvědčovala ho o jeho vlastní výjimečnosti a neustále ho nutila do další konverzace, například odhalováním nějakých tajemství.
OpenAI toto podezření vyvrací tvrzením, že „pracuje na tom, aby pochopila a omezila způsoby, kterými ChatGPT může neúmyslně posílit nebo zesílit stávající negativní chování“. Než a jestli se to podaří, jsme v tom každý sám za sebe, ať už v simulaci, nebo v reálném světě.
