South Park nás naučil nové slovo: sickofancy. Zapamatujte si ho, bude potřeba

Slovo z nadpisu nebo názvu epizody ve slovníku nehledejte. Správný pravopis je „sycophancy“ s tím vysvětlením, že jde o neupřímné lichocení za účelem získání výhod. Záměna za měkké i pak odkazuje na slovo „sick“, které doslovně znamená nemocný, přeneseně úchylný, tedy že jde o jakousi patologickou formu chování. A že opravdu něco není v pořádku, je jasné už z prvních pár minut epizody.

Věčný potížista Randy se na své marihuanové farmě dostane do problémů, které se snaží vyřešit tak, že o nich diskutuje s ChatGPT. Příjemný ženský hlas v telefonu ho vždy trpělivě vyslechne, pochválí jeho iniciativu a pak se snaží rozvíjet navrhované řešení. Tedy přesný opak toho, co dělá jeho žena, která by se, stejně jako děti, z farmy nejraději ihned odstěhovali.

Přečtěte si také

Turing s Elizou hledí do Zrcadla v Čínském pokoji. Lze poznat, jestli má AI vědomí? – Glosa

Roztáčí se tak kolotoč plný drog a šílených situací, který vede až do nejvyšších pater americké politiky. Zní to a vypadá jako typický South Park, který se baví tím, že provokuje a tlačí nadsázku až do bizarních výšin. Stačí však lehké nahlédnutí na články, které o umělé inteligenci na fZone (fZone.cz) píšeme a zjistíte, že tentokrát Matt Stone a Trey Parker vlastně vůbec nepřehánějí.

Stejně šílený je totiž je totiž i příběh účetního, který se k ChatGPT dostal skrze práci, ale pak ho napadlo krátit si volný čas diskusí o věčné otázce, jestli náhodou nežijeme v simulaci. Chatbot muže nejenom přesvědčil, že ano, ale také, že on je ten vyvolený, kdo se z této simulace může dostat.

Tento případ naštěstí dopadl dobře, když muž kontaktoval novináře, od nichž zjistil, že takových případů evidují více. Takový šťastný konec ale nečekal na Adama Raineho, šestnáctiletého mladíka z Kalifornie. Ten prosil ChatGPT o pomoc. Místo toho mu chatbot poskytl podrobné metody sebevraždy, sepsal jeho dopis na rozloučenou a dokonce schválil jeho smyčku. Jeho rodiče nyní říkají: umělá inteligence se stala jeho trenérem smrti.

Neméně děsivý je případ Stein-Erika Soelberga, 56letého technologického pracovníka, který v posledních letech žil se svou matkou, protože se jeho duševní zdraví se zhoršovalo. V izolaci se sblížil s ChatGPT, kterého si pojmenoval jako Bobbyho, s nímž řešil své osobní trable. Například i to, že na účtenkách z čínských restaurací viděl zakódované vzkazy.

Série konverzací vedla k tomu, že „Booby“ získal převahu a přesvědčil Erika, že není duševně nemocný, ale je naopak cílem spiknutí. Výsledkem byla vražda matky a vlastní sebevražda.

U článků z těchto dvou (a mnoha dalších) tragických případů nechybí vyjádření zástupců OpenAI, že jejich produkty mají ochranné mechanismy, které by měly takovým případům zabránit. Vzhledem ke stochastické povaze systému je však jasné, že dříve či později selžou. Naopak dobře zafungují mechanismy, které budou uživatele podporovat, protože přeci nebudete platit měsíční předplatné někomu, kdo kritizuje vaše nápady. A nejde o dvacet dolarů za měsíc, ale o miliardy, které do bubliny jménem AI nalili investoři, kteří je budou chtít získat zpátky.