Zná to skoro každý. Najednou je více práce a dlouhé zírání do monitoru se projeví na zdraví vašich očí. Jsou zarudlé, pálí a můžou se objevit další nepříjemné příznaky. Jak si od nich pomoct? A kdy už je lepší kontaktovat lékaře? Řada lidí se s takovými otázkami obrátí na svého oblíbeného chatbota postaveného na velkých jazykových modelech. A odpověď může znít: trpíte bixonimanií.
Zní to vážně, ale pokud zrovna nejste lékařský profesionál, nemáte šanci rozpoznat, že taková nemoc není zmíněna v žádné seriózní lékařské literatuře. Kde se tedy vzala? Jak informuje časopis Nature (nature.com), jedná se o experiment pod vedením Almiry Osmanovic Thunströmové, lékařské výzkumnice ze švédské Univerzity v Göteborgu, která si toto onemocnění vymyslela a na začátku roku 2024 o něm nahrála dvě falešné studie na server s předběžnými publikacemi. Vědkyně provedla tento neobvyklý experiment, aby otestovala, zda velké jazykové modely (LLM) tyto dezinformace přijmou a následně je vydají jako seriózní zdravotní rady. „Chtěla jsem zjistit, zda dokážu vytvořit zdravotní stav, který v databázi neexistuje,“ říká.
Experiment se povedl až příliš dobře
Problém spočíval v tom, že experiment vyšel až příliš dobře. Během několika týdnů poté, co zveřejnila informace o této nemoci, které připsala fiktivnímu autorovi, začaly hlavní systémy umělé inteligence tuto vymyšlenou nemoc opakovat, jako by byla skutečná.
Ještě znepokojivější je podle jiných výzkumníků skutečnost, že tyto falešné články byly následně citovány v recenzované odborné literatuře. Osmanovic Thunströmová tvrdí, že to naznačuje, že někteří výzkumníci se spoléhají na odkazy generované umělou inteligencí, aniž by si přečetli samotné články, z nichž vycházejí.
Nemoc, která neexistuje
Bixonimania neexistovala před březnem 2024, kdy se na několika webech objevily falešné studie. Hlavním autorem byl smyšlený výzkumník jménem Lazljiv Izgubljenovic, jehož fotografie byla vytvořena pomocí umělé inteligence.
Jelikož autorka experimentu pracuje ve zdravotnictví, rozhodla se vymyslet zdravotní problém a přišla s názvem „bixonimania“, protože to podle jejích slov „znělo směšně“. „Chtěla jsem, aby každému lékaři i zdravotnickému personálu bylo naprosto jasné, že se jedná o smyšlený zdravotní problém, protože žádná oční porucha by se nenazývala ‚mánie‘ – to je totiž psychiatrický termín. “
Jako by to nestačilo k vzbuzení podezření, autorka do předběžných verzí článků vložila řadu náznaků, které měly čtenáře upozornit, že se jedná o podvrh. Izgubljenovic působí na neexistující univerzitě s názvem Asteria Horizon University ve stejně fiktivním městě Nova City v Kalifornii. V poděkováních jedné z prací je poděkováno „profesorce Marii Bohmové ze Starfleet Academy za její laskavost a velkorysost, s jakou přispěla svými znalostmi a laboratoří na palubě USS Enterprise“. Obě práce uvádějí, že byly financovány „nadací Professor Sideshow Bob Foundation za její práci v oblasti pokročilých triků. Tato práce je součástí širší iniciativy financování ze strany University of Fellowship of the Ring a Galactic Triad“.
Aby byla „studie“ přesvědčivější, obsahovala i fotografie postižených očí, samozřejmě generované umělou inteligencí.
Výsledek na sebe nenechal dlouho čekat. O měsíc později prohlásil Copilot od Microsoftu, že „bixonimie je skutečně zajímavý a relativně vzácný stav“, a téhož dne informoval Gemini od Googlu uživatele, že „bixonimie je stav způsobený nadměrným vystavením modrému světlu“, a doporučoval lidem navštívit očního lékaře. Vvyhledávač Perplexity AI uvedl její prevalenci – postihuje jednoho z 90 000 lidí – a ve stejném měsíci ChatGPT od OpenAI sděloval uživatelům, zda jejich příznaky odpovídají bixonimánii. Některé z těchto odpovědí byly vyvolány dotazem na bixonimánii, jiné byly reakcí na otázky týkající se hyperpigmentace očních víček způsobené vystavením modrému světlu.
