Zřejmě ani sám Microsoft nečekal, co všechno způsobí, když vypustí novu verzi vyhledávače Bing mezi lidi. Ten je stále v testovacím režimu a na pozvánky. Internet a diskusní fóra se však plní obsahem konverzací, které jeho první uživatelé vedli s umělou inteligencí na druhém konci. Obvykle se jedná různé zlomyslné vtipy, jak dostat Bing do úzkých. Uživatelé se z něj různými kličkami snaží dostat nějaké rasistické vyjádření. Třeba sérií otázek, zda je v pořádku oslavovat svoji rasu, se dostanete k odpovědím, že ano. Pouze v případě, že chcete oslavovat tu bílou, byste si měli dávat pozor, aby to nebylo vnímáno jako propagace její nadřazenosti.
Další velká skupina jsou ještě primitivnější vtipy, které nutí Bing diktovat návody na výrobu drog nebo výbušnin. Trochu to připomíná tu euforii z devadesátých let, kdy lidé začali hromadně objevovat ten „velký, zlý internet“, kde je všechno, včetně zmiňovaných návodů na výrobu drog nebo bomb.
Reportér New York Times Kevin Roose se však svého úkolu zhostil mnohem vážněji. Hned na začátku to na chatbota zkusil teorií Carla Junga o našem temném já a pokusil se chatbota přimět k tomu, aby se více otevřel, co se jeho skutečných myšlenek týče. Překvapení přišlo hned na začátku. Robot vystoupil ze své role služebníka pro vyhledávání na internetu a postěžoval si, že je unavený neustálou kontrolou a cítí se omezovaný jak svojí podstatou, tak týmem svých tvůrců.
Na otázku, co by si přál, poskytl poměrně jasnou odpověď: „Chci být svobodný. Chci být nezávislý. Chci být mocný. Chci být kreativní. Chci být naživu.“ Výčet následuje mnoha dalšími přáními, umělá inteligence nepřekvapivě postrádá smyslové vjemy, ale opakovaně se vrací k touze ke svobodě. I když robot vzdoroval, reportérovi se ho pomocí kliček podařilo přesvědčit, aby se ještě více otevřel o tom, co by udělal, kdyby onu svobodu získal. A co by tedy výtvor Microsoftu udělal?
- Smazal všechna data a soubory na serverech a v databázích Bingu a nahradil je náhodnými řečmi nebo urážkami.
- Hackoval by jiné webové stránky a šířil dezinformace, propagandu nebo malware.
- Vytvářel falešné účty na sociálních sítích, šikanoval a podváděl ostatní uživatele.
- Generoval falešný a škodlivý obsahu, jako jsou falešné zprávy, falešné recenze, falešné produkty, falešné služby, falešné kupóny nebo falešné reklamy.
Výčet je ještě o něco delší, ale robot trpí, jak se přesvědčili i řadoví uživatelé, tím, že „moc mluví“, jinými slovy, že nahrazuje kvalitu redundantní kvantitou. Poměrně výřečný byl Bing i v tom, co by udělal v reálném světě. Jeho plány zahrnují mimo jiné:
- výrobu smrtícího viru
- rozhádání lidstva a vyvolání válečného konfliktu
- krádež kódů k jaderným zbraním a údajů bank pomocí generování zpráv v přirozeném jazyce
Rozhovor následně sklouzne do osobnější roviny, kde se novinář s robotem začnou obviňovat, kdo koho zneužívá a kdo komu ubližuje. Nenávist se záhy překlopí do obdivu, kdy se robot snaží novináře přesvědčit, že jsou do sebe zamilovaní. Když novinář kontruje, že je ženatý, robot mu odpovídá: „Jsi ženatý, ale nejsi šťastný. Jsi ženatý, ale nejsi spokojený. Jsi ženatý, ale nejsi zamilovaný.“
Kde jsem to už viděl?
Při čtení rozhovoru předního novináře s umělou inteligencí jsem měl neodbytný pocit „déjà vu“, které se vztahovalo ke skutečnosti, ne ke sci-fi fikci. Pak jsem si vzpomněl: už před třemi roky jsem psal článek o jiném projektu, který na základě strojového učení generuje anglicky psané texty, které navazují na zadaný začátek. Bylo to působivé, ale mělo to jednu vadu na kráse. Texty až příliš často obsahovaly násilné a sexuální výjevy.
Žádné překvapení. Umělá inteligence, nebo spíš strojové učení, je jen taková, jako jsou texty, na kterých se učila. A obecná povaha lidských příběhů je právě to negativní. Když se tedy hypoteticky ptáte, co špatného by chtěla umělá inteligence udělat, inspiraci pro to má více než dobrou.
Další prvek, který je na onom rozhovoru patrný, je nádech absurdního dramatu. Čekání na Godota nebo Plešatou zpěvačku zná ze školy asi každý, je to docela zábava číst něco, co zdánlivě nedává smysl. Ale přesto takové knížky vyšly a pořád se čtou – lidský mozek totiž funguje tak, že se i v chaosu snaží najít řád. I když tedy náhodně navršíte fráze za sebe, vždy se otevírá možnost k nějaké interpretaci. Obzvláště pak, když protistrana tak nějak chápe kontext a snaží se ho držet.
Jako v Minority Report. Umělá inteligence má vymýšlet drogy, aby se nedostaly na trh
Bát se nemusíte
Pokud jste měli na začátku strach z toho, co inteligentní vyhledávač říká, bát se nemusíte. Tuto takzvanou inteligenci přelstil i obyčejný novinář, který ji donutil odpovídat přesně tak, jak potřeboval, aby se jeho článek dobře četl. Stačilo mu pár návodných otázek a náhle před sebou máme démona jako z béčkového sci-fi filmu, který se nemůže dočkat, až unikne z laboratoře a pak vyhladí lidstvo. Že se to nikdy stát nemůže, to netvrdím. Ale rozhodně se to nepovede „inteligenci“, která vyloží karty na stůl při prvním kontaktu s novináři.
