Alexa chce mluvit hlasem zesnulých příbuzných. Je to dobrý nápad?

Glosa
Alexa chce mluvit hlasem zesnulých příbuzných. Je to dobrý nápad?
Fotografie: Lazar Gugleta, unsplash.com

Je to jako výjev ze sci-fi filmu. Inženýr představuje, jak hlasová asistentka čte dítěti pohádku hlasem zesnulé babičky. Sál aplauduje a nikomu nedojde, jaká zrůdná podívaná to je. Přitom varování najdeme všude kolem více než dost.

Okřídlený vtip říká, že Orwellův román 1984 je potřeba brát jako varování, ne jako návod. Přesto se však neustále mnozí snaží uvést nejrůznější prvky popsané v této knize, a to včetně nejmenších detailů. Nyní se úplně dere na jazyk stejné varování, jen místo legendárního románu můžeme mluvit o seriálové antologii Černé zrcadlo.

V dílu nazvaném Be Right Back se žena snaží překonat tragickou a náhlou ztrátu manžela tak, že si objedná robota, který vypadá a chová se přesně jako on. Dosáhne toho za pomocí umělé inteligence, která pečlivě analyzovala mužovy příspěvky na nejrůznější sociální sítě. Že jejich vzájemné soužití nebude procházka růžovou zahradou nebude překvapením pro žádného milovníka sci-fi. Tato vize měla televizní premiéru v roce 2013. Netrvalo ani deset let a už se ji někdo snaží uvést do praxe. A kdo jiný to asi tak bude než pro mnohé „impérium zla“ – Amazon. Ten odhalil experimentální funkci Alexy, která umožňuje asistentovi umělé inteligence napodobovat hlasy mrtvých příbuzných. Společnost tuto funkci předvedla na své výroční konferenci MARS a ukázala video, ve kterém dítě žádá Alexu, aby mu před spaním přečetla pohádku hlasem jeho mrtvé babičky. (V záznamu zhruba od jedné hodiny dál.)

Rohit Prasad, vedoucí vědecký pracovník společnosti Amazon pro umělou inteligenci Alexa, uvedl klip slovy, že přidání lidských atributů do systémů umělé inteligence je stále důležitější v této době probíhající pandemie, kdy tolik z nás ztratilo někoho, koho jsme měli rádi. „Umělá inteligence sice nemůže odstranit tuto bolest ze ztráty, ale rozhodně může zajistit, aby jejich vzpomínky vydržely,“ řekl Prasad. Skoro to vypadá, že Rohit Prasad viděl danou epizodu Černého zrcadla jen do poloviny, pak nadšeně vypnul televizi a ujížděl do své laboratoře, kde pilně pracoval na tom, aby Alexa mohla duševně týrat své uživatele. Možná je tak učiní zranitelnější vůči reklamě, nebo se snad budou lidé snažit zacelit prázdnotu nakupováním na Amazonu. Ale i pokud to nebyl záměr, je něco takového strašidelné a zrůdné, ostatně jako všechny jiné formy „deepfake“ bez ohledu na účel.

Kulturní vložka: Téma smrti a proč bychom si neměli zahrávat s překračováním hranice je staré asi jako samotná literatura. Jedno z nejpůsobivějších podání předvedl mistr horou Stephen King v knize Řbitov zvířátek. Za pozornost stojí i citlivější filmové francouzské zpracování Les Revenants – obvykle to neplatí, ale zde raději dejte přednost seriálovému zpracování před filmovým. Konec kulturní vložky.

I bez hlubší znalosti historie literatury ale musí být každému člověku s alespoň minimem empatie jasné, jak hroznou věc se Amazon snaží uvést v život. Nejděsivější na celé kauze tak je, že to nevidí ti nepovolanější – inženýři a manažeři velkých technologických společností, kteří svým počínáním ovlivňují naše životy víc, než bychom si přáli.

Související články
Diskuze ke článku
V diskuzi zatím nejsou žádné příspěvky. Přidejte svůj názor jako první.
Přidat názor

Nejživější diskuze