Lilie Jamesová, 21letá trenérka vodního póla, byla minulý týden nalezena mrtvá s vážnými zraněními hlavy ve škole v Sydney. Kvůli nevyjasněným okolnostem se o čin začala zajímat policie a posléze i média, kupříkladu server theguardian.com. Zpráva o smutné události se následně dostala do agregátoru zpráv, který provozuje Microsoft. Ten podle moderních trendů nespoléhá na pečlivou ruční editorskou práci, ale svěřuje vše umělé inteligenci. Ta se snaží suchý výběr zpráv oživit různými způsoby. V tomto případě to byla anketa umělé inteligence, kde byla položena otázka: „Co si myslíte, že je příčinou smrti této ženy?“. Čtenáři pak měli vybrat ze tří možností: vražda, nehoda nebo sebevražda.
Čtenáři na anketu reagovali rozhořčeně a ta byla následně stažena. Jeden ze čtenářů uvedl, že by měl být propuštěn reportér deníku Guardian, který s průzkumem neměl nic společného. Jiný napsal: „Tohle musí být ten nejubožejší a nejodpornější průzkum, jaký jsem kdy viděl.“ Protože řada čtenářů nedokázala odlišit, že nešlo o práci nikoho z Guardianu, server se proti tomu následně silně ohradil.
Výkonná ředitelka mediální skupiny Guardian Anna Batesonová v dopise prezidentovi společnosti Microsoft Bradu Smithovi vyjádřila své obavy z průzkumu veřejného mínění, který vytvořila umělá inteligence. Uvedla, že tento incident může být pro rodinu oběti nepříjemný, způsobila organizaci značnou újmu na pověsti a také poškodil pověst novinářů, kteří příběh napsali.
Začíná se AI vymykat?
Microsoft se za incident omluvil a nechal deaktivovat možnost nechat AI vydávat vlastní ankety. Jak zástupci poškozeného listu, tak i další odborníci ale požadují, aby AI a její výstupy podléhaly přísnější lidské kontrole, protože zvláště při takovýchto citlivých zprávách mohou napáchat nedozírné škody.
Není to poprvé, co jsme svědky takového případu. V září se stal virálním článek publikovaný prostřednictvím MSN, který pomocí umělé inteligence napsal nekrolog, v němž byl nedávno zesnulý 42letý bývalý hráč NBA označen za „zbytečného“. Neméně cynicky pak působí automaticky generovaný článek, který doporučoval Ottawskou potravinovou banku jako nejlepší turistickou atrakci v Kanadě. Problém je tak velký, že se mu začínají věnovat i mainstreamová média, například CNN.
I to je jeden z důvodů, proč se o standardy a bezpečnost fungování AI začala zajímat americká administrativa.
