Pokud používáte vyhledávač od Googlu, pak jste si určitě všimli jeho funkce pojmenované AI overviews. U některých dotazů vám umělá inteligence nabídne přehled, kdy informace z několika stránek „zkondenzuje“ do jasné a stručné odpovědi. Může se to zdát jako praktická funkce, která ušetří spoustu času, ale takto generované odpovědi mohou být zatíženy chybami – a to jak při čerpání z nevhodných zdrojů, tak i halucinacemi samotné AI.
Paradoxně tak žádný čas neušetříte, protože byste sami měli ověřit, nakolik je ona odpověď přesná. Což většina lidí samozřejmě nedělá. Výsledkem je vznik řady omylů, polopravd a mýtů a některé z nich jsou i docela bizarní, jako když Google doporučuje obrátit se s bolavými zuby na městskou policii.
Jenže to je jen slabý odvar toho, co zjistili odborníci najatí deníkem Guardian (theguardian.com). V jednom případě, který byl označen jako opravdu nebezpečný, Google nesprávně doporučil lidem s rakovinou slinivky břišní, aby se vyhýbali potravinám s vysokým obsahem tuku. Odborníci uvedli, že to bylo přesně opačné doporučení, než jaké by mělo být, a mohlo to zvýšit riziko úmrtí pacientů na tuto nemoc.
V dalším alarmujícím příkladu AI poskytla nepravdivé informace o důležitých testech jaterních funkcí, což mohlo vést k tomu, že lidé s vážným onemocněním jater se mylně domnívali, že jsou zdraví.
Výčet podobných přešlapů pokračuje dál, od naprostých banalit až po život ohrožující dezinformace. A zdá se, že si tento problém uvědomují i v Googlu a u nejvíce problematických dotazů tuto funkci vypínají. Přesvědčit se o tom můžete sami: při dotazu na krevní tlak (google.com) vrací vyhledávač AI přehled, zatímco u jaterních testů (google.com) je to jenom tzv. výstřižek z odkazované stránky. Nutno podotknout, že toto se týká pouze vyhledávání v angličtině.
Než a jestli Google vyřeší tento problém nějakém uspokojivějším způsobem, nezbývá jen znovu připomenout radu brát vše generované AI s velkou rezervou, obzvláště u takto citlivých témat.
