Po více než roce s umělou inteligencí nikoho nepřekvapí, že dokáže vygenerovat prakticky cokoli. Už jen proto bychom takto vzniklé obrazy neměli brát víc než jako jen zábavný shluk pixelů. Ovšem v kulturně vypjaté době se hlavně zámoří stala tato schopnost u Gemini od Googlu jádrem sváru.
Chatbot Gemini, který se dříve jmenoval Bard, umí na základě textového popisu uživatele vytvářet ilustrace generované umělou inteligencí. Můžete ho požádat, aby vytvořil například obrázky šťastných párů nebo lidí v dobovém oblečení, kteří se procházejí po moderních ulicích. Jak však poznamenává BBC, někteří uživatelé kritizují Google za to, že zobrazuje konkrétní bílé postavy nebo historicky bílé skupiny lidí jako rasově odlišné osoby. Společnost Google nyní vydala prohlášení, v němž uvádí, že si je vědoma toho, že Gemini „nabízí nepřesnosti v některých zobrazeních při generování historických obrázků“ a že se chystá věci okamžitě napravit.
We're aware that Gemini is offering inaccuracies in some historical image generation depictions. Here's our statement. pic.twitter.com/RfYXSgRyfz
— Google Communications (@Google_Comms) February 21, 2024
Podle všeho odstartoval stížnosti bývalý zaměstnanec Googlu, když na Twitteru zveřejnil obrázky barevných žen s popiskem: „Je trapně těžké přimět Google Gemini, aby uznal, že bílí lidé existují.“ Aby těchto výsledků dosáhl, požádal Gemini o vygenerování obrázků Američanek, Britek a Australanek. Další uživatelé, většinou ti, kteří jsou známí jako pravicové osobnosti, se přidali s vlastními výsledky a ukázali obrázky vygenerované umělou inteligencí, které zobrazují americké otce zakladatele a papeže katolické církve jako barevné lidi. Vrcholem se pak staly obrázky těchto lidí v nacistických uniformách
It's embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR
— Deedy (@debarghya_das) February 20, 2024
Není to poprvé, co je některá technologie spojována s rasismem. Z takového přístupu jsou často obviňovány technologie pro prevenci kriminality. Stejný problém ale může postihnout například systémy pro administrativu a dokonce zdravotnictví.
