Může být umělá inteligence rasistická? Nejspíše ne, ale některé její činy se tak mohou jevit. Kupříkladu ve Spojeném království se o vyhodnocení vhodnosti snímku pro cestovní pas stará systém. Ten například kontroluje splnění požadavků, jako je neutrální pozadí, zavřená ústa nebo pohled zpříma do objektivu – zkrátka všechno to, na co vás v našich podmínkách upozorní úředník na přepážce.
@joris_explains Automation is never diversity-friendly. #LearnOnTikTok #diversity #technology #artificialintelligence #ukcitizen #bias
♬ Clock It - Clutch
Britský model a aktivista Joris Lechêne si však na TikToku postěžoval na to, že systém opakovaně odmítá jeho fotografie. Je tedy nepřímo rasistický, protože nepočítá s lidmi, jako je on. Namísto toho považuje jeho plné rty za otevřená ústa a účes za okolí, které není možné odlišit od obličeje. Že se nejedná o ojedinělé selhání, ale systémový problém, dokládají i další stížnosti uživatelů s africkými kořeny na to, že jejich fotografie neprojdou schválením, i když splňují podmínky.
😂😂😂😂😂😂 British passport system violated man said my mouth is open the digital system can’t process my these lips pic.twitter.com/Ozcwi9jEgr
— lanes (@elainebabey) February 25, 2020
Obvinění z rasismu tak nepadá na samotný systém, ale jeho provozovatele, kteří o problému vědí, ale nijak nepospíchají s jeho nápravou – nejspíše proto, že se dotýká jen minoritních uživatelů.
