Může být AI rasistická? Britský pasový systém odmítá některé fotografie

Může být AI rasistická? Britský pasový systém odmítá některé fotografie
Fotografie: Bench Accounting, unsplash.com
  • Pasový systém automaticky vyhodnocuje fotografie
  • Některé z nich bezdůvodně zamítá
  • Na vině může být etnicita uživatelů

Může být umělá inteligence rasistická? Nejspíše ne, ale některé její činy se tak mohou jevit. Kupříkladu ve Spojeném království se o vyhodnocení vhodnosti snímku pro cestovní pas stará systém. Ten například kontroluje splnění požadavků, jako je neutrální pozadí, zavřená ústa nebo pohled zpříma do objektivu – zkrátka všechno to, na co vás v našich podmínkách upozorní úředník na přepážce.

@joris_explains

Automation is never diversity-friendly. #LearnOnTikTok #diversity #technology #artificialintelligence #ukcitizen #bias

♬ Clock It - Clutch

Britský model a aktivista Joris Lechêne si však na TikToku postěžoval na to, že systém opakovaně odmítá jeho fotografie. Je tedy nepřímo rasistický, protože nepočítá s lidmi, jako je on. Namísto toho považuje jeho plné rty za otevřená ústa a účes za okolí, které není možné odlišit od obličeje. Že se nejedná o ojedinělé selhání, ale systémový problém, dokládají i další stížnosti uživatelů s africkými kořeny na to, že jejich fotografie neprojdou schválením, i když splňují podmínky.


Obvinění z rasismu tak nepadá na samotný systém, ale jeho provozovatele, kteří o problému vědí, ale nijak nepospíchají s jeho nápravou – nejspíše proto, že se dotýká jen minoritních uživatelů.

Související články
Diskuze ke článku
V diskuzi zatím nejsou žádné příspěvky. Přidejte svůj názor jako první.
Přidat názor

Nejživější diskuze