Další rasistický problém. Data pro detekci onemocnění kůže jsou moc „bílá“

Další rasistický problém. Data pro detekci onemocnění kůže jsou moc „bílá“
Fotografie: Qim Manifester, unsplash.com
  • Vědci používají volně dostupné soubory s kožními onemocněními, aby tak trénovali umělou inteligenci
  • Většina takových sestav obsahuje převážně snímky lidí se světlou pletí
  • Takto trénovaný algoritmus pak může u ostatních skupin podávat horší výkony

Zní to jako hudba budoucnosti. Pokud dokážeme umělou inteligenci naučit, jak vypadají projevy závažných kožních onemocnění, pak by k jejich detekci teoreticky stačil pouhý mobilní telefon s fotoaparátem. V rozvinutém světě by něco takového fungovalo nejspíše jenom jako doplněk, ale v zemích, kde neexistuje systém preventivních prohlídek, by taková technologie mohla skutečně zachraňovat životy. Tento záměr má ale vážnou trhlinu už v základech, na kterou poukázala studie zveřejněná na The Lancet. Pro každý výzkumný tým je největší překážkou nashromáždění dostatečného počtu snímků. Mnohé univerzity a další organizace je ale v zájmu vědy poskytují volně. Vědci tak mohli prozkoumat celkem 21 volně přístupných datových souborů, které obsahovaly více jak 100 000 snímků s kožními onemocněními.

Jen něco málo přes 1 400 z těchto snímků mělo připojené informace o etnické příslušnosti pacienta a pouze 2 236 snímků obsahovalo informace o barvě pleti. Tento nedostatek údajů omezuje schopnost výzkumníků odhalit zkreslení v algoritmech vyškolených na snímcích. A takové algoritmy mohou být velmi předpojaté. Z obrázků s informacemi o barvě pleti bylo pouze 11 od pacientů s nejtmavšími dvěma kategoriemi na Fitzpatrickově stupnici, která klasifikuje barvu pleti. Nebyly zde žádné snímky pacientů afrického, afrokaribského nebo jihoasijského původu. Dalším problémem je zkreslení odstínu pleti nastavením fotografické techniky. Tento problém je v poslední době docela hojně diskutovaný a věnoval se mu třeba Google při ladění schopností fotoaparátu u nejnovějších telefonů Pixel.

Proč je to problém, není podle vědců těžké pochopit. Pokud je umělá inteligence trénována hlavně na snímcích světlé kůže, pak pro ni poskytne lepší výsledky. U vážných nemocí, jako je rakovina kůže, to může znamenat zdržení, které pak oddálí léčbu a sníží její účinnost. Vědci proto závěrem studie apelují na své kolegy, aby při vytváření podobných databází více dbali na etnickou pestrost a dali si práci s označením důležitých znaků.

Související články
Diskuze ke článku
V diskuzi zatím nejsou žádné příspěvky. Přidejte svůj názor jako první.
Přidat názor

Nejživější diskuze