EU oficiálně přijala Akt o umělé inteligenci, první komplexní soubor pravidel pro umělou inteligenci na světě. Poslanci Evropského parlamentu (EP) nařízení ve středu drtivou většinou schválili. Zákon prošel 523 hlasy pro, 46 proti a 49 se zdrželo hlasování.
Podle europarl.europa.eu je cílem regulace chránit základní práva, demokracii, právní stát a udržitelnost životního prostředí před vysoce rizikovou umělou inteligencí a zároveň podpořit inovace a vytvořit z Evropy lídra v této oblasti. Nařízení stanoví povinnosti pro UI na základě jejich potenciálních rizik a míry dopadu.
Co bude zakázáno?
Nová pravidla zakazují některé aplikace umělé inteligence, které ohrožují práva občanů, včetně biometrických kategorizačních systémů založených na citlivých charakteristikách a necíleného získávání snímků obličeje z internetu nebo kamerových záznamů za účelem vytváření databází pro rozpoznávání obličejů. Zakázáno bude rovněž rozpoznávání emocí na pracovišti a ve školách, sociální skórování, prediktivní policejní práce (pokud je založena výhradně na profilování osoby nebo vyhodnocování jejích charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí.
A co výjimky?
Používání biometrických identifikačních systémů (RBI) orgány činnými v trestním řízení je v zásadě zakázáno, s výjimkou taxativně vyjmenovaných a úzce vymezených situací. Lze je nasadit pouze za předpokladu, že jsou splněny přísné záruky, např. jeho použití je časově a geograficky omezeno a podléhá zvláštnímu předchozímu soudnímu nebo správnímu povolení. Takové použití může zahrnovat například cílené pátrání po pohřešované osobě nebo prevenci teroristického útoku.
A co dál?
Systémy umělé inteligence pro všeobecné účely (GPAI) a modely GPAI, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost, včetně dodržování autorského práva EU a zveřejňování podrobných shrnutí obsahu použitého pro školení. Na výkonnější modely GPAI, které by mohly představovat systémová rizika, se budou vztahovat další požadavky, včetně provádění hodnocení modelů, posuzování a zmírňování systémových rizik a podávání zpráv o incidentech. V praxi to znamená, že by umělé nebo zmanipulované obrázky, zvukový nebo video obsah (známý též jako „deepfakes“) měly být jako takové jasně označeny.
Kdy se dočkáme?
Nařízení ještě projde závěrečnou právnicko-lingvistickou kontrolou a očekává se, že bude definitivně přijato ještě před koncem volebního období (tzv. opravným postupem). Zákon musí být rovněž formálně schválen Radou. Následně vstoupí v platnost dvacet dní po zveřejnění v Úředním věstníku a bude plně použitelný 24 měsíců po vstupu v platnost, krom výslovně definovaných výjimek.
