Nor Arve Hjalmar Holmen zkusil to, co asi každý. Chtěl vědět, co o něm tvrdí nejznámější AI chatbot ChatGPT. Tvrzení, že byl odsouzen za vraždu i pokus o vraždu a odpykává si 21 let v norském vězení, ho rozhodně zaskočil. Alarmující je, že výstup ChatGPT mísí smyšlené údaje s fakty, včetně jeho rodného města, počtu a pohlaví jeho dětí.
Rakouská právnická firma Noyb podala jeho jménem stížnost norskému úřadu Datatilsynet a obvinila společnost OpenAI z porušení požadavků na ochranu osobních údajů stanovených v obecném nařízení Evropské unie o ochraně osobních údajů (GDPR). Žádá, aby byla společnosti uložena pokuta a aby jí bylo nařízeno odstranit hanlivé výstupy a vylepšit svůj model tak, aby se podobných chyb vyvarovala.
„GDPR mluví jasně. Osobní údaje musí být přesné. A pokud nejsou, uživatelé mají právo na jejich změnu tak, aby odpovídaly pravdě,“ vysvětluje právník podstatu žádosti. „Ukázat uživatelům ChatGPT drobné upozornění, že chatbot může dělat chyby, zjevně nestačí. Nemůžete jen tak šířit nepravdivé informace a na závěr přidat malé prohlášení o vyloučení odpovědnosti, že vše, co jste řekli, prostě nemusí být pravda.“
Kdy o stížnosti rozhodnou příslušné úřady není prozatím jasné. Open AI ale už na celou kauzu zareagovala, a to tím způsobem, že její chatbot se o tomto konkrétním norském jméně odmítá jakkoli vyjadřovat, jak to dělá v případě jiných citlivých a sporných témat.
