Když se řekne klonování hlasu pomocí umělé inteligence, ještě před pár lety by to většina lidí považovala za čisté sci-fi. Vzhledem k nejnovějšímu pokroku v oblasti umělé inteligence a strojového učení je to však realita, která je také zneužívána k nekalé činnosti. Obvyklý případ je bezpečnostními experty popisovaný případ, kdy ředitel volá do účtárny, že je „nutné okamžitě proplatit jednu fakturu mimo standardní postupy“. Jak ale ukazuje poslední případ z Baltimoru ve Spojených státech, může se jednat i daleko obyčejnější případy.
Jak informuje thebaltimorebanner.com učitel tělesné výchovy a bývalý sportovní ředitel střední školy v Baltimorském okrese byl zatčen a obviněn z použití služby klonování hlasu pomocí umělé inteligence, aby obvinil ředitele školy.
Místní policie se domnívá, že nahrávka, která se v lednu šířila po sociálních sítích a na níž je údajně slyšet ředitel střední školy v Pikesville Eric Eiswert, jak pronáší rasistické a antisemitské komentáře, je falešná. Odborníci sdělili deníku The Baltimore Banner a policii, že nahrávka, kvůli níž byl Eiswert nakrátko suspendován, má plochý tón, neobvykle čisté zvuky v pozadí a chybí na ní konzistentní zvuky dechu nebo pauzy.
Policie vypátrala, že nahrávku pořídil Dazhon Darien, bývalý sportovní ředitel školy, jehož jméno bylo v nahrávce také zmíněno. Údajně přistupoval ke školním počítačům za účelem přístupu k nástrojům OpenAI a službám Microsoft Bing Chat, jak informovaly stanice WBAL 11 a NBC News. Se zveřejněním zvukového záznamu byl také spojen prostřednictvím e-mailové adresy a souvisejícího telefonního čísla pro obnovení.
Policie Dariena zatkla ve čtvrtek na letišti a ve svém prohlášení uvedla: „Předpokládá se, že pan Darien, který byl sportovním ředitelem na Pikesvillské střední škole, pořídil nahrávku, aby se pomstil panu Eiswertovi, který v té době vedl vyšetřování možného špatného nakládání se školními prostředky.“ Po složení kauce byl propuštěn na svobodu a čelí obvinění z krádeže (kvůli problému se školními prostředky), narušení provozu školy, odplaty svědkovi a stalkingu.
V tomto kontextu se společnost OpenAI v březnu rozhodla, že svou platformu Voice Engine pro generování textu z umělé inteligence nepoužije pro veřejné účely. Služba, která ke klonování hlasu vyžaduje pouze 15minutový zvukový klip, je kvůli chybějícím ochranným opatřením kolem této technologie dostupná pouze omezenému počtu výzkumných pracovníků.
