Odborníci na sociální sítě už delší dobu upozorňují na nebezpečí, které zneužití sociálních sítí přináší pro politickou soutěž, a tudíž i pro samotnou demokracii. Obecně známá kauza Cambridge Analytica byla jen špičkou ledovce. A mnozí se domnívají, že neregulované šíření dezinformací bylo jednou z příčin, která podnítila útok na Kapitol po posledních prezidentských volbách v USA.
A obavy z těch nadcházejících jsou ještě hlubší. I mezi běžné uživatele se totiž za poslední volební období dostaly mocné nástroje pro generování textu, obrazů anebo i videa a jejich snadnou úpravu. Ačkoli se sociální sítě kají, že nic takového nehodlají dopustit, realita je méně radostná. Zásady společnosti Meta týkající se manipulovaných médií jsou „nesoudržné“ a příliš se zaměřují na to, zda bylo video upraveno pomocí umělé inteligence, spíše než na škody, které by to mohlo způsobit, uvedla v rozhodnutí dozorčí rada společnosti.
Toto doporučení přišlo i přesto, že Rada potvrdila rozhodnutí společnosti nechat na platformě nadále šířit upravené video s prezidentem Joem Bidenem. Dotyčné video využívá skutečné záběry Bidena z října 2022, na nichž na pokyn své dospělé vnučky umisťuje nad její hruď nálepku „I Voted“. Upravené video, zveřejněné již v lednu 2023, však ukazuje okamžik, kdy jeho ruka dosáhne na její hruď, aby to vypadalo, že se jí nevhodně dotýká. Jedna verze zveřejněná v květnu 2023 označuje Bidena v titulku za „zvráceného pedofila“.
Správní rada souhlasila s Metou, že video neporušuje její zásady manipulace s médii, protože pravidla zakazují pouze vytvářet dojem, že někdo řekl něco, co neřekl, a ne že udělal něco, co neudělal. Pravidla se v současné podobě také vztahují pouze na videa vytvořená pomocí umělé inteligence, nikoli na zavádějící smyčky nebo jednodušší úpravy. Rada zjistila, že průměrný uživatel pravděpodobně neuvěří, že video bylo nezměněné, protože úprava ve smyčce byla zřejmá.
Ačkoli Rada shledala, že Meta v tomto případě správně použila svá pravidla, navrhla významné změny samotných pravidel s odkazem na naléhavost nadcházejících voleb v roce 2024. „Pravidla společnosti Meta týkající se manipulovaných médií postrádají přesvědčivé odůvodnění, jsou nesoudržná a pro uživatele matoucí a jasně nespecifikují škody, kterým se snaží zabránit,“ napsala Rada. Zdá se ale, že případná náprava bude spíše kosmetická. Hlavní bod totiž zmiňuje, že by editovaná videa měla být „výrazněji označena“.
