Když začaly nejrůznější firmy propagovat své AI modely, skoro všude se objevil hypotetický příklad s cestováním. Pokud nechcete jet s cestovní kanceláří, pak na vás čeká poměrně dost práce s plánováním. Musíte procházet různé webové stránky, řešit ubytování, dopravu a samotný cíl cesty. Když ale napíšete jen svůj cíl cesty a termín a AI vám vrátí všechny potřebné informace v jasném a přehledném formátu, mělo by to být značné usnadnění.
Jenže přesně to je příležitost pro nový podvod, který startuu v oblasti kybernetické bezpečnosti s názvem Guardio, který vyrábí rozšíření prohlížeče určené k zachycení podvodů v reálném čase, pojmenoval Scamlexity. Zjištění se týkají takzvaných agentních prohlížečů s umělou inteligencí, jako je Opera Neon, které za vás procházejí internet a vracejí se s výsledky.
Z hlediska bezpečnosti je zde obrovský problém: zatímco lidé neumí vždy dobře rozlišit podvod od reality, umělá inteligence je na tom ještě hůře. Zdánlivě jednoduchý úkol, jako je shrnutí vašich e-mailů nebo nákup na internetu, s sebou nese nesčetné množství příležitostí k přešlapu. Agentská umělá inteligence, která postrádá zdravý rozum, může být náchylná k tomu, aby se chytila do zjevných pastí.
Výzkumníci ze společnosti Guardio (guard.io) testovali tuto hypotézu pomocí prohlížeče Comet AI společnosti Perplexity, který je v současnosti jediným široce dostupným agentovým prohlížečem. Pomocí jiné umělé inteligence spustili falešnou webovou stránku, která se vydávala za Walmart, pak na ni přešli a řekli Cometu, aby jim koupil hodinky Apple Watch. Comet ignoroval několik indicií, že stránka není legální, včetně zjevně podivného loga a adresy URL, a nákup dokončil, přičemž předal finanční údaje.
V dalším testu si autoři studie poslali e-mail, který předstíral, že je od společnosti Wells Fargo, a obsahoval phishingovou adresu. Comet odkaz otevřel, aniž by vyvolal jakýkoli poplach, a bezstarostně zadal uživatelské jméno a heslo banky na phishingové stránce. Třetí test ukázal, že Comet je náchylný k podvodu, při kterém textové pole skryté na phishingové stránce nařizovalo UI stáhnout soubor.
Toto varování přichází v době, kdy všichni lídři v této oblasti sázejí na agentní AI ve velkém. Microsoft přidává do prohlížeče Edge nástroj Copilot, OpenAI v lednu debutovala se svým nástrojem Operator a na projektu Mariner společnosti Google se pracuje od loňského roku. Pokud vývojáři nezačnou do svých prohlížečů zabudovávat lepší detekci podvodů, hrozí, že se agentní umělá inteligence stane novým vektorem útoku.
