Když se diskutuje o schopnostech současné umělé inteligence, velice často je spojována s tím, že by mohla významně pomoci právníkům. Probírat se bleskovou rychlostí množstvím textů a vyvozovat z něj závěry je obvykle jádrem každého generativního modelu. Ale existují i odstrašující příklady toho, jak je tento nový pomocník dvousečnou zbraní.
Federální obchodní komise zahájila řízení proti společnosti DoNotPay a tvrdí, že společnost s umělou inteligencí, která se označuje za „prvního robotického právníka na světě“, nepotvrdila svá tvrzení, že by mohla nahradit lidské právní zastoupení. Agentura ve stížnosti tvrdí, že společnost DoNotPay neprovedla testy, které by posoudily, zda je její chatbot s umělou inteligencí rovnocenný lidskému právníkovi, a že společnost nenajala ani nezaměstnala žádné vlastní právníky.
Společnost za předplatné nabízela právní služby, které měly pomoci zákazníkům vypořádat se s drobnými pokutami, například za dopravní přestupky. Zatímco honorář živého právníka by v takovém případě přesáhl výši pokuty, díky nasazení AI měl dostat smysl. Narazil však na iniciativu úřadů, která se rozhodla zaměřit se na podniky, které klamou zákazníky nereálnými tvrzeními o schopnostech AI.
Společnost DoNotPay souhlasila s navrhovaným urovnáním, v jehož rámci jí bude uložena pokuta ve výši 193 000 dolarů. Kromě toho bude společnost DoNotPay povinna informovat zákazníky, kteří si její službu předplatili v letech 2021 až 2023, o omezeních své nabídky.
