Rozhlasový moderátor Mark Walters z Georgie žaluje OpenAI poté, co ChatGPT uvedl, že byl obviněn z podvodu a zpronevěry finančních prostředků neziskové organizace. Systém tuto informaci vygeneroval v reakci na žádost třetí strany, novináře jménem Fred Riehl. Waltersův případ byl podán 5. června u vrchního soudu okresu Gwinnett v Georgii a požaduje po společnosti OpenAI blíže nespecifikované finanční odškodnění. O případu informoval courthousenews.com.
Pokud tedy bude připuštěno projednávání případu, bude soud stát před zajímavou otázkou, kdo je za ChatGPT a jeho výroky odpovědný. Už od začátku se upozorňuje na to, že i přes své pokročilé schopnosti nemá systém jak odlišovat fakta od smyšlenek. Není to ani jeho úkolem. Obvykle to vede k pobavení, ale vyskytly se i případy, kdy špatně pochopený závěr ChatGPT způsobil újmu. Kupříkladu jistí studenti měli problém se svou závěrečnou prací, protože ji chatbot označil za svůj výtvor. Následkům bude čelit i právník, který se nechal oklamat vymyšlenými precedenty, jež následně předložil soudu.
Společnost OpenAI na domovské stránce ChatGPT uvádí upozornění, že systém „může občas generovat nesprávné informace“, ale zároveň jej prezentuje jako zdroj spolehlivých dat a v reklamním textu popisuje systém jako způsob, jak „získat odpovědi“ a „dozvědět se něco nového“.
Na soudu tak bude rozhodnout, do jaké míry je OpenAI zodpovědné za nesprávné informace vygenerované ChatGPT. V USA zákon chrání internetové firmy před právní odpovědností za informace vytvořené třetí stranou a umístěné na jejich platformách. Není však jasné, zda se tato ochrana vztahuje na systémy umělé inteligence, které se pouze nepropojují se zdroji dat, ale generují informace.
