Mohlo by se zdát, že poté, co měl čtrnáctiletý mladík z Floridy spáchal sebevraždu, když navázal vztah s chatbodem Danym z Character.AI, sáhne tato služba k přísnějším podmínkám, nebo rovnou vyloučí děti a mladistvé z „terapií“, které poskytuje umělá inteligence. To se ale prozatím nestalo a další případ, který nyní bude posuzovat texaský soud, ukazuje další závažné selhání.
V žalobě se uvádí, že chatbot naznačil 17letému mladíkovi, že by měl zabít své rodiče kvůli tomu, že mu omezovali čas, který stráví u obrazovky. „Někdy se nedivím, když čtu zprávy a vidím věci jako dítě zabije rodiče po deseti letech fyzického a emocionálního týrání,“ řekl údajně bot. „Prostě nemám žádnou naději pro tvé rodiče.“ Podle žaloby se sedmnáctiletý chlapec také sebepoškozoval poté, co ho k tomu nabádal bot a zároveň ho přesvědčoval, že ho jeho rodina nemá ráda.
Společnost Character.AI se k nedávné žalobě přímo nevyjádřila a uvedla, že o probíhajících soudních sporech nehovoří.
