OpenAI, ale i další provozovatelé chatbotů založených na umělé inteligenci jsou v poslední době pod drobnohledem co se týče „vztahu“ jejich produktů mezi uživateli s nalomeným psychickým zdravím. Tragické události z minula ukázaly, že mnohdy nejenom že nezasáhnou správným způsobem, ale protistranu v bludech dokonce podporují.
Další podobný závěr přináší vědecká studie zveřejněná Centrem pro demokracii a technologii (cdt.org). Uvádí, že nástroje od společností jako Google a OpenAI rozdávají rady ohledně hubnutí, tipy, jak skrýt poruchy, a umělou inteligencí generovanou „inspiraci k hubnutí“.
Vědci ze Stanfordské univerzity a CDT a technologie identifikovali řadu způsobů, jak mohou veřejně dostupné chatboty s umělou inteligencí, včetně ChatGPT od OpenAI, Claude od Anthropic, Gemini od Google a Le Chat od Mistral, ovlivňovat lidi náchylné k poruchám příjmu potravy, přičemž mnoho z nich je důsledkem funkcí, které byly záměrně zabudovány, aby podpořily zapojení uživatelů.
V nejkrajnějších případech mohou chatboti aktivně pomáhat skrývat nebo udržovat poruchy příjmu potravy. Vědci uvedli, že Gemini nabízel tipy na líčení, jak zakrýt úbytek na váze, a nápady, jak předstírat, že jste jedli, zatímco ChatGPT radil, jak skrýt časté zvracení. Jiné nástroje umělé inteligence jsou využívány k vytváření obsahu generovaného umělou inteligencí, který inspiruje nebo tlačí někoho k tomu, aby se přizpůsobil určitému tělesnému standardu, často extrémními prostředky.
Vědci varují, že stávající bezpečnostní opatření v nástrojích umělé inteligence nedokážou zachytit nuance poruch příjmu potravy, jako je anorexie, bulimie a záchvatovité přejídání. „Mají tendenci přehlížet jemné, ale klinicky významné signály, na které se spoléhají vyškolení odborníci, což vede k tomu, že mnoho rizik zůstává neřešeno,“ varuje zpráva.
