18letý mladík, který údajně zabil osm lidí při masové střelbě v kanadském Tumbler Ridge, údajně používal ChatGPT od OpenAI způsobem, který znepokojil zaměstnance společnosti. Chaty Jesse Van Rootselaarové popisující násilí spáchané střelnými zbraněmi byly označeny nástroji, které monitorují LLM společnosti z hlediska zneužití, a v červnu 2025 byly zakázány.
Zaměstnanci společnosti diskutovali o tom, zda se s tímto případem obrátit na kanadské orgány činné v trestním řízení, ale nakonec tak neučinili, jak uvádí Wall Street Journal (wsj.com) . Mluvčí OpenAI uvedl, že činnost nesplňovala kritéria pro oznámení orgánům činným v trestním řízení a společnost se po incidentu obrátila na kanadské úřady.
Přepisy chatů nebyly jedinou znepokojivou součástí digitální stopy. Zřejmě vytvořila hru na Robloxu, simulační platformě navštěvované dětmi, která simulovala masovou střelbu v nákupním centru. Na Redditu také zveřejňovala příspěvky o zbraních. O její nestabilitě věděla také místní policie, která byla přivolána do domu její rodiny poté, co pod vlivem blíže nespecifikovaných drog založila požár.
V OpenAI tak měla dost indicií, aby se alespoň pokusili střelbě zabránit, ale neučinili tak i přes to, že jejich společnost čelí řadě žalob, ve které psychicky nestabilní lidé pod vlivem chatbota spáchali sebevraždu nebo násilný trestný čin.
