Společnost OpenAI (openai.com) představila pro ChatGPT funkci „Trusted Contact“, která uživatelům umožní určit přítele, na kterého se společnost může obrátit, pokud hrozí, že si uživatel ublíží. Stále více lidí využívá ChatGPT jako digitálního terapeuta a spoléhá se na tohoto chatbota v otázkách duševního zdraví. OpenAI již dříve sdělila, že více než milion z jejích 800 milionů týdenních uživatelů vyjadřuje ve svých konverzacích sebevražedné myšlenky.
Nová volitelná bezpečnostní funkce v ChatGPT, která dospělým umožňuje určit osobu, které důvěřují například přítele, člena rodiny nebo pečovatele a která může být upozorněna, pokud naše automatizované systémy a vyškolení recenzenti zjistí, že daná osoba hovořila o ublížení si způsobem, který naznačuje vážné bezpečnostní riziko.
Funkce „Důvěryhodný kontakt“ navazuje na bezpečnostní upozornění v rámci rodičovské kontroly, která rodičům nebo zákonným zástupcům umožňují dostávat upozornění, pokud se u propojeného účtu teenagera objeví známky akutního ohrožení. Nyní mají podobnou možnost i dospělí.
V loňském roce čelila společnost OpenAI žalobě za způsobení smrti z nedbalosti, v níž byla obviněna z toho, že přispěla k sebevraždě teenagera. Žaloba tvrdila, že teenager hovořil s ChatGPT o čtyřech předchozích pokusech o ukončení života a že mu tento chatbot následně pomohl naplánovat samotnou sebevraždu. OpenAI tvrdí, že od té doby vylepšila způsob, jakým její chatbot reaguje na lidi v nouzi.
Jak to funguje?
- Uživatelé si mohou v nastavení ChatGPT přidat jednu dospělou osobu jako důvěryhodný kontakt.
- Důvěryhodná kontaktní osoba obdrží pozvánku s vysvětlením své role a musí ji přijmout do jednoho týdne, aby se tato funkce aktivovala. Pokud důvěryhodná kontaktní osoba pozvánku odmítne, může uživatel přidat jinou dospělou osobu.
- Pokud naše automatizované monitorovací systémy zjistí, že uživatel možná hovoří o sebepoškozování způsobem, který naznačuje vážné bezpečnostní riziko, ChatGPT uživatele informuje, že můžeme kontaktovat jeho důvěryhodnou kontaktní osobu, a vybízí ho, aby se na ni obrátil, přičemž mu navrhne, jak konverzaci zahájit.
- Poté situaci posoudí malý tým speciálně proškolených pracovníků. Pokud tito pracovníci dojdou k závěru, že daný rozhovor může naznačovat vážné bezpečnostní riziko, ChatGPT zašle důvěryhodnému kontaktu krátké upozornění e-mailem, SMS zprávou nebo prostřednictvím aplikace, pokud má tento kontakt účet v ChatGPT.
- Toto oznámení je záměrně stručné. Uvádí obecný důvod, proč se téma sebepoškozování objevilo v potenciálně znepokojivé souvislosti, a vybízí důvěryhodnou kontaktní osobu, aby se ozvala. Z důvodu ochrany soukromí uživatele neobsahuje žádné podrobnosti ani přepisy chatových konverzací. Oznámení také obsahuje odkaz na odborné pokyny pro vedení citlivých rozhovorů.
- Uživatelé mohou svůj důvěryhodný kontakt kdykoli odstranit nebo upravit v nastavení a důvěryhodný kontakt se může kdykoli sám odstranit
