Grok se zbláznil a všem nutil svou pravdu o genocidě v Africe

Mezi odborníky i uživateli umělé inteligence panuje obava, jak snadno půjde pomocí chatbotů ovlivňovat veřejné mínění až – nebo jestli – se stanou dominantním způsobem toho, jak lidé získávají informace. Zatímco procházení webových stránek vás nutí přemýšlet o zdrojích informace, chatbot se při běžném použití tváří, jako by jeho informace byla jediná a konečná pravda.

Nepříjemnou ochutnávku toho, jak snadno lze takovou informaci manipulovat, předvedl ve středu Grok spadající do impéria Elona Muska. Během nekolikahodinového okna do různých odpovědí na X bez ohledu na téma vložil svůj názor o údajné genocidě bělochů v Jihoafrické republice. Grok diskutoval o smrti bílých farmářů v odpovědi na video, na kterém kočka pije vodu, spojil píseň „Kill the Boe“ s otázkou na oblíbenou animovanou postavičku a rozebíral tuto problematiku se vší vervou. Do akce se zapojil dokonce i generální ředitel OpenAI Sam Altman, který si z veřejného zhroucení konkurenčního chatbota utahoval.

Kolem celé situace se rázem vyrojila řada spekulací. Většina z nich naráží na do, že Elon Musk je původem z JAR, jiní zase spekulují nad jeho spojení se současným prezidentem USA a jeho zahraničními zájmy. Ve svém prohlášení na X společnost uvedla, že někdo upravil systémovou výzvu bota s umělou inteligencí, která navedla Grok k poskytnutí konkrétní odpovědi na politické téma. Tato modifikace porušila interní zásady a základní hodnoty společnosti xAI a společnost tvrdí, že provedla důkladné vyšetřování a zavádí nová opatření ke zlepšení transparentnosti a spolehlivosti.

Společnost xAI se s tímto problémem potýkala již dříve. Společnost v únoru obvinila nejmenovaného bývalého zaměstnance společnosti OpenAI, že prosadil změnu v pokynech Groku, v jejímž důsledku chatbot nebral v úvahu žádné zdroje, které obviňovaly Elona Muska nebo Donalda Trumpa ze šíření dezinformací. Šéf inženýrství xAI Igor Babuschkin tehdy uvedl, že zaměstnanec mohl změnu provést, aniž by kohokoli ve společnosti požádal o potvrzení.