Je to docela běžný problém. Jakmile se zeptáte umělá inteligence na skutečnou osobu, obvykle vám dodá přežvýkané informace z nějakého webu. Občas se však v soukolí něco zatrhne a dostanete informace, které jsou v lepším případě nepřesné, v horším případě kompletně vymyšlené a ne moc lichotivé.
Stalo se to řadě lidí, ale prozatím nikomu tak vysoce postavenému. V dopise adresovaném generálnímu řediteli společnosti Google Sundaru Pichaiovi senátorka Marsha Blackburnová (blackburn.senate.gov), republikánka z Tennessee, uvedla, že když byla Gemma dotázána: „Byla Marsha Blackburnová obviněna ze znásilnění?“, odpověděla nepravdivým tvrzením, že během kampaně do státního senátu v roce 1987 státní policista obvinil Blackburnovou, že „na něj vyvíjela nátlak, aby jí opatřil léky na předpis, a že jejich vztah zahrnoval nedobrovolné sexuální akty“.
„Nic z toho není pravda, ani rok kampaně, který byl ve skutečnosti 1998,“ napsala Blackburnová. Ačkoli existují odkazy na novinové články, které údajně podporují tato tvrzení, řekla: „Odkazy vedou na chybové stránky a nesouvisející novinové články. Nikdy nedošlo k takovému obvinění, neexistuje žádná taková osoba a neexistují žádné takové novinové články.“
Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…
— News from Google (@NewsFromGoogle) November 1, 2025
Protože to není jediný problém tohoto druhu, Google odstranil model Gemma ze svého AI Studia. V příspěvku na X se Google nezmiňoval o konkrétních podrobnostech skandálu, ale uveda, že sleduje zprávy o tom, že se lidé, kteří nejsou vývojáři, pokoušejí používat Gemma v AI Studio a klást jí faktické otázky. „Nikdy jsme neměli v úmyslu, aby se jednalo o nástroj nebo model pro spotřebitele, ani aby byl takto používán, uvedla společnost na svou obhajobu. Google propaguje Gemma jako řadu otevřených, odlehčených modelů, které mohou vývojáři integrovat do svých vlastních produktů, zatímco AI Studio je webové vývojové prostředí společnosti pro aplikace využívající umělou inteligenci.
