Pokud pracujete s výstupy umělé inteligence, pak vás nepřekvapí, s jakou lehkostí k nim přidá něco, co zjevně není pravda. Pokud je situace vážnější, pak se mluví o tzv. „halucinacích“, kdy dostanete zmatené nebo nesouvisející odpovědi. Co se však stalo během středy, to podle uživatelů sociální sítě reddit.com přesahuje běžné chování.
Uživatelé ChatGPT hlásí, že chatbot včera reagoval podivně, například přepínal mezi jazyky, zasekával se ve smyčkách nebo se dokonce opakovaně opravoval. Některé odpovědi byly prostě jen bláboly.
chatgpt is apparently going off the rails right now and no one can explain why pic.twitter.com/0XSSsTfLzP
— sean mcguire (@seanw_m) February 21, 2024
Společnost OpenAI na své stavové stránce potvrdila, že prošetřuje hlášení o neočekávaných odpovědích z ChatGPT, a o několik minut později uvedla, že problém našla a pracuje na opravě.
Později společnost dodala i vysvětlení tohoto chování: „LLM generuje odpovědi náhodným výběrem slov částečně na základě pravděpodobnosti. Jejich jazyk se skládá z čísel, která se mapují na tokeny. V tomto případě byla chyba v kroku, kdy model vybírá tato čísla. Podobně jako při ztrátě v překladu model zvolil mírně chybná čísla, což vedlo k vytvoření sekvencí slov, které nedávaly smysl. Z techničtějšího hlediska inferenční jádra produkovala nesprávné výsledky při použití v určitých konfiguracích GPU,“ vysvětlují zástupci OpenAI.
