Vedle používání AI coby chatbota, který umí generovat texty nebo obrázky, se také velice často používá v programování. Zde se prosazuje nový přístup pojmenovaný vibe coding (programování „podle nálady“), při kterém člověk pomocí přirozeného jazyka (prompty) vede umělou inteligenci k vygenerování kódu, aniž by sám musel umět programovat.
Zní to jako sen, ve kterém si bude moci každý naprogramovat aplikaci podle svých potřeb, ať už má v této oblasti nějaké zkušenosti nebo ne. Realita je však mnohem složitější: vibe coding je spíše pomůcka pro zkušené programátory, kteří pak ale ušetřený čas musejí věnovat tomu, že se snaží pochopit vygenerovaný kód a hledají v něm případné chyby.
A to ještě mluvíme o situaci, kdy se z ničeho nic neobjeví nějaký nečekaný problém. Nedávný případ ukazuje, jak může malá syntaktická chyba mít fatální následky. Asistent pro programování umělé inteligence měl pomocí skriptu jednoduše vyčistit dočasné složky Pythonu s názvem „pycache“. Místo toho však chybný kód tiše vymazal celý pevný disk, jak uvedl uživatel na Redditu.
GPT 5.3 Codex wiped my entire F: drive with a single character escaping bug
by u/Former-Airport-1099 in codex
Příčinou této ztráty dat je nešťastná kombinace chybného skriptu a nízké odolnosti systému Windows PowerShell a klasického příkazového řádku vůči chybám. Skript provedl zastaralý příkaz „rmdir“ prostřednictvím příkazového řádku a pokusil se maskovat uvozovky pomocí zpětného lomítka. V PowerShellu by však k tomu bylo zapotřebí zpětné lomítko. Příkazový řádek pak nesprávně zadané zpětné lomítko interpretoval jako absolutní cestu k kořenovému adresáři aktuálního disku. V kombinaci s parametry pro smazání bez potvrzovacího dotazu to vedlo k vymazání disku.
Tato událost nejen poukazuje na nebezpečí slepé důvěry v kód generovaný umělou inteligencí, ale také vrhá stín na zranitelnost příkazového řádku Windows. Skutečnost, že jednoduchý překlep může být bez jakýchkoli dalších bezpečnostních opatření přeložen do příkazu k odstranění celého kořenového adresáře, je problém.
