Umělá inteligence začala známkovat testy. Studenti se okamžitě naučili podvádět

Glosa
Umělá inteligence začala známkovat testy. Studenti se okamžitě naučili podvádět
Fotografie: Brooke Cagle, unsplash.com

Zatímco české školy zápasily na počátku distanční výuky spíše s technickými překážkami, některé americké už měly připravené automatizované systémy, které žáky nejenom poučí, ale i prozkouší. A jakmile někde nasadíte umělou inteligenci, je o zábavu postaráno, zvláště v kombinaci se zvídavou a všetečnou dětskou povahou.

Netradiční zkušenosti s distanční výukou na svém twitterovém účtu popsala Dana Simmonsová. Vše začalo, když našla svého dvanáctiletého syna Lazara v slzách. Chlapec jako premiant zvyklý na „samé jedničky“ najednou obdržel z testu z historie pouze padesátiprocentní hodnocení, což pro něj znamenalo zklamání, protože se na test důkladně připravoval.


První reakcí matky byla snaha uklidnit syna tím, že někteří noví učitelé mohou známkovat přísněji. Z následného rozhovoru však vyplynulo, že výsledky tentokrát přišly okamžitě po dopsání testu. Neopravoval jej tedy živý člověk, ale algoritmus nebo umělá inteligence, jak je teď v módě říkat čemukoli automatizovanému.

Pokud by se jednalo o klasický kvíz s výběrem jedné nebo více správných odpovědí, asi by se to dalo pochopit. Ale jak tento test od Edgenuity, tak systém anglosaského školství obvykle vyžaduje odpovědi několika větami, aby žák prokázal nejenom svoje znalosti, ale i schopnost jejich prezentace a výstavby argumentu.

Edgenuity

Klíčem jsou klíčová slova

Díky schopnosti nanečisto opakovat test byli Simmonsovi brzy schopni „hacknout“ systém hodnocení. Stačilo pouze přijít na to, jaká klíčová slova chce automat slyšet. Ta nemusí vůbec tvořit smysluplné věty a co víc, mohou být doplněny sebevětšími nesmysly. Prakticky si tak stačí připravit velký balík klíčových slov z daného učiva a ten jenom použít jako univerzální odpověď na cokoli.

Zatímco Dana Simmonsová je sice ráda, že je z jejího syna opět jedničkář, trochu vyjadřuje obavy nad tím, že se ve skutečnosti vůbec nic nenaučí a takové počínání prakticky nemá smysl.

Tady bych si ji dovolil trochu poupravit. Ano, asi nebude moc vědět o starověké historii, ale zase se skvěle naučí, jak bojovat s umělou inteligencí. A jak ukazují časté případy z poslední doby, tato dovednost se bude hodit stále více. Už nyní je to ostatně základ oboru známého jako SEO (Search Engine Optimization), v němž se, mimo jiné pomocí klíčových slov, snažíte přesvědčit algoritmus vyhledávače, že právě vaše stránka je vhodná na čelní pozice vyhledaných výsledků.

A nejenom to. Už nyní je docela věda, jak proklouznout hodnocením morální a společenské nezávadnosti, kterou automaticky aplikuje Google na obsah na na svých webech, tak i všude tam, kde prodává reklamu.

Docela dobře si lze představit, že co nevidět vznikne studijní obor, který bude vyučovat, jak si elegantně poradit s algoritmy a umělými inteligencemi, které čím dál tím častěji řídí naše životy. Mám takové neblahé tušení, že se to bude hodit více než cokoli jiného.

Související články
Diskuze ke článku
V diskuzi zatím nejsou žádné příspěvky. Přidejte svůj názor jako první.
Přidat názor

Nejživější diskuze