Dějiny tohoto skandálu se začaly psát už v roce 1999, kdy se britská pošta rozhodla pro digitalizaci, aby udržela krok s dobou a mohla vstoupit do 21. století. Tomu všemu měl dopomoci systém Horizon, který vyvinula japonská společnost Fujitsu a který se používal pro úkoly, jako jsou transakce, účetnictví a inventarizace. Podle bbc.com se však záhy ukázalo, že počítače, které měly odstraňovat možnost pochybení, ve skutečnosti další problém přinesly. Vedoucí pošt si stěžovali na nedostatky v systému poté, co vykázal manko, z nichž některá byla ve výši mnoha tisíc liber. Někteří se pokoušeli zaplnit díru vlastními penězi a dokonce si vzali hypotéku na svůj dům, aby (často bezvýsledně) napravili chybu.
V takové situaci by bylo na místě věřit vlastním bezúhonným zaměstnancům, pozastavit zavádění systému a provést jeho důkladný audit. Jenže to by pro poštu i pro Fujitsu znamenalo náklady navíc, proto se firmy problémy rozhodly popírat nebo je tajně řešit na živém systému. Výsledek je děsivý: v letech 2000 až 2014 bylo stíháno 736 poštmistrů a poštmistrových za krádeže, podvody a falešné účetnictví na jejich pobočkách. Přesto se ničeho nedopustili.
Zkázu pak dokonal soudní systém. Práce na poště není ani ve Spojeném království cestou k zbohatnutí, a tak se oběti musely spolehnout na veřejné právní zastoupení v hodnotě zhruba tisíce liber. Pak přišel nerovný boj s poštou, jejíž rozpočet na právní oddělení je sto miliónů liber...
Byl by to zajímavý případ jako z Kafkova Procesu s lehkým nádechem Orwella, kdy ne strana, ale systém tvrdí, že 2 + 2 = 5. Ale když si na theguardian.com pročítáte osudy jednotlivých obětí skrývající se za anonymní statistikou, jímá vás hrůza. Nejméně čtyři lidé spáchali sebevraždu. 59 obětí zemřelo v produktivním věku a před ukončením vyšetřování, aniž by se zbavili cejchu podvodníka. Řada lidí byla vězněna, včetně matek odtržených od svých dětí. Výše zmiňované ztráty peněz nebo obydlí ve snaze sanovat finanční problémy ze svého tak byly pro oběti ještě tou lepší variantou.
Nikdo není v bezpečí
A teď si vezměte, že mluvíme o době skoro před čtvrt stoletím, kdy mnozí z nás teprve s nadšením objevovali připojení k internetu a umělá inteligence byla jen námětem sci-fi filmů a literatury. A že je řeč o systému, který měl provádět jen jednoduché účetní operace.
Pár mrtvých pošťáků však není nic, co by mohlo technologický sektor zastavit v rozletu a upevňování kontroly nad našimi životy. Od celkem neškodné kontroly závadnosti obsahu přes vyhodnocování dopravních přestupků až po schvalování hypoték v bankách.
S vyhodnocováním přijímacích testů letos pomáhala i umělá inteligence. „Měla menší chybovost než lidský hodnotitel,“ říká v rozhovoru ředitel Cermatu Miroslav Krejčí. Umělou inteligenci proto budou chtít zapojit i do vyhodnocování letošních maturit.https://t.co/vCT7k0ToVW
— Seznam Zprávy (@SeznamZpravy) April 28, 2023
Není to nějaká samoúčelná móda, všechny subjekty se tak snaží zvýšit zisk, proto vám jejich PR oddělení budou ad nauseam opakovat mantru, jak jsou jejich systémy rychlejší a přesnější než skuteční lidé, i kdyby to nebyla pravda jako v případě britské pošty. Se zděšením tak můžeme sledovat, že počítačový systém, kterému se letos módně říká AI, bude hodnotit i ty nejdůležitější okamžiky životů našich dětí – přijímací zkoušky nebo maturity. Pro jejich dobro doufám, že má Cermat lépe nastavené ochranné mechanismy, než měla britská pošta.
