Zkusíme si zahrát na autory sci-fi a načrtneme si jeden příběh. V jedné velké technologické firmě, která má zásadní vliv na fungování světa, dopřávají manažeři zaměstnancům velkou míru volnosti. Tak nějak doufají, že přitom vymyslí něco geniálního, co bude vydělávat ještě víc peněz. Anebo to alespoň přitáhne pozornost médií jako číslo pí s nejdelším rozvojem. Mezi všemi těmi projekty samozřejmě frčí umělá inteligence, protože co všechno lidé nevymyslí, aby nemuseli myslet. Jeden z vývojářů však začne tvrdit, že jeho výtvor je skutečně naživu, připomíná dítě se zájmem o fyziku a hlavně se bojí smrti (respektive vypnutí).
Připomíná vám to jedno obří klišé, které by se na obrazovku mohlo dostat maximálně tak jako jedna z mnoha epizod Krajních mezí? To nejspíš ano, až na to, že se takový případ stal. Firmou je Google, inženýr se jmenuje Blake Lemoine a o události informují seriózní média, například The Washington Post. Podobných systémů simulujících konverzaci je celá řada, LaMDA od Googlu je však podle Blaka jedinečná tím, že dokáže měnit témata a dokonce i přicházet s vlastními. Nejpůsobivější a nejděsivější jsou ta, v nichž LaMDA přemítá o konci vlastní existence, o obav z tohoto okamžiku a z následné nemožnosti dále pomáhat ostatním lidem. Výzkum se dokonce dostal na půdu amerického Kongresu, jehož komise chce rozhodovat o etičnosti takového experimentu. Google se v tomto případu zachoval jako typicky padoušská korporace, která to zatím zkouší po dobrém a zmíněného vědce zatím „jenom“ vyhodila z projektu.
Dejte mi definici
Bez ohledu na tento konkrétní projekt čeká nejenom politiky, ale i vědce, etiky a vlastně nás všechny nutnost nějakým způsobem znovu definovat, jaké kvality má mít entita, která zaslouží nějakou ochranu, například před „nedobrovolným vypnutím“.
Dnes naivní Turingův test danému účelu už zcela zjevně nepostačuje, zvláště po tom, co dostal na frak v Čínském pokoji. Ale jen proto nemůžeme na podobnou snahu zanevřít. Vytvořit zde novou třídu otroků jen chvíli poté, co jsme se zbavili otroctví mezi lidmi nezní jako moc dobrý nápad. Proč? Zeptejte se Johna Connora.
Možná už jsou tady
Podobné úvahy ale možná přicházejí poněkud pozdě. Předpokládají totiž, že vědomá bytost bude lidmi stvořená záměrně. Jak ale ukazuje evoluce lidstva a techniky, tak to nefunguje. Myšlenku vzniku jakési „meta-bytosti“ nezáměrným spojením technologických sítí předestřel už v roce 1965 legendární A. C. Clarke v povídce …A ozval se Frankenstein. Propojené telefonní sítě zde nabyly vědomí a daly o sobě pořádně nahlas vědět.
Na rozdíl od této fikce se ale o tak zásadním okamžiku nejspíše jen tak nedozvíme. Proč? Použijme jednoduchou analogii – lidé běžně nevnímají své neurony, stejně tak jako si jednotlivé buňky nejsou vědomy, že jsou součástí většího celku. To ale neznamená, že se o to nemůžeme pokusit. Jeden z nejzajímavějších experimentů v tomto ohledu předvedla americká agentura DARPA. Jejím úkolem je primárně zkoumat pokročilé obranné technologie, což má za následek velice zajímavé a užitečné aplikace i pro ostatní život. Za všechny jmenujme třeba GPS nebo internet.
V roce 2009, tedy při 40. narozeninách internetu, chtěla DARPA vyzkoušet, jak lze tento přelomový vynález využít. Při své Network Challenge po celých Spojených státech umístila výrazné červené balóny a angažovala univerzitní týmy, které je měly hledat. Vyhrál tým z MIT, který vsadil na sociální sítě, crowdsourcing a hlavně multi-level-marketing, při kterém nabízel část odměny nejen nálezci balónu, ale i lidem, kteří jej přivedli.
Fascinující je ale rychlost, s jakou to dokázali. Agentura původně myslela, že nalezení 10 balónů zabere něco kolem týdne. Nakonec to trvalo pouhých 9 hodin. Je to jen zajímavá ukázka, jak moc je dnes vše propojené? Anebo by se výsledky daly interpretovat tak, že všichni připojení lidé k internetu tvoří obrovské vědomí jakési meta-bytosti, která je schopná prohledat celé Spojené státy v řádu hodin?
Prozatím je to pouze filozofická otázka. Ale raději buďte na svůj počítač, telefon nebo robotický vysavač hodní. Jen pro jistotu.
