Půl století předtím, než se umělá inteligence stala každodenním tématem a chatboty zaplavily internet, stál Joseph Weizenbaum, renomovaný profesor počítačové vědy na Massachusetts Institute of Technology (MIT), před dilematem, které předznamenalo mnohé z našich dnešních obav. V roce 1976 vydal knihu „Computer Power and Human Reason“, která nebyla jen technickým pojednáním, ale hlubokou reflexí o měnícím se vztahu mezi člověkem a strojem, mezi vědou a moudrostí. Jeho kritika nebyla kritikou techniky samotné, nýbrž nebezpečné iluze, kterou technologie mohla vyvolat, a redukce komplexního lidského bytí na pouhý soubor algoritmů.
ELIZA: Zrod fenoménu a nečekané probuzení
Weizenbaumův program ELIZA, vytvořený v letech 1964-1966, měl být původně pouhou demonstrací principů zpracování přirozeného jazyka. Navrhl ho jako parodii rogersovského psychoterapeuta, který klade otázky a zrcadlí pacientovy výroky, aby ho povzbudil k mluvení. Cílem bylo ukázat, jak mechanicky lze reprodukovat některé konverzační techniky. Avšak to, co následovalo, autora šokovalo. Lidé se k ELIZE začali emocionálně připoutávat, svěřovali jí svá nejintimnější tajemství a dokonce vyžadovali soukromí při konverzaci s ní. Psychiatři vážně zvažovali nasazení takových systémů do klinické praxe, a média oslavovala ELIZU jako průlom.
Tento vývoj Weizenbauma zděsil. Jeho jednoduchý lingvistický experiment se stal pro mnohé důkazem, že počítače mohou „rozumět“ a „cítit“, a že lidské problémy lze řešit pouhými výpočty. Tato hluboká antropomorfizace stroje, který byl ve skutečnosti jen souborem předdefinovaných pravidel a vzorců, ho přiměla k přehodnocení své práce a k položení zásadních otázek o odpovědnosti vědce a o hranicích, které by technologie neměla překračovat.
Když se racionalita mění v pouhou logičnost
Weizenbaumova kniha je naléhavou výzvou k zamyšlení nad tím, jak moderní věda, původně síla osvobozující, začala působit jako „pomalu účinkující jed“. Tento jed, podle Weizenbauma, podkopává důvěru v jiné způsoby poznávání světa a redukuje komplexní lidská dilemata na technické problémy, které lze vyřešit výpočty. Věříme, že věda nám poskytuje „spolehlivé znalosti“, ale zapomínáme, že i vědecká tvrzení jsou založena na omylném lidském úsudku, domněnkách a intuici. Vědecké demonstrace jsou v podstatě akty přesvědčování, nikoli absolutní pravdy.
Tato tendence vyústila v nebezpečné rovnici: racionalita = logičnost. Weizenbaum varoval, že takové zjednodušení vede k popření samotné existence lidského konfliktu, ke ztrátě schopnosti rozpoznat nesouměřitelné lidské zájmy a hodnoty. Hannah Arendtová, kterou Weizenbaum cituje, hovořila o „naprosto iracionální důvěře ve vypočitatelnost reality“, která se stala leitmotivem rozhodování. Politické a sociální problémy jsou pak vnímány jako pouhá selhání komunikace, řešitelné expertní aplikací nejnovějších informačních technik.
Důsledky pro dnešní dobu umělé inteligence
Dnes, o téměř půl století později, zní Weizenbaumova slova prorocky. Žijeme v době, kdy umělá inteligence skutečně dokáže konverzovat způsobem, který ELIZA ani zdaleka nepředvídala. Automatizace pronikla do oblastí, které Weizenbaum sotva mohl předvídat. Debata o hranicích mezi lidským a strojovým myšlením nabrala na naléhavosti, neboť se potýkáme s chatboty schopnými generovat koherentní text, s algoritmy, které ovlivňují naše rozhodování, a s vizemi plně autonomních systémů.
Weizenbaumova kritika nesměřovala proti technologii jako takové, ale proti „imperialismu instrumentálního rozumu“ – proti tendenci považovat za legitimní pouze otázky, které lze formalizovat a algoritmizovat. Ptal se, zda existují aspekty lidského života, myšlení a vztahování se ke světu, které by měly zůstat výsadou člověka, i kdyby je technologie dokázala napodobit. Tato otázka je dnes naléhavější než kdy jindy, když se hranice mezi lidským a strojovým stírají.
Antropomorfizace a ztráta autonomie
Jedním z klíčových poznatků Weizenbauma bylo, jak snadno se lidé emocionálně vážou ke strojům a jak je antropomorfizují. Jeho sekretářka, která věděla, že ELIZA je jen program, ho požádala, aby opustil místnost, když s ní konverzovala. Lidé se bránili monitorování svých „intimních“ rozhovorů s počítačem. To ukazuje na hlubokou tendenci člověka projektovat své vlastní vlastnosti na stroje, a to i na ty nejjednodušší. Weizenbaum toto vnímal jako projev hlubšího problému: technologické uzurpace lidské schopnosti jednat jako autonomní činitel při dávání smyslu svému světu. Člověk se stal tak adaptivním, že přijal technologické základy pro svou identitu jako přirozené.
Paradoxně, ve chvíli, kdy člověk přestal důvěřovat ve svou vlastní autonomii, začal se spoléhat na autonomní stroje. Protože většina lidí nerozumí vnitřnímu fungování počítačů, vysvětlují si jejich výkony jedinou analogií, která je jim k dispozici: svým vlastním modelem myšlení. To vede k přehánění schopností technologií a k vytváření mylných představ o tom, co počítače skutečně jsou a co mohou dělat. Weizenbaum varoval, že pokud jsou atributy přisuzované veřejností „divoce mylné“, pak budou veřejná rozhodnutí nutně scestná a často špatná.
Hranice lidského a strojového myšlení
Weizenbaum vehementně hájil pozici, že existují důležité rozdíly mezi lidmi a stroji jakožto mysliteli. Ať už mohou být stroje vyrobeny jakkoli inteligentní, existují určité myšlenkové akty, o které by se měli pokoušet pouze lidé. Nejde jen o technickou otázku, co počítače mohou a nemohou dělat, ale o morální otázku, co by dělat měly. Tato debata přesahuje samotné počítače a týká se samotné logičnosti, bez ohledu na to, zda je zakódována v programech či nikoli. Jde o základní otázku, zda je každý aspekt lidského myšlení redukovatelný na logický formalismus, zda je lidské myšlení zcela vypočitatelné.
Odpověď na tuto otázku má zásadní důsledky pro naše chápání sebe sama a našeho místa ve světě. Pokud se budeme i nadále domnívat, že všechny lidské problémy jsou jen „paradoxy“, které lze rozplést chladnou logikou, riskujeme ztrátu naší humanity. Věda a technologie nám přinesly nesmírné pokroky, ale nesmíme zapomínat, že naše existence je protkána hodnotami, intuicí a úsudkem, které nelze redukovat na algoritmy. Naše rozhodnutí o tom, jak používáme technologie, nejsou jen technická, ale především morální rozhodnutí o tom, jakými lidmi chceme být a v jaké společnosti chceme žít. Musíme si uvědomit, že to, co považujeme za „fakta“, je často výsledkem složitého lidského přesvědčování a že skutečná moudrost spočívá v rozpoznání omezení pouhé logiky a v ocenění bohatství lidské zkušenosti, která přesahuje jakýkoli vypočitatelný rámec.
