Nejsme stroje

Historik Yuval Noah Harari v knize Homo Deus tvrdí, že je prokázané, že naše emoce a myšlenky jsou jen evolucí vybroušené algoritmy určené k přežití, a tedy, že my sami jsme jen takový složitější, organický počítač. I štěstí není nic víc než chemická rovnováha v mozku. Profesor Geoffrey Hinton, nositel Nobelovy ceny za fyziku označovaný jako duchovní otec AI, zase nadhazuje v nedávném rozhovoru otázku, co by se změnilo, kdyby se jeden vybraný neuron v našem mozku nahradil nanočipem, který by přijímal elektrické impulsy od okolních neuronů a předával je dál, stejně jako jeho biologický předchůdce. A naznačuje, že by se nezměnilo vůbec nic. Je zřejmé, kam tato úvaha směřuje: že náš biologický hardware, tedy mozek, bude možno už v dohledné budoucnosti nahradit hardwarem silikonovým; a že naše vědomí, psychika a jedinečná osobnost mohou být už za pár let bez problémů „nahrány do cloudu“. Mezi námi, a stroji — zejména počítači —není žádný kvalitativní rozdíl.

Metafora člověka jako stroje není vlastní jen hlasitým zastáncům transhumanismu, jako je Harari, nebo omezeným technokratům, jako je Hinton (nic proti Hintonovi, ale jeho komentáře stran lidského vědomí a psychiky jsou, ehm… značně neinformované). Tato metafora v posledních desetiletích do velké míry opanovala biologii, a agresivně proniká i do psychologie, filozofie a dalších oborů. Právě tato metafora je v základu redukcionisticky pojaté medicíny, která chápe člověka jako soubor orgánů, které se mohou „polámat“ a které lze opravit buď chirurgicky nebo chemicky. Anebo je naopak opravit nelze, protože jsme měli tu smůlu, že jsme po svých předcích zdědili špatné geny — a tedy máme defektní hardware. Právě tato metafora stojí za příklonem současné psychologie k postupům založených na datech, a k algoritmizaci psychologické péče obecně. A právě tato metafora vyklání současné filosofické úvahy směrem k budoucnosti, v níž se lidské tělo vylepšuje mechanickými periferiemi a lidská inteligence propojuje s inteligencí umělou. Právě na této metafoře stojí obavy, že nás stroje mohou ovládnout, protože nabydou vědomí a jejich inteligence řádově převýší tu naši. Protože pokud opravdu jsme jen trochu složitější počítač, pak těmto scénářům nic nestojí v cestě.

Tato metafora ale neovlivňuje jen vědecký výzkum a technologický vývoj. Tato metafora skrytě okrádá každého jednoho z nás o svobodu a sílu kreativně měnit okolnosti svého života, jakkoliv si to nemusíme uvědomovat. Pokud jsme strojem, pak jsme bezmocnou obětí našich genů nebo minulých zkušeností; pokud jsme strojem, pak o to víc musíme spoléhat na odborníky, protože nemáme šanci sebe sama napřímo pochopit; pokud jsme strojem, pak nemáme svobodnou vůli, ale jen její zdání. Zdůrazňování této metafory ze strany vlivných intelektuálů, ať už vědomě či záměrně, degraduje naše člověčenství, zbavuje nás svobody a vede nás do duševního otroctví.

Ve skutečnosti je ale metafora člověka jako stroje, navzdory své přesvědčivosti, velmi hloupá. Lidské tělo, o psychice ani nemluvě, je neskonale složitější než jakýkoliv stroj, který jsme kdy dokázali, nebo v budoucnu dokážeme, vyrobit. Ten kvalitativní rozdíl je do té míry propastný, že je až s podivem, že vůbec taková metafora vznikla a dokázala se uchytit. Hloubku toho rozdílu teprve začínáme mapovat.

V následujícím zkusím stručně vysvětlit, proč je ta metafora tak hloupá. Omezím se, pro jednoduchost, na naši biologickou stránku, tedy na naše tělo. Popíšu osm rozdílů mezi živým organismem (jehož je naše tělo příkladem), a strojem či počítačem.

Vycházím zejména z kapitoly dvanáct obsáhlé knihy psychiatra, filozofa a polyhistora Iaina McGilchrista The Matter with Things. Nebudu příliš uvádět odkazy, ale kniha je jimi přímo prošpikovaná — vše, co níže uvádím, je opřeno o vyjádření předních vědců z různých oborů medicíny a biologie a mnohačetné odborné články. Nejsem biolog, takže se omlouvám za případný neobratný překlad do češtiny a možné drobné nepřesnosti.

1. Vypnutí a zapnutí nefunguje

Živý organismus nelze vypnout, vyměnit defektní část, a znovu nahodit. Neustálá změna je podstatou života. Organismus nelze rozebrat a znovu složit; organismy se nevyrábí, ale sekundu od sekundy vznikají v procesu neustálé obnovy. Bytí živých organismů je výsledkem neustálé horečnaté aktivity, organismus neexistuje—ve smyslu statického, neměnného bytí—ale „stává se“, „děje se“, a „plyne“.

2. Pohyb oproti klidu

Stroj je složen z částí, jež jsou, samy o sobě, v klidu. I stroj sám je zárodečně v klidu. Do pohybu ho lze uvést jen tak, že se nějaká jeho část připojí ke zdroji energie a ta uvede do pohybu další části, v lineárně-kauzálním řetězci. Když se energie vypne, celý stroj se vrátí do klidu, tzn. do stavu statické rovnováhy.

Živý organismus, naproti tomu, zůstává „stabilní“ jen proto, že neustále riskantně balancuje na hraně nerovnováhy (jako stíhačka Eurofighter Typhoon, ale v kolosálně větším měřítku). Každou sekundu si vyměňujeme s okolím molekuly vzduchu, nerostné látky, stejně jako miliony mikroorganismů. Živé organismy jsou otevřené systémy s nízkou entropií, daleko od jakéhokoliv fixního rovnovážného stavu. V těle je řada systémů, založených na neustálém vybalancovávání dvou protikladných mechanismů—reguluje se takto krevní tlak, svalový tonus, hydratace, obnovování buněk a mnohé další věci.

Komplexita materiálových toků v těle, i mezi tělem a prostředím, je naprosto mimo naše chápání. Jediná molekula carbonic anhydrase je schopna katalyzovat milion chemických reakcí za sekundu a zrychlit dekarbonizaci aminokyselin o více než 10 řádů (!).

Dobrou metaforou živého organismu je vodní vír: ačkoliv voda, která jím protéká, se mění, on sám si zachovává plus minus stabilní tvar. Pevná struktura živého organismu je jen zdání, iluze tvaru udržovaná materiálovými toky bez konce a počátku. Když se vyvíjí v děloze srdce plodu, rozdělí se krev do dvou proudů ještě dávno předtím, než se vytvoří přepážka oddělující srdeční komory. A přepážka vznikne právě v místě, kde se oba proudy nemísí a kde je mezi nimi „mrtvé rameno“. Tok krve předurčuje strukturu srdce, pohyb předchází formě. Ale co tedy určuje pohyb, když forma ještě nevznikla?

Ani evoluce neprobíhá mechanicky, krok po kroku, tak, že jeden druh nahradí jiný. I evoluce je nekončící řeka neustálých drobných změn, kterou naše pojetí biologických druhů coby oddělených „krabiček“ silně zjednodušuje. Přírodní výběr samotný se navíc stále více ukazuje jen jako stabilizační prvek evoluce, nikoliv jako příčina evolučních změn.

3. Nelinearita

Organismy nejsou výsledek algoritmického procesu, tzn. řady na sebe navazujících, pevných kroků. V živých organismech je kauzalita rozprostřená: mnohačetné příčiny vedou k řadě různých výsledků v navzájem propojené síti, v níž antagonistické faktory křížově regulují jeden druhý, včetně toho, že nějakým způsobem, který nechápeme, reagují na stav organismu jako celku. Celé to vypadá jako pavoučí síť, kde zachvění jednoho vlákénka vede ke změně napětí na mnoha, i velmi odlehlých místech. Chování organismu nelze vysvětlit odspoda (bottom-up), ale musíme brát v úvahu i vlivy působící odshora (top-down), tedy od celého systému k jeho částem. Pokus rozpitvat do detailů pouhopouhé čtyři různé signální dráhy v našem těle zredukované na 5 kroků vede k hrůzostrašně spletitému grafu, kde „vše působí skrze vše na vše ostatní“. I samotná koncepce izolovaných kroků se ukazuje jako drastické zjednodušení: živý organismus je tok (flow), na rozdíl od neživého stroje, který je řetěz (chain). Vyskytují se náznaky, že některé jevy na buněčné úrovni si nevystačí ke svému vysvětlení s Newtonovskou mechanikou, ale jsou závislé na kvantových jevech. Buňka sama vykazuje nepochopitelnou inteligenci (viz níže) a takovou komplexitu, že jí naprosto nelze počítačově modelovat. Je skoro jisté, že živé organismy, počínaje buňkou samotnou, jsou tzv. početně neredukovatelné systémy, tzn. že jediný způsob, jak predikovat jejich budoucí chování (i formu!), je nechat je žít a vyvíjet se. Naprosto je nelze zjednodušit na simulace realizované mimo ně samotné.

4: Žádná jednosměrná akce, možná že ani žádná interakce?

Když organismus interaguje s prostředím, obojí se mění ve složité vzájemné souhře. Často dokonce nejde ani o interakci (ve stylu recipročních sousledných kroků: napřed já přijmu z prostředí potravu, pak jí vyloučím do prostředí, pak ji prostředí zpracuje….), ale o ko-evoluci neboli vzájemně podmíněnou konstituci. Často vlastně není jasné, kde jeden organismus končí a začíná prostředí, nebo co je vůbec jeden organismus (vedou se, například, spory o to, jak je to s naší střevní mikroflórou). Prostředí v buňce a genetická informace v DNA na sebe působí navzájem: buňka aktivně upravuje svůj genom, a to dokonce několika různými mechanismy. Když se larvy octomilky vystaví žáru, vyvinou se u části z nich neobvykle žilkovaná křidélka, a tento vzor žilkování se dědí, i když další generace larev už nejsou zahřívány. Nový vzor žilkování převládne v pouhých 14 generacích. DNA se čím dál tím více ukazuje jako silně inertní prvek, který sám o sobě evoluci nepohání; to buňka samotná si sahá do DNA jako do zásobárny informací potřebných pro přežití a rozmnožování. Gen sám nic nedělá, genová exprese je vyvolávána změnou v prostředí, a dokonce se ukazuje, že ani genové mutace nejsou náhodné, ale nevysvětlitelně reagují na prostředí. Některé geny zároveň podporují a brzdí rakovinný růst, v závislosti na mnoha dalších faktorech, včetně těch, které se týkají organismu jako celku. Jak vůbec rozlišit, co je tanec a kdo je tanečník?

5: I části se mění

Funkce dílčích částí strojů je stálá—nemění se změnou kontextu. Ne tak u živých organismů. Jedna a tatáž DNA vede ke vzniku mnoha různých buněk—od krevní, až po nervovou–a tedy ke vzniku různých tkání a orgánů. Našich cca 20 tisíc genů kóduje přes milión proteinů, a to se ještě na tomto kódování neúčastní zdaleka všechny geny. Jak je to možné, netušíme. Mnohé enzymy mají několik funkcí závislých na tom, jestli působí uvnitř buňky, nebo vně. Totéž platí pro neurotransmitery: serotonin nejen ovlivňuje náladu, ale reguluje dělení buněk, srážení krve, metabolismus v kostech, aj. Asi 30-50% proteinů je tzv. vnitřně nestálá (intrinsically unstable/disordered), což znamená, že mají pružnou, na prostředí závislou strukturu (a tedy prostředí je proměňuje). Když myši olizují svá mláďata, mění u nich genovou konformaci a tedy i genovou expresi. Organismus Oxytricha trifallax zahodí 90% svého somatického genomu a zbytek reorganizuje; mnohé další buňky aktivně editují a přeskupují svůj genom. Živé organismy stále mění svoji formu, balancujíc, jak už bylo řečeno, na hraně chaosu. Jsou, ve smyslu Nassima Taleba, anti-fragilní. Dokonce i buněčná membrána a cytoskelet se neustále rozpouští a opětovně buduje.

6. Vliv celku na části

Živý organismus je proces. Proces nemá části. To, že takové části rozlišujeme, je drastickým zjednodušením. Části živého organismu nepředcházejí celku, ale vznikají zároveň s ním. Neskládají se do celku jako lego, ale odvozují svoji existenci, a účel, zpětně z něj. Vlastnosti „částí“ organismu jsou mnohem méně důležité než proměnlivé vztahy mezi nimi napříč různými hierarchiemi organizace.

Například biolog Michal Levin dokázal změnou elektrického pole v tkáních (tedy na hierarchické úrovni nadřazené buňkám) vypěstovat u pulců oko na ocase, které se samovolně připojilo do míchy a pulci jím viděli. Dle jeho názoru živé organismy vykazují inteligentní chování na všech svých úrovních, od molekul, přes organely, buňky, tkáně atd. Inteligence prorůstá skrz naskrz životem: když buňky navazují kapiláry a nervy po zranění, tato činnost je řízena samotnými buňkami, ale přesto je nepopiratelně inteligentní a účelná. Tým japonských výzkumníků dokázal, že i primitivní jednobuněčná améba má paměť, a umí plánovat. Kde je taková paměť uložena?

Když se rozdělí dvoubuněčné embryo na dvě samostatné buňky, vyroste z každé dospělý jedinec. Když se přenesou buňky v raném stádiu vývoje embrya z pahýlu levé ruky na pravou, normálně se uchytí a výsledkem je pravá ruka. Ale jak ty buňky poznají, že musí změnit svoji funkci a účel, protože celek se změnil (a to invazivním způsobem, na který je evoluce nemohla připravit)? Kde je uložena informace o cíli embryonálního vývoje? Nemáme tušení.

I nervový systém se neustále vyvíjí a proměňuje. Neurony, které jsou opakovaně aktivovány společně, si vytvářejí nová vzájemná spojení („what fires together, wires together“). Nedávno se ale zjistilo, že existuje i reverzní mechanismus: neurony, které jsou často aktivovány společně, mění ve svých synapsích transmitery z excitačních na inhibující („neurons with chronic firing reverse wiring“). Vše nasvědčuje tomu, že „části“ si nějak dokážou přečíst informaci o „celku“, a jednat v jeho zájmu. Vůbec netušíme jak; ale to by nemělo být důvodem tento fakt popírat.

7. Neostré hranice

Živý organismus, jak jsme si řekli, je spíše proces než věc. Procesy mají neostré hranice; neliší se tím, co jsou, ale tím, k čemu slouží, směřují. Na žádné úrovni biologické hierarchie nenajdeme entity s ostrými hranicemi; organismus jako celek, i jeho části, jsou spíše dokonale regulovanými shluky do sebe matrjoškovitě vnořených proudů hmoty a energie. Ani genom není izolovaná jednotka. Tělo je organickým prodloužením mozku bez ostré hranice: ne nadarmo se říká, že „myslíme rukama“. A okolní prostředí je stejně takovým prodloužením těla. Je les konglomerát individuálních stromů, nebo jeden jediný, gigantický organismus? Kolaborace zdánlivě separátních organismů je jedním z hlavních rysů života i evoluce. Evoluce zdaleka není jen soupeřivá; to jen my ji tak vnímáme. Mnoho organismů dokázalo v průběhu evoluce inkorporovat jiné organismy nebo části jejich genomu, a tím se učit z jejich zkušeností. Ani hranice druhů nejsou ostré.

8. Bootstrapping (aneb jak zvednout sebe sama za tkaničky od bot)

Není možné, aby instrukce k vytvoření nějakého stroje pocházely od tohoto stroje samotného. Žádný počítač needituje své výrobní plány v procesu svého utváření. Naproti tomu informace potřebné k vývoji živého organismu nejsou cele k dispozici na počátku tohoto vývoje, ale adaptivně se vynořují během tohoto vývoje, skrze zpětnou vazbu mezi aktuální podobou organismu a zdroji, které jsou k dispozici v okolním prostředí.

Závěr

Co nám z toho plyne? Metafora člověka jako stroje není jen přibližným zjednodušením; je naprosto a od základu chybná. Vynořuje se podezření, že není používána jen z intelektuální pohodlnosti, ale se záměrem cíleně degradovat naše lidství. Je nejvyšší čas, abychom ji opustili.