Kozel zahradníkem (aneb proč AI není řešením)

Z AI se nám stává takové univerzální zaklínadlo. Čím dál tím víc lidí si uvědomuje, že čelíme krizím napříč mnoha oblastmi, od vzdělávání, přes zdravotnictví až po proměňující se klima (vžil se pro to pojem metakrize). A čím dál tím víc lidí se s nadějí upíná právě k AI, coby prostředku řešení. Těšíme se, že AI vyřeší problém s nedostatkem učitelů a umožní každému dítěti personalizovat sylabus. AI považujeme za kritický prvek přechodu k nízko-uhlíkové budoucnosti, neboť nám může pomoci přesněji měřit a redukovat emise CO2, předpovídat výkyvy počasí a snižovat zranitelnost infrastruktury. Ve zdravotnictví od AI očekáváme nejen nová léčiva a preciznější diagnostiku, ale i osobní léčebné plány, spolehlivější monitoring pacientů, účinnější prevenci i lepší řízení pandemických rizik. Atd.

Já tuto širokospektrou naději příliš nesdílím. Naopak si čím dál tím více myslím, že AI je prodloužením našeho současného trendu přistupování ke světu, který všechny ty krize zapříčinil. A tedy spíše symptomem či dokonce vyvrcholením stávajících problémů než nástrojem jejich řešení.

Levá a pravá hemisféra a dva druhy pozornosti

Začnu poněkud od lesa, resp. od toho, co víme o pozornosti coby nástroji poznávání. Dr. Iain McGilchrist, psychiatr a jeden z nejčtenějších filozofů současnosti, ve svých knihách podrobně rozvádí tezi, že existují dva typy pozornosti, které světu věnujeme, neboli dva způsoby, jak se ke světu vztahovat. Tyto typy odpovídají mozkovým hemisférám a je možno je rozlišit u všech organismů, které mají nervový systém. Preference té či oné hemisféry má pak obrovský vliv na to, v jakém světě máme pocit, že žijeme. Stejně jako na to, jakým směrem hledáme řešení našich problémů.

My na západě v současnosti preferujeme hemisféru levou. Ta se vyznačuje úzce zaměřenou pozorností zaměřenou na konkrétní problém za vyloučení širšího kontextu, jako je tomu třeba u kosa, který se snaží sezobnout droboulinké zrníčko. Vlastně to jde ještě hlouběji: celý svět je vnímán jako soubor ostře ohraničených a jasně definovaných entit, které je třeba popsat a roztřídit, stejně jako izolovaných problémů, které je třeba zanalyzovat a vyřešit. Cílem vztahování se ke světu je analýza a z ní plynoucí utilizace. Leitmotivem je rychlost, efektivita, škálovatelnost, finanční zisk, nekonečné vylepšování detailů a slepá racionalita. A hlavně akce: svět je tu proto, abychom z něj těžili; věci proto, abychom je k něčemu použili a něco s jejich pomocí dosáhli.

Metaforicky vzato, levá hemisféra vidí svět jako obrovský hodinový stroj, který, pokud mu chceme rozumět, je nutno rozebrat na části a v detailu prozkoumat. Pak je možno nefungující části nahradit novými, nebo celý stroj poskládat úplně jinak. Samozřejmě za nějakým bohulibým účelem.

Levá hemisféra má tendenci propadat kognitivním zkreslením či dokonce bludům, upínat se k již poznanému a zaměňovat reprezentaci (mapu) reality za realitu skutečnou. Zajímavé je, že to není nedostatkem racionality, ale naopak racionalitou dohnanou do extrému.

V kontrastu s hemisférou levou, pravá hemisféra vnímá svět kontextuálně, holisticky. U onoho zmíněného kosa je pravá hemisféra stále na pozoru vůči všem podnětům v širokém okolí, které by mohly signalizovat, že se blíží predátor nebo nějaká jiná patálie.

Pro pravou hemisféru neexistují izolované entity, existují jen gestalty. Celý svět je složen z holonů spojených komplexní sítí vztahů, které nikde nezačínají a nikde nekončí. Neexistují věci v kontextech, existují jen kontexty. Cílem vztahování se ke světu je participovat v živoucím poli stvořeného, užívat si krásy, pravdy a dobra. Leitmotivem je bdělá rozprostřená pozornost, rovnováha, synergie, citlivost, adaptabilita a účastenství. Svět je tu proto, abychom ho s úžasem vnímali, žasli nad jeho proměnlivostí a krásou, podíleli se na něm a žili ho.

Metaforicky vzato, pravá hemisféra vidí svět jako živý organismus, který nelze redukovat na části, ba co víc, často takové části ani nelze smysluplně vymezit. Je možno jen opatrně hledat a zkoumat, jak takovém světě žít a moc neškodit. Poznání světa se neděje lineárně, faktum za faktem, ale postupným zaostřováním původně neurčitého celistvého vjemu.

Pravá hemisféra má problém své vnímání přeložit do jazyka a rozhoupat se k akci.

Ke správnému fungování musí obě hemisféry spolupracovat. Pravá hemisféra navnímá celek a poskytne kontext. Levá hemisféra dotyčnou věc zanalyzuje, převede do jazyka a prodiskutuje s druhými. Pak výsledky své analýzy opět předá hemisféře pravé, která provede syntézu a prověří, jestli to, co k čemu dospěla hemisféra levá, opravdu „sedí“. Anebo je to hloupost.

No dobře, ale co to má celé společného s AI? Už jinde jsem použil přirovnání, že AI je jako levá hemisféra na steroidech. Nyní si to pojďme rozebrat ještě z jiného úhlu.

Data

Každá AI se nezbytně nutně opírá o data. Data ale nejsou neutrální zprávou o skutečnosti, data jsou úzkým výběrem toho, co lze změřit, a měření čehož považujeme za užitečné. Například v ekonomických kruzích se všeobecně ví, že HDP, oblíbené to zaklínadlo politiků, je metrikou původně určenou jen a pouze ke snazšímu řízení americké válečné ekonomiky. Už tehdy zaznívaly varovné hlasy proti tomu, aby tato metrika, redukující celou ekonomiku na jediné číslo, byla používána dlouhodobě. Protože vůbec nemusí odrážet složitější společenské a ekologické souvislosti. Například vykácený les k HDP přispívá, živý les nikoliv. Přesto se HDP ujalo a dnes si bez něj ekonomiku jen stěží dokážeme přestavit, jakkoliv se čím dál tím více ukazuje, jak je to hloupé.

Paralela s levou hemisférou je nepřehlédnutelná: veškerá data jsou výsledkem úzce zaměřené pozornosti, která z reality vytrhává jen nepatrnou část. Totiž tu část, kterou dokážeme uchopit a která slouží nějakému účelu. Navíc je tato část kvantifikována, tedy převedena na číselné skóre, čímž dochází k dalšímu zkreslení. V neposlední řadě mohou mnohá data úplně chybět.

Ukažme si to na příkladu klimatické změny. Podstatným vstupem do analýzy klimatu jsou měření z meteostanic Historické klimatologické sítě Spojených států (USHCN) fungující od konce 19. století. Ovšem celých 30% těchto stanic už dávno nefunguje a jejich údaje jsou interpolovány z dalších stanic v sousedství. Vzhledem k rozloze USA ale taková sousední stanice může ležet i 200 km daleko. Navíc se ví, že ty stanice, které se zachovaly, nejsou náhodný vzorek, ale pocházejí zejména z velkých měst a v jejich okolí během posledního půlstoletí řádně zhoustla zástavba. Efekt urbanizace na zvyšování minimálních naměřených teplot se odhaduje na 14-21% od r. 1895.

Tímto příkladem ale nechci jen demonstrovat pověstné garbage in, garbage out – tedy, že ze špatných vstupních dat je těžké něco rozumného odvodit. U klimatu je mnohem větší problém, že spoustu věcí neměříme nebo jsme dlouhou dobu neměřili: od lokálních statistik CO2 a metanu v ovzduší, přes množství CO2 sekvestrované různými stromy, až po dopady extrémních výkyvů počasí. A to už vůbec nemluvím o tom, že v klimatu existuje mnoho zpětnovazebních i posilujících smyček, kterým rozumíme jen povrchně, a které se kvantifikují velmi obtížně.

Cíl

AI ovšem levou hemisféru nekopíruje jen v tom, že pracuje s měřitelnými daty vyzobanými, jako rozinky, z komplexního gestaltu reality. AI ji kopíruje i v tom, že usiluje o nějaký primitivní, omezený, jednorozměrný cíl. Supervidované AI algoritmy musí mít danou nákladovou funkci, kterou se pokouší minimalizovat. Jinými slovy, opírají se o pevně danou metriku, jejíž navýšení je při trénování penalizováno a jejíž snížení se naopak odměňuje.

Lidé se ale chovají úplně jinak; lidé nic jednorozměrného neměří a neminimalizují. Už i poměrně jednoduchý úkon nakoupit věci na dnešní večeři může v praxi kombinovat snahu ušetřit, chuť provětrat se za vlahého podvečera, touhu pokecat s hezkou paní pokladní, záměr vyzkoušet si nový recept, stejně jako úmysl nasbírat co nejvíc bodů do věrnostního programu Tesco. Nemluvě o tom, že v průběhu nákupu se mohou spontánně vynořit cíle původně nezamýšlené, jako když nám náhle v oddělení drogerie dojde, že už zase docházejí tablety do myčky.

Tato spontánní emergence cílů, stejně jako jejich neustálé vzájemné vybalancovávání, je vlastní člověku, ale naprogramovat je zatím neumíme (a já myslím, že ani umět nikdy nebudeme). Není divu, protože to vyžaduje pravou hemisféru, která nikdy neochabne ve svém holistickém vnímání a která naše cíle průběžně, dle aktuální potřeby, aktualizuje. A která to často dělá tak rychle, že to je to mimo naši vědomou kontrolu.

Toto omezení AI považuji za naprosto zásadní. Znamená to totiž, že na nic, co nelze redukovat na jednorozměrnou metriku (nebo jasně definovaný cíl), nemůžeme AI smysluplně nasadit. A i v případech, kdy to udělat lze, musíme být velmi opatrní. Jinak to může dopadnout jako u pověstného stroje na vyrábění kancelářských sponek, který v honbě za maximalizací produkce zničí celou Zemi.

Výstižně o tomto omezení mluví datový vědec Sam Tideman. Sam pracoval na několika AI projektech v oblasti zdravotní péče, zejména na pohotovostních odděleních. Dle jeho slov všechny ty AI projekty fungovaly jen na papíře a brzy po slavnostním nasazení byly zase zrušeny. Realita na pohotovosti totiž byla tak složitá a vyžadovala natolik časté změny priorit, že to málo, co šlo algoritmizovat, bylo v podstatě k ničemu. Každý nový klient v ohrožení života vyžadoval okamžitou změnu priorit a realokaci zdrojů. To, co odlišovalo dobré pohotovosti od těch mizerných, byl zkušený, dobře spolupracující a intuitivně se rozhodující zdravotní personál. AI to nemohla nijak zásadně zlepšit.

Závěr

Co nám z toho všeho plyne? AI stvořili lidé s převládající levou mozkovou hemisférou, kteří chápou svět jako jeden velký „Stroj/Zdroj“, život jako nikdy nekončící „Optimalizační Úlohu“, a spolupráci jako „Hru s Nulovým Součtem“. Není tedy divu, že v ní vidí recept na všechno. Ovšem právě tenhle sebestředný, utilitaristický, na jednotlivosti zaměřený přístup je skutečnou příčinou problémů, kterým coby lidstvo čelíme. Vzdělání je v krizi kvůli tomu, že pořád nevíme, jak nahradit na znalosti orientovanou výuku výukou zaměřenou na kontext a spolupráci, a jak jednostranné zaměření na IQ vyvážit prací s emocemi. Zdravotnictví je v krizi, protože člověka vnímá jako soubor orgánů, které lze vyšetřovat a léčit separátně, které samy fungují jako mechanismy, a jejichž činnost lze jednoduše ladit pomocí léků a vakcín. A pokud jde o klima, kdo ví, jestli za globálním oteplováním nejsou léta očkování mraků, kterým jsme celý systém rozhasili (Čína v tom jede už léta). Ani bych se moc nedivil… každopádně AI nám ani tady, vzhledem k obrovské komplexitě klimatického systému, moc nepomůže.

Jinými slovy, myslím, že AI nám současné krize nevyřeší. Jejich řešení leží úplně opačným směrem, směrem, který vyvažuje jednostrannost levé hemisféry skrze pravohemisférové vnímání. Čím dříve si to uvědomíme, tím lépe. Vodítkem nám mohou být například knihy Design regenerativních kultur nebo Krásnější svět je možný, naše srdce to ví.