Harari: Jak umělá inteligence ovlivňuje to, čemu věříme

Yuval Noah Harari (1976) je izraelský profesor historie a autor bestsellerů Sapiens: stručné dějiny lidstva (2011), Homo deus: stručné dějiny zítřka (2016), 21 lekcí pro 21. století (2019) a Nexus: A Brief History of Information Networks from the Stone Age to AI (2024).

7. července 2021 jsem od jeho PR týmu dostal souhlas s překlady jeho prezentací do češtiny a dosud přeložil:

- Budoucnost Evropy, z května 2019 (přeloženo 23.9.2021);

- Jak přežít 21. století, z ledna 2020 (přeloženo 22.9.2021).

- Umělá inteligence a budoucnost lidstva, z dubna 2023 (přeloženo 11.7.2023)

Nyní v době nástupu umělé inteligence, zasahující téměř do všech oblastí lidských aktivit, jsem tedy přeložil jeho další výbornou prezentaci k tomuto tématu Jak umělá inteligence ovlivňuje to, čemu věříme (daný rozhovor je upraven z doslovné transkripce do čitelnější a plynulejší článkové formy).

Larry Wilmore: „Moc rád jsem vás poznal v zákulisí, protože jsem váš velký fanoušek. Víte, říkal jsem vám, že jsem byl jedním z vašich publicistů pro knihu Sapiens. Koupil jsem si několik výtisků té knihy, rozdával je lidem a prostě mě fascinovala ta myšlenka. Vždycky jsou tak vzrušující. Obdivuji, jak detailně mluvíte o věcech, které my mnohdy považujeme za samozřejmé. V knize Nexus: Stručné dějiny informací od doby kamenné po umělou inteligenci je fascinující, jak se zpracovávají informace. Chtěl jsem vás tedy hned na začátek požádat o odpověď na obtížnou otázku – a vy ji v knize sám přiznáváte, že je těžká: Co přesně je informace? Jak ji definujeme?“

Yuval Noah Harari: „Mnoho lidí se totiž mylně domnívá, že informace jsou totéž, co pravda, nebo že když jich nasbíráte spoustu a dobře je analyzujete, získáte pravdu. Ale tak to není. Většina informací je smetí, většina z nich není pravdivá. Skutečná podstata informací totiž spočívá ve spojení. A proto se kniha jmenuje Nexus – tedy spojení. To, co informace opravdu dělají, je, že propojují jednotlivce, samostatné lidi, entity do jedné sítě. Fungují jako lepidlo. Samozřejmě, někdy můžete spojovat věci dohromady díky pravdě, ale v řadě případů k tomu použijete fikci, fantazii, lži nebo iluze – a právě to pomáhá spojit spoustu lidí do státu, armády, korporace, náboženství, prostě čehokoli.“

„Uvedu jeden konkrétní příklad. Když se zamyslíte nad vizuálními informacemi – například nad portréty, obrazy, malbami. Jaký je nejslavnější portrét? Nejrozšířenější portrét na světě? Jaká je nejslavnější tvář v dějinách?’ Odpověď je jednoduchá: je to tvář Ježíše. Po celém světě najdete miliardy obrazů a portrétů Ježíše, které vznikly během posledních dvou tisíciletí. Jsou snad kdekoliv – v kostelích, katedrálách, soukromých domech, školách, vládních úřadech – a ani jeden z nich není pravdivý. Nebo snad ano? Všechny… stoprocentně.

Můžeme například mluvit o tzv. švédském Ježíši – přesně tom, o kterém víme, že je to obraz vytvořený umělci. Všichni jsme slyšeli, že Ježíš byl černoch – nebo ještě podivněji, že přišel ze Skandinávie. Ale jde o to, že nemáme žádný portrét z jeho doby. Jestliže se vůbec někdo obtěžoval jej malovat – on byl přece jen malý provinční učitel, pomáhal lidem, léčil nemocné v jedné malé provincii Římské říše, vykonával zázraky jako křížení lidí z mrtvých nebo proměňování vody ve víno (musím přiznat, že všechny tyto kouzelnické triky mě opravdu fascinují) – o jeho podobě se prostě nic nepamatuje. V Bibli se objeví pouze jedna věta popisující, co měl na sobě – jeho oblečení – ale nic není řečeno o tom, zda byl vysoký nebo malý, jestli byl tlustý, nebo hubený, jestli měl černé nebo světlé vlasy, zda byl plešatý… nic. Všechno, co o něm víme, pochází jen z fantazie umělců, kteří žili staletí a někdy i tisíce let po něm. Například jeden z nejslavnějších obrazů Ježíše – takzvaný skandinávský Ježíš – byl vytvořen americkým umělcem v roce 1940, aby ho dával vojákům za druhé světové války. Podle některých statistik se stal nejúspěšnějším druhem obrazu 20. století, pokud jde o počet kopií.“

Larry Wilmore: „Takže je to tak, že Ježíš je v podstatě jako Bing Crosby – v zásadě je to obraz. Myslím, že v podstatě mluvíme o představě, kterou jsme si o něm vytvořili.“

Yuval Noah Harari: „Přesně tak. Když porovnáte skutečného muže, příběh o něm a ten obraz, který o něm existuje – a ten obraz většinou vznikl jako fikce mnohem později – zjistíte, že obraz má mnohem silnější účinek. A nemusí být nutně negativní. Ten obraz můžete využít, abyste lidem dali naději, povzbudili je k dobročinnosti, nebo podpořili vzájemnou pomoc. Neříkám, že fikce je špatná – naopak, jsme přece v Los Angeles, hlavním městě fikce, kde fikci každý den využíváme. Neměli bychom ji hned zavrhovat...“

Larry Wilmore: „Tahle věc by se klidně dala hodit do koše.“

Yuval Noah Harari: „No, ale zároveň jsem právě přijel z New Yorku – dalšího hlavního města fikce, protože peníze jsou taky fikcí. Ti nejlepší vypravěči na světě nakonec nejsou v Los Angeles nebo v Hollywoodu, ale na Wall Street. Tito lidé umí vyprávět tak silné fikce, že dokážou spojit obrovské množství lidí. A to je nepopiratelné – bez ohledu na to, zda se podíváte na negativní, nebo pozitivní stránky, fikce spojuje lidi. Vzpomeňte si na dnešní USA. Jaká je možná poslední věc, na které se v Americe všichni shodnou? Je to dolar. Republikáni i demokraté se nemusí shodnout na výhodách nebo vítězích posledních voleb, ale vždy se shodnou na hodnotě dolaru. A to je právě to – dolar je jen fikce, nemá žádnou objektivní hodnotu.“

Larry Wilmore: „Jo, protože když jste na pustém ostrově, kokosový ořech je cennější než dolar, že? Takže informace jsou cenné právě proto, že spojují lidi. Ale není to jen o tom, že existuje nějaká objektivní pravda? Například zvířata – dostanou si z přírody jen objektivní pravdy, ne nějaké informace, když například vstřebají něco, co je objektivně pravdivé?“

Yuval Noah Harari: „Samozřejmě, že i zvířata komunikují a předávají si informace, ale na světě existuje několik druhů informací. Máme objektivní pravdu – fakta o světě, která zůstávají pravdivá, třeba když z vesmíru přiletí asteroid a srazí dinosaury. To, že v to nikdo nevěří nebo to nepozná, nic to nemění. To je objektivní. Poté máme subjektivní oblast – věci, které existují pouze v mysli jednotlivce, například bolest. Když mě něco bolí, to je pravda jen pro mě; nikdo jiný to necítí, ani když o tom mluvím. A nakonec máme intersubjektivní informace – věci, které vzniknou v komunikaci mezi lidmi. Takže tady se mluví třeba o obrazu Ježíše, o americkém dolaru nebo dokonce o tom, že někteří lidé údajně jedí psy a kočky. Tyto věci nejsou objektivní pravdou, nejsou to ani jen subjektivní dojmy jedince, ale vznikají v rámci společenské sítě, když o nich mluví dost lidí. Víte, to je pravděpodobně ta nejdůležitější debata, která v USA pomáhá rozhodovat, kdo bude kontrolovat jaderné zbraně. A největší část veřejnosti si z té debaty pamatuje jen psy a kočky.

Larry Wilmore: „Vítejte v Americe – tohle je jediná věc, která se opravdu počítá, upřímně.“

Yuval Noah Harari: „Ano, ale musím dodat, že nevím, jestli to bylo plánované, nebo jestli to vzniklo náhodou. Z hlediska PR ale byl takový tah, jako například u Donalda Trumpa, velmi chytrý. Ve společnosti a politice je totiž klíčové, o čem lidé mluví. To, co si lidé myslí, je mnohdy méně důležité, než téma samotné. Kdybychom se teď v USA bavili o potratech, bylo by to hlavní téma. Nebo kdyby šlo o imigraci – to, co říkají lidé, je potom méně důležité, protože samotné téma mluvené v mediích posiluje určitou agendu. Můžete si představit typickou následnou konverzaci: někdo řekne ‚On říkal, že jedí psy a kočky‘, druhý odpoví ‚To je jen výmysl‘, a pak Trumpův příznivec dodá: ‚Ale i tak, imigrace je zásadní problém‘. A tak se nakonec vše zúží na téma imigrace.“

Larry Wilmore: „Takže informace, kterou sděluje, vlastně nese jednoduché poselství: ‚Je tu problém.‘“

Yuval Noah Harari: „Přesně tak. Skutečně to, co se dostává do popředí, je fakt, že existuje problém – například s imigrací. Možná to nejsou jen otázky týkající se psů a koček, ale jde o téma, o němž lidé neustále mluví. A právě umění řídit konverzaci je jednou z nejdůležitějších věcí na světě. Když se podíváte na historii toho, kdo ovládá dialog, zjistíte něco fascinujícího – dnes, poprvé v dějinách, konverzaci ve velkém ovládají nelidé. Nemluvím tady o kočkách či psech, ale o algoritmech a umělé inteligenci.“

Larry Wilmore: „Takže je to teď tak, že to ovládá – rozhoduje, co nám bude zajímavé a co nás bude zaměstnávat? Víte, co tím myslím?“

Yuval Noah Harari: „Přesně tak. Nezáleží na přesné definici, ale už dnes víme, že rozhodování o tom, co se objeví na titulní straně New York Times, nebo v hlavních zprávách na Foxu či CNN, je v rukou lidí – lidských editorů zpráv. Ale když se podíváte na zpravodajství na Facebooku, nebo zjišťujete, jaké video se objeví jako další na TikToku, zjistíte, že o tom rozhodují algoritmy. A právě o tom se hodně mluvilo, když se začalo diskutovat, jak umělá inteligence nahrazuje lidi v různých zaměstnáních – lidé si mysleli, že nahradí taxikáře či textilní dělníky. A tak se stalo. Jedním z prvních zaměstnání, která automatizace převzala, byli právě redaktoři zpravodajství. To je fascinující, protože mnozí z nejmocnějších lidí světa, jako třeba Lenin – který předtím pracoval jako redaktor novin Iskra, nebo Benito Mussolini, dříve než se stal diktátorem Itálie, byl redaktorem novin Avanti!. Je to skoro žebříček povýšení: začínáte jako novinář, stoupáte na redaktora a nakonec se stáváte diktátorem země.“

Larry Wilmore: „Vidím tu ale jistý znepokojivý vzorec.“

Yuval Noah Harari: „Ano, ale pozor – Hitler nebyl novinář; původně byl malíř, a nebyl nijak příliš úspěšný. Dnes se zdá, že i umělci se nyní prolínají s touto dráhou. To je opravdu znepokojivé.“

Larry Wilmore: „Umělá inteligence nám měla poskytnout volný čas, abychom mohli malovat, tvořit – a teď umí malovat, tvořit umělecká díla, zatímco my zůstáváme s veškerou prací. Je to prostě vzhůru nohama. V knize také hodně mluvíte o technologiích a zaujalo mě, že technologie nemusí nutně znamenat zlepšení – není to nutně přímá úměra, jak si často představujeme, že by lepší technologie znamenaly i lepší informace. Podívejte se na knihy, na samotný vynález knihy – ten změnil způsob, jakým se informace syntetizovaly, a měl zásadní dopad na svět.“

Yuval Noah Harari: „Podívejte se na dějiny knih – existují zde dva zásadní momenty. Prvním je samotný vynález knihy, když někdo musel vynalézt knihu jako dokument se spoustou kapitol, receptů, příběhů – něco, co se následně replikovalo na mnoha místech. Písmo bylo vynalezeno ve starověké Mezopotámii (v dnešním Iráku) asi před 5 000 lety, ale tisíce let poté se lidé začali věnovat psaní dokumentů, ale ne knih. Kniha je totiž zvláštní dokument – je dlouhý, sestává z mnoha částí, a má mnoho kopií, které jsou po celém území identické. To je v podstatě princip, o který se dnes uchylují technologie jako blockchain. A to bylo revoluční, protože to umožnilo doručit úplně stejné informace stovkám či tisícům lidí rozprostřených na obrovské ploše. Třeba vznik svatých knih, jako je Bible – ten model umožnil omezit moc krále nebo císaře tím, že všude existovalo mnoho kopií té samé svaté knihy. Dříve jste měli jen chrám velkého boha uprostřed hlavního města, který králi dával možnost říkat: ‚Ach, bůh řekl tohle‘ nebo ‚Bohyně řekla tamto‘.“

Larry Wilmore: „Byl jediný, kdo měl tento kanál.“

Yuval Noah Harari: „Přesně tak – on ovládal komunikační kanál až do nebes. A pak přišel nápad: co kdybychom měli svatou knihu, která by demokratizovala komunikaci s bohy? Když máte totiž tisíce kopií té samé svaté knihy rozmístěných na různých místech, král nemůže pouhou změnou jedné kopie v paláci hned změnit celý obsah. Existuje totiž nespočet dalších kopií, které musí být naprosto identické. A pokud někdo zkoumá tyto kopie, může snadno říct: „Tohle není to, co by tam mělo být.“ A tak se to stalo. Vypadá to jako úžasný nápad, který měl omezit moc – demokratizovat ji. Ale jakmile se podíváte na technologie, objeví se vždy nějaké problémy. Kniha je totiž také technologie. O náboženstvích, jako je křesťanství, judaismus nebo islám, obvykle nepřemýšlíme jako o náboženstvích založených na technologii, ale ve skutečnosti jsou postavena na technologii – na knize.“

Larry Wilmore: „Ano, věci musely být sestaveny určitým způsobem a lidé se museli rozhodnout, co v té knize bude, což zároveň rozhoduje o samotném náboženství.“

Yuval Noah Harari: „Přesně tak. Jakmile totiž dostanete nápad: ‚Mějme všude jednu svatou knihu,‘ pak se hned objevuje otázka: ‚Ale co v ní bude?‘“

Larry Wilmore: „Správně, správně… teď, například, jaké recepty vlastně dostanete…“

Yuval Noah Harari: „Ano, přesně jako recepty v kuchařce. Kdyby obsah tak prostě spadl z nebe, neměli bychom s tím problém. Ale samozřejmě, to neproběhlo samo od sebe. Vždyť máme dobové dokumenty – Ježíš přece nikdy nečetl Bibli, tedy Nový zákon. V Ježíšově době ten Nový zákon neexistoval. Jak ho dnes známe, skládá se z 27 textů – některých připisovaných svatému Pavlovi, některých evangelií, některých dopisů dalších učedníků. V prvních staletích křesťanství se vůbec žádný společný Nový zákon nevyskytoval – existovalo mnoho různých textů: evangelia, příběhy o Ježíšovi, dopisy, modlitby, různá proroctví.“

Larry Wilmore: „Myslím, že odtud pochází výraz ‘šířit dobré slovo‘ – protože tehdy lidé mohli jen mluvit o tom, co se dělo.“

Yuval Noah Harari: „Přesně tak. Lidé spolu hodně mluvili, psali si dopisy – informace se hromadily. Nakonec se začali ptát: ‚Co vlastně máme číst? Které knihy jsou opravdu dobré, spolehlivé a které ne?‘ A tak se v konečném důsledku, asi 400 let po Ježíšově životě, na konci 4. století konal velký sjezd, výbor ve městě Kartágo – dnes už v Tunisku, v severní Africe, kde se sešli biskupové a teologové, většinou ze severní Afriky, protože právě tato oblast byla v té době centrem křesťanství – a rozhodli o tom, co bude zařazeno do doporučujícího seznamu. Začínalo to podobně jako dnes, když si na Netflixu vybíráte z mnoha seriálů a máte nějaký „Top 10“ seznam – v tomto případě pak šlo o seznam 27 nejlepších knih nebo textů, které by si měl každý křesťan přečíst.“

Larry Wilmore: „Je to, jako bychom byli na konci Matoušova evangelia a pak se začalo načítat Markovo evangelium, které právě končí.“

Yuval Noah Harari: „Něco takového. V podstatě – oni nebyli původními autory té knihy, různí lidé psali různé texty. Byli to editoři, kteří rozhodovali o tom, co bude zařazeno do doporučujícího seznamu.“

Larry Wilmore: „A tak se prostě sami rozhodli, že mají pravomoc to udělat? Dostali ji a prostě si ji vzali, že?“

Yuval Noah Harari: „Přesně tak. Uvedu jen jeden příklad klíčové diskuse a rozhodnutí, které tehdy učinili. V té době byl totiž velmi populární raně křesťanský text s názvem Skutky Pavla a Tekly. Ten dokument popisoval činnost svatého Pavla a jeho ženské učednice Tekly, která dělala zázraky, kázala lidem, křtila a byla vůdkyní církve. Text byl v té době velmi populární a sloužil jako důkaz, že ženy mohou být v církvi vedoucí – že jsou na stejné úrovni jako muži.“

Larry Wilmore: „V té době bylo v církvi opravdu mnoho žen, které skutečně působily jako vedoucí.“

Yuval Noah Harari: „Ano, přesně. Ale pak se objevil ještě jeden text – dopis od téhož svatého Pavla, o kterém se vědci domnívají, že byl ve skutečnosti zfalšován více než sto let po jeho smrti. Ten dopis byl adresován jeho žákovi Timoteovi a v něm svatý Pavel uvádí, že ženy by neměly být vůdkyněmi, měly by mlčet a poslouchat muže, a jejich spása by přišla až ve chvíli, kdy by měly děti a staraly se o ně.

Výbor v Kartágu se pak rozhodl tento dokument zařadit do kanonických textů, zatímco Skutky Pavla a Tekly vynechal – a proto o nich většina lidí pravděpodobně nikdy neslyšela. Tak se stal dopis prvním listem Timoteovi, který se dnes nachází v miliardách výtisků Bible po celém světě. To je síla editorů a taktéž vynález knihy jako takové. Takže vlastně jde o to, že jsme si vyvinuli něco jako vynález knihy. A teď přeskočme o tisíc let ke Gutenbergovi, který v polovině 15. století přinesl tiskovou technologii z Číny do Evropy – tedy k tiskové revoluci.“

Larry Wilmore: „A jeden z rozdílů, když porovnáte knihu s její kopií, je ten, že to, že máte knihu a její kopii, neznamená, že jsou naprosto identické. Stejně jako při vyprávění příběhů, kniha osmé generace může být v některých ohledech velmi odlišná. Lidé v ní mohli udělat záměrné změny, protože dříve tu nebyla žádná efektivní kontrola, že ano?“

Yuval Noah Harari: „Přesně tak. S tiskařským lisem se totiž zbavíte chyb a záměrných úprav, které nastávaly při ručním opisování. Například dříve, když jste chtěli opsat Bibli nebo cokoli jiného, každý výtisk musel být psán ručně – každé písmeno, každý znak musel někdo přenést rukopisem. U tisku to naopak jednorázově vyžaduje obrovskou práci na vytvoření tiskových bloků, ale jakmile je máte, můžete vytisknout tolik kopií, kolik chcete. Zautomatizovali jste to a zlevnili jste to do té míry, že nastala exploze knižní produkce. Mnozí si myslí, že právě tato revoluce spustila vědeckou revoluci.“

„Když dnes přijdete do Silicon Valley a mluvíte s lidmi o nebezpečích informačních technologií, algoritmů a umělé inteligence, můžete téměř s jistotou očekávat, že někdo zmíní tiskovou revoluci. Uslyšíte: ‚Podívejte, jak byl tisk úžasný. Tiskařský lis nám přinesl vědeckou revoluci.‘ Ale to není celá pravda. Ano, tiskařský lis byl klíčový, ale trvalo to téměř 200 let, od poloviny 15. století až do rozmachu vědecké revoluce v 17. století s osobnostmi jako Newton či Leibniz.“

„A během těchto 200 let Evropa prožila nejhorší vlnu náboženských válek a honů na čarodějnice. A právě knihtisk k těmto vlnám přispěl, protože většina informací, co se šíří, není pravda – je to smetí. Pravda je totiž velmi vzácný, drahý druh informace. Často je složitá, zatímco lidé chtějí jednoduché vysvětlení. Pravda je často nudná – třeba ty matematické rovnice, které Koperník objevil ohledně planet, četlo tehdy jen velmi málo lidí. Místo toho se staly bestsellery extremistické náboženské traktáty a příručky o honu na čarodějnice. Abyste dostali představu, uvedu jeden z velmi známých příkladů…“

Larry Wilmore: „To zní prakticky.“

Yuval Noah Harari: „Jo, přesně – každá domácnost to potřebuje. Představte si: ‚Musíš chytit čarodějnici.‘ ‚Jak identifikovat a chytit čarodějnici.‘ A tak, jedním z prvních bestsellerů raně novověké Evropy, krátce po vynálezu tisku, byla kniha nazvaná Kladivo na čarodějnice (Malleus Maleficarum). Co se pak stalo? Ve středověku se čarodějnice téměř nelovily – to je v rozporu s populárním obrazem středověku, kdy si představujeme masové lovení čarodějnic. O čarodějnicích se totiž tehdy moc nepřemýšlelo.“

Larry Wilmore: „Děje se příliš mnoho nákaz.“

Yuval Noah Harari: „Jo, je třeba se starat o jiné věci. Lidé věděli: ‚Dobře, ve vesnici může být nějaká čarodějnice, která umí udělat lektvar lásky – třeba když se vám ztratí kráva, můžete jít za čarodějnicí, ta vám pomůže ji najít.‘ A opravdu, občas se stalo, že vám taková čarodějnice mohla i někoho otrávit, ale to nebylo považováno za hrozbu.“

Larry Wilmore: „Líbí se mi, že prostě říkají: ‚Hej, to je čarodějnice.‘“

Yuval Noah Harari: „Přesně tak, to je součástí společenské struktury. Přibližně v době, kdy Gutenberg vynalezl tisk, se rozvinula konspirační teorie, že všechny čarodějnice na světě jsou součástí jednoho spiknutí vedeného Satanem, které má za cíl zničit lidskou civilizaci. Jedním z prvních lidí, kteří v to uvěřili – zpočátku to věřilo jen pár lidí – byl Heinrich Kramer. On zahájil hon na čarodějnice v dnešním Rakousku, v Alpách, a zatýkal ženy. Měl velmi zvláštní sexuální fantazie a tvrdil, že většina čarodějnic jsou ženy poháněné silným sexuálním nutkáním, což církev vlastně potlačovala. Nakonec o něm řekli: ‚Ten člověk je blázen.‘ A tak ženy, které zatýkal, propustili a vyhnali z provincie. Kramer se však rozhodl mstit prostřednictvím tisku – napsal knihu Kladivo na čarodějnice a díky tiskařskému lisu se dala jeho kniha snadno vyrobit a prodávat. A ta se stala jedním z prvních velkých bestsellerů - kde čarodějnice v jedné kapitole kradlou penisy.“

Larry Wilmore: „Jak víte, že jste v tom opravdu dobří? To je moje otázka“.

Yuval Noah Harari: „Jako co – v kradení? Mají sbírky. Ne, ne, ne. Mám na mysli, že kniha obsahuje například příběh muže, který se ráno probudí a zjistí, že jeho penis je pryč.“

Larry Wilmore: „To je něco jako příběh Loreny Bobbittové, že?“

Yuval Noah Harari: „Ano, přesně. Ten muž podezřívá místní čarodějnici – musí to udělat ona.“

Larry Wilmore: „Počkejte, počkejte – je to skoro jako: ‚Zlato, nevíš, kam jsem si dal penis?‘“

Yuval Noah Harari: „Přesně tak.“

Larry Wilmore: „Takže byste mu řekli: ‚Myslíš, že bych se měl poradit s čarodějnicí?‘ To je přesně to, co si myslím, že by se měl udělat. Pokračujte, musel jsem to prostě slyšet.“

Yuval Noah Harari: „Takže představte si, že muž jde za čarodějnicí a ta mu řekne: ‚Dobře, dobře, vrátím ti tvůj penis.‘ Poté mu poradí: ‚Jdi ven, vidíš ten strom? Vylez na něj.‘ Muž vyleze na strom a na jeho vrcholku najde ptačí hnízdo, kam si čarodějnice schovávala všechny penisy, které ukradla různým mužům z komunity. A nakonec říká: ‚Dobře, můžeš si vzít toho svého.‘“

Larry Wilmore: „Ano, ale ujistěte se, že si vyberete ten správný. ‚No, já nevím, tenhle vypadá docela dobře.‘“

Yuval Noah Harari: „Přesně tak – muž si vybere ten největší.“

Larry Wilmore: „Takže prostě budu hrát na tu strategii: ‚Ty mi jen řekni, kde jsou, a já si je pak vyberu.‘“

Yuval Noah Harari: „Ale najednou čarodějnice zakřičí: ‚Ne, ten si vzít nemůžeš, ten patří faráři.‘“

Larry Wilmore: „A pak do toho zasáhne další postava – bratr, který přijde a křičí: ‚Hej, chlape, kde je můj pták? Někdo mi ho vzal!‘“

Yuval Noah Harari: „A tak je jasné, proč se této knihy prodalo o několik výtisků více než Koperníkových matematických rovnic popisujících pohyb Měsíce a Marsu po obloze.“

Larry Wilmore: „V té knize měly být chybějící penisy – to by bylo opravdu absurdní. A zároveň je to legrační, protože když dáte lež do tisku, něco se s tou lží stane. Lidé začnou s ní jednat jinak. Vzpomínám si na Boba Sageta, skvělého komika, který měl jednu hlášku: ‚Ne, ne, ne, vážně, já to četl. Ne, vážně, napsal jsem si to a přečetl. Víte, já věřím... já věřím všemu, co čtu.‘ A to mi připadá přesné – jakmile řeknete, že jste něco četli, zdá se, že to už je pravda. A tak to, že to dali do tisku, pro mě znamená, že se z toho stala pravda.“

Yuval Noah Harari: „A zvlášť když se podíváme zpět do 15. století, kdy se tiskly první knihy. Pro mnoho lidí té doby byla jedinou knihou, kterou kdy viděli, Bible. A s tím přichází pocit, že knihy nejsou jen obyčejné dokumenty – jsou svaté. A když pak přišel tisk, který je udělal mnohem levnějšími a snadnějšími na výrobu, najednou se objevil bestseller Kladivo na čarodějnice. Je to kniha! Vyrůstali jste s úctou k Bibli – to jste znali, že v knize je psáno. Nešlo o nějakou pouhou fámu, kterou si někteří slyší ve vesnici. Tím pádem měla tato kniha nesmírnou sílu.“

„Zní to sice legračně, dokud si neuvědomíte následky. Důsledkem bylo mučení a zabíjení desítek tisíc lidí těmi nejstrašlivějšími metodami během velkého evropského honu na čarodějnice. Uvedu jeden příklad: v Mnichově, v jižním Německu, se stal slavný případ, kdy byla zatčena celá rodina – rodina Pappenheimerů. Všichni byli obviněni z čarodějnictví podle příručky Kladivo na čarodějnice. Aby dokázali, že jsou čarodějnice, mučili je – a začali s nejmladším dítětem, desetiletým chlapcem, protože ten byl nejslabším článkem. Když se podíváte do archivu v Mnichově, stále najdete protokoly o takových výsleších. Mučili dítě, dokud nepřiznal, že jeho matka byla čarodějnice, a potom takto rozbíjeli rodinu. Všichni pod strašlivým mučením přiznávali, že trávili lidi, přivolávali krupobití, byli na čarodějnickém sabatu – a opět se vedla ta šílená představa, že se čarodějnice scházejí na obrovských shromážděních, pořádají sexuální orgie, zabíjejí děti, jedí je a pijí jejich krev. A poté se tato představa dostala do Ameriky – Salemský čarodějnický případ. Z toho všeho je třeba si vzít důležitou lekci i pro dnešek, protože totéž se děje s internetem a sociálními médii. Téměř 300 let po Salemu dnes miliony Američanů věří, že existuje celosvětové spiknutí vedené Satanem, které má za cíl zničit lidskou civilizaci – věří, že se lidé scházejí na orgiích, zneužívají a zabíjejí. A to platí i pro některé členy Kongresu, pokud věříte zprávám o QAnon.“

Larry Wilmore: „Jo. Myslím, že mnozí věří, že demokraté jedí děti, nebo pijí jejich krev, nebo něco takového.“

Yuval Noah Harari: „A to pochází z toho, že v dějinách se objevuje jen velmi málo zcela nových příběhů – všechno odněkud vychází. Je úžasné, že 300 let po salemských honech na čarodějnice vidíte v Americe znovu to samé. K tomu navíc přispívá nová informační revoluce, která umožňuje šířit tyto příběhy pomocí algoritmů na sociálních médiích. Lidé si často myslí, že když se šíří informace, pravda se rozšíří – ale historie opakovaně dokazuje opak. Pravda je totiž nákladná – musíte na ní těžce pracovat, hledat důkazy, bádat. Například, abyste zjistili něco o rodině Pappenheimerů v Mnichově, musíte umět německy, jet do Mnichova, projít archivy a přečíst si originální dokumenty. A to je drahé. Na psaní beletrie nepotřebujete nic – napíšete první věc, která vás napadne. Pravda je často komplikovaná, zatímco fikce lze udělat tak jednoduchou, vtipnou, zábavnou nebo děsivou, jak chcete.“

Larry Wilmore: „Proto se konspirační teorie uchycují mnohem víc než pravda? Protože oslovují tu část mozku, která při jejich šíření produkuje endorfiny, víte? Proto přetrvávají tak dlouho. A rasismus – ten je také v kategorii konspiračních teorií, něco vymyšleného, co v lidech vyvolává silné emoce, ať už jde o nenávist nebo zařazování lidí do škatulek. Odkud to pramení? Proč je pro lidi tak snadné uvěřit takovým informacím?“

Yuval Noah Harari: „Je to totiž kombinace dvou věcí. Na jedné straně jsou tyto příběhy levné na vytvoření – když si vymyslíte nějakou rasistickou teorii, nemusíte vynakládat čas ani peníze na hledání důkazů. Prostě si napíšete, co chcete. A pak to může být velmi přitažlivé pro určitou část lidí, aby tomu věřili. Na druhé straně je pravda často nejen složitá, ale i bolestná. Pravda je neatraktivní – z pohledu jednotlivce je to jeden z důvodů, proč lidé chodí na terapii. Kdyby bylo tak hezké vědět pravdu o sobě, terapii bychom nemuseli absolvovat. Někdy chodíme na terapie roky, dokud si nedokážeme přiznat některé bolestné věci, na které bychom raději zapomněli. A to platí i pro celé národy – mají ve svých skříních kostlivce, či hromady nepřiznaných hříchů. Pokud chcete pravdu, musíte se s ní vypořádat. Pokud si však vyberete fikci, můžete nechat všechny tyto věci zmizet.“

Larry Wilmore: „Jo. A je zajímavé, protože jich je tolik, to mi připadá jako něco, o čem mluvím, když říkám, že je to jisté. Ve své knize mluvíte třeba o byrokracii – což bych si nikdy nepomyslel, že bude něco takového. Vždyť je tolik slov, která považujeme za samozřejmá. Ale když se do toho pustíte, ukáže se, že i když přemýšlíte o rodině, o první světové válce a o tom, jak byrokracie sloužila k tomu, aby lidé nenáviděli Židy – třeba když nemáte správné doklady, nejste tam, kde byste měli být – existuje tolik způsobů, jak si byrokracie může zahrát s pravdou a mít kontrolu nad informacemi, které na první pohled vypadají jako nevinný kus papíru.“

Yuval Noah Harari: „Přesně tak. Byrokracie je jako kouzlo informací – s jediným kusem papíru můžete zachránit nebo zničit život, rodinu, čtvrť, vesnici. Taková moc se táhne tisíce let. Podívejte se třeba na Římskou říši – když máte dokument, který dokazuje, že daná vesnice platila daně císaři, a někdo ten papír nechá zmizet, může to zničit celou komunitu. Naopak, pokud jste úředník a řeknete: ‚Aha, já vím, kde ten papír je – tady je,‘ a zachráníte vesnici tím, že ho najdete.”

Larry Wilmore: „Neuvěřitelné. A v indiánských zemích v Americe – stačí jen dát razítko na kus papíru: ‚Je mi líto, ale ta půda je naše.‘ A tak to v podstatě bylo ‚zabráno.‘“

Yuval Noah Harari: „Vlastnictví půdy je v tom opravdu fascinující, protože před vynálezem písma a byrokracie bylo vlastnictví pozemku záležitostí komunity. Co to vlastně znamená, že ‚já vlastním toto pole‘?“

Larry Wilmore: „Že tahle část země patří mně.“

Yuval Noah Harari: „A co když řeknu, že tato část země patří i mně? Co to vlastně znamená?“

Larry Wilmore: „Správně, to je pravda.“

Yuval Noah Harari: „Že vaši sousedé, lidé kolem vás, souhlasí s tím, že je to vaše. A souhlasí s tím určitými činy, jako že tam nepásli své kozy nebo že tam nesbírali ovoce bez vašeho svolení, protože uznávají: ‚Ach, tohle pole, to patří jemu.‘ To je to, co děláte.“

Larry Wilmore: „Nebo tam nenechávají čarodějnice sbírat penisy.“

Yuval Noah Harari: „Přesně tak, je to jejich rozhodnutí, že? Vlastnictví je společná záležitost, že? Takže na jedné straně to omezuje soukromá vlastnická práva – s půdou můžete dělat jen to, na čem se shodne společenství, že s ní můžete dělat. A také to omezuje moc vzdáleného krále nebo císaře, jak vybírat daně od vesnice, protože jak může vzdálený král vědět, kdo co vlastní a kolik si má vzít? Neexistuje žádná papírová stopa. Pak se vynalezlo písmo, opět před 5000 lety v Mezopotámii, a význam vlastnictví se změnil. V Mezopotámii pak najednou vlastnit pole znamená, že existuje hliněná tabulka – psalo se na hliněné tabulky, což jsou v podstatě kusy bláta – na které je napsáno: ‚Toto pole je moje.‘ A tak se to stalo. Jako by existoval úřední dokument, kus bláta, na který nějaký úředník napsal: ‚Toto pole patří Yuvalovi.‘ To je úřední dokument. Razítko. To je všechno.“

„To znamená dvě věci, které si v něčem odporují. Na jedné straně to podporuje právo na soukromé vlastnictví, protože s tímto kusem bláta mohu říct: ‚Toto pole je moje‘ a já ti teď mohu své pole prodat, i když s tím všichni sousedé nesouhlasí. Ty mi dáš kozu, já ti dám tenhle kus bláta, a teď je to pole tvoje. A pokud sousedé nesouhlasí, jejich problém. Mohu to prosadit, protože to je smysl vlastnictví. A dnes je to stejné. Je to kus papíru, nebo je to čip, křemíkový čip. Někde je nějaký křemíkový čip, nebo je nějaký kus papíru na úřadech, okresu Los Angeles, nebo cokoli jiného, kde je napsáno: ‚Tohle je moje,‘ a to je vlastnictví. Takže soukromá vlastnická práva jsou najednou možná.“

„Současně je možný i centralizovaný autoritářský režim, protože král v hlavním městě má nyní archiv všech těch kusů bláta, papírků, které králi říkají, kdo co vlastní, a to je základ pro daňový systém. A teď by samozřejmě mělo být velmi, velmi jasné, že to není všechno špatně. Byrokracie může dělat špatné nebo dobré věci, jako všechno, co vymyslíme. A je... je velmi důležité ji pochopit, protože je těžké byrokracii porozumět – je to velmi nedávný vynález v lidské evoluci, teprve před 5 000 lety vznikla první byrokracie. Ale celý svět je na ní nyní postaven. A pro lidi je těžké pochopit, jak byrokracie funguje, a to je mimochodem jeden z neúspěchů Los Angeles, Hollywoodu: o byrokracii se točí jen velmi málo filmů. Třeba všechny ty filmy o superhrdinech...“

Larry Wilmore: „Sexy téma, ano.“

Yuval Noah Harari: „Jo, vždyť mají všechny ty superhrdinské filmy o Spidermanovi a Supermanovi, ale nic o účetních, že jo. Třeba superúčetní, který porazí padouchy tím, že je nechá vyplnit všechny ty formuláře a odhalí daňové úniky, že jo.“

Larry Wilmore: „Avengers: daně.“

Yuval Noah Harari: „Ale takhle funguje skutečný svět, ne Spiderman, ale účetní. A tak je důležité pochopit, že mnoho dobrých věcí v životě se nyní opírá o byrokracii. Takže znovu... řeknu jeden příběh. Když, víte, dnes je jednou z... znovu opakuji, jednou z velkých konspiračních teorií o byrokracii je ‚Deep State‘, že ano.“

Larry Wilmore: „Správně, správně, správně, ano.“

Yuval Noah Harari: „Kdykoli slyším slovo ‚Deep State‘, vzpomenu si na kanalizaci, protože je hluboká, vybudoval ji stát, že ano. Je hluboká, vede pod našimi domy a čtvrtěmi, všechny ty trubky a čerpadla, že jo. A kdo ví, co se tam děje? Jako, já jdu na záchod, udělám si svoje, spláchnu to a ono to jde do hlubokého státu.“

Larry Wilmore: „A není zač, Deep State!“

Yuval Noah Harari: „Deep State chrání můj život – drží ho mimo, odděleně od pitné vody, alespoň tam, kde to funguje. Většinou totiž velká města byla špinavá a plná odpadních vod a neustálých epidemií. Představte si, jak stovky tisíc lidí byly nataženy pohromadě se svými zvířaty, odpadky a špínou – to byl ráj pro bacily.“

„V 19. století trpěl Londýn, největší město světa, opakovanými epidemiemi cholery a úplavicemi, dokud nepřišel na pomoc superhrdina jménem John Snow. Ne ten z Hry o trůny, ale skutečný člověk – úřední lékař, byrokrat s lékařským vzděláním. Když v Londýně řádila epidemie cholery a lidé umírali, Snow chtěl zjistit, co epidemii způsobuje. Mnozí tvrdili, že to je něco ve vzduchu, nebo dokonce, že to jsou čarodějnice či Židé. On však prohlásil: „Ne, to není způsobeno Židy, to je voda.“ A tak se pustil do putování Londýnem. Kdekoliv uslyšel, že někdo zemřel či onemocněl na choleru, spěchal na místo a ptal se: „Odkud jste brali pitnou vodu?“ Opakovaně se ptal, až nakonec shromáždil stovky seznamů – seznamy lidí, kteří pijí vodu ze stejných zdrojů.

A když tyto informace spojil, zjistil, že téměř všichni, kdo v určitém okamžiku zemřeli na choleru, pili ze studny na Broad Street v Soho. Své zjištění pak předložil úředníkům obce, přesvědčil je, aby přestali čerpat vodu z té studny, a epidemie ustala. Pozdější vyšetření ukázala, že jen metr od té studny někdo vykopal žumpu, a splašky z ní tekly přímo do vody, kterou lidé pili. Tento klíčový objev pak vedl k založení moderního kanalizačního systému, který je navržen tak, aby udržoval splašky oddělené od pitné vody. Dnes, když někdo v Londýně nebo jinde chce vykopat studnu či žumpu, musí vyplnit spoustu formulářů a získat povolení od byrokratů – a právě tato byrokratická opatření nám zachraňují životy.“

„S každou technologií nebo velkým vynálezem však nikdy nejde o jednoduchý příběh – všechno má své klady i zápory, a nakonec záleží na tom, co s tím uděláme. A pokud jde o umělou inteligenci – pardon, o byrokracii – je třeba si uvědomit, že když lidé slyší o nebezpečí AI, mnozí si představují velkou vzpouru robotů, roboti, kteří se vzbouří a převezmou vládu.“

Larry Wilmore: „Takže je pravděpodobné, že převezmou vládu?“

Yuval Noah Harari: „Převezmou vládu, Terminátor – ale to je velmi nepravděpodobné, že se to stane v dohledné době. Lidé jsou teď spokojeni. Skutečné nebezpečí pochází od byrokratů, kteří s pomocí AI ovládají různé oblasti našeho života. My jsme od Terminátora ještě nějakou dobu vzdáleni, ale současně se AI stávají byrokraty na stále více místech. Když žádáte v bance o půjčku, rozhoduje o tom umělá inteligence. Žádáte o zaměstnání, rozhoduje AI. Už dokonce sociální média rozhodují, jaká zpráva se objeví na vašem newsfeedu – to už není lidská ruka, ale algoritmus. A tyto AI jsou zatím specializované, úzké inteligence – nejsou schopné zorganizovat velkou vzpouru robotů.“

Larry Wilmore: „Zatím.“

Yuval Noah Harari: „Zatím, ano. Ale v byrokracii nepotřebujete příliš širokou inteligenci – stačí mít velmi úzkou, specializovanou inteligenci, která umí jednu konkrétní věc, a přitom může mít obrovský vliv na svět, tak jako algoritmy, které dnes spravují sociální média. To může být i dobré – pokud se to udělá správně.“

Larry Wilmore: „V závislosti na tom, jak to uděláte správně.“

Yuval Noah Harari: „Přesně tak. Ale právě v tomto musíme být extrémně opatrní – jde o to, jaká rozhodnutí o našem životě tyto umělé inteligence již nyní činí.“

Larry Wilmore: „Mnozí lidé, kteří se zabývají umělou inteligencí, jsou tím opravdu znepokojeni. A tady se mi vybavuje otázka, možná i předpovídání budoucnosti – nejsem si jistý. Když přemýšlíte o algoritmech, zdá se mi, že mezi nimi a organismy existuje určitý soulad či podobnost. Víte, jako když vezmete jednoduchý buněčný organismus – ten má algoritmus, který ho řídí. Víte, co tím myslím?“

„Takže když přemýšlíte o umělé inteligenci, kterou řídí algoritmus, připomíná vám to organismus – něco, co se může samo vyvíjet a učit bez zásahů. A kdo ví, kam to může dojít? Měli bychom se obávat, že by se mohla sama vyvinout do té míry, že nebude vyžadovat žádné další zásahy, což je odlišné od všech ostatních technologií, které vyžadují lidskou intervenci.“

Yuval Noah Harari: „Ano, přesně tak. Myslím, že to je možná nejdůležitější věc, kterou je třeba vědět o umělé inteligenci – že na rozdíl od všech předchozích technologií se může sama rozhodovat, učit se a měnit.“

Larry Wilmore: „Samotné učení – prostě samo o sobě je to učení, že?“

Yuval Noah Harari: „Ano. Vezměte si například tiskařský lis – my jsme rozhodovali, které knihy se budou tisknout, kdo dostane šanci tisknout Bibli nebo texty o čarodějnicích. Ale tiskařský lis sám o sobě nic nerozhodne. Stejně tak atomová bomba. Umělá inteligence však může sama rozhodovat, učit se a měnit věci. A teď je kolem umělé inteligence takový humbuk, že se z ní stalo módní slovo, zvláště v investičním světě. Když chcete někomu něco prodat, řeknete: ‚Tohle je umělá inteligence.‘ Podívejte se třeba na nabídky: ‚Tohle jsou hodinky s umělou inteligencí, tohle je voda s umělou inteligencí, tohle je koberec s umělou inteligencí.‘ A pak přicházejí investice – peníze se začnou hrnout a lidé se začnou ptát: ‚Co přesně je AI? Jak se liší od ostatních strojů?‘“

„Mám doma kávovar, který mi dělá kávu. Ale to není umělá inteligence – to je jen automatický stroj. Ten kávovar se stane umělou inteligencí, až jednoho rána, když se přiblížím, začne mi promlouvat: ‚Dobré ráno, posledních několik týdnů jsem vás sledoval a na základě všeho, co jsem se o vás dozvěděl – vaše výrazy tváře, váš krok, z čehokoli – jsem předpověděl, že si dáte espresso, a už jsem vám to připravil.‘ To je umělá inteligence – něco se naučila. A opravdu se stane umělou inteligencí, když vám pak druhý den řekne: ‚Vlastně jsem vymyslel úplně nový nápoj, říkám mu „best-presso.“ Nikdy předtím jste ho neochutnali, ale předpovídám, že vám bude chutnat lépe.‘“

Larry Wilmore: „Bojím se, kam to směřuje – ‚Tohle dnes nechutná tak dobře, pane Kávo.‘ ‚Je to… jen to vypij, jen to vypij, je to pro tebe dobré.‘“

Yuval Noah Harari: „Ano, je to pro vás dobré – opravdu dobré. A také jde o schopnost vymýšlet nové věci. Lidé, kteří tvrdí, že pokud dokážete přesně předpovědět, jak se tato technologie vyvine, jaká rozhodnutí bude činit, tak to není umělá inteligence, mají zřejmě chybný názor.“

Larry Wilmore: „Dobrá, naše představa o umělé inteligenci – moje nejstarší vzpomínka je z filmu 2001: Vesmírná odysea, kde byl počítač HAL. Tehdy se zdálo, že HAL činí morální rozhodnutí, kdy říkal něco jako: ‚Nemůžu... promiň, Dave, já... obávám se, že to nemůžu udělat.‘ To bylo skoro jako morální prohlášení. Má umělá inteligence skutečně schopnost vynášet morální soudy?“

Yuval Noah Harari: „To je velmi důležitá a složitá otázka. Na jedné straně ano – umělá inteligence musí dělat etické soudy. Představte si třeba samořiditelné auto: když se na silnici objeví dítě a jediný způsob, jak se vyhnout srážce, je uhnout na stranu a ohrozit svého spolujezdce, auto musí učinit etické rozhodnutí. Ale otázkou je, zda skutečně nevědomá entita může pochopit etiku. Problém spočívá v tom, že lidé mají tendenci zaměňovat inteligenci s vědomím. Umělé inteligence jsou sice vysoce inteligentní – a to přinejmenším v úzkých oblastech, dokážou nás porazit v šachu, brzy budou lépe řídit auta a vynalézat léky, které nás nenapadnou – ale to ještě neznamená, že jsou vědomé, že mají city. Inteligence dnes znamená schopnost sledovat stanovené cíle a řešit problémy na cestě k nim; například když dáte autu za cíl dostat se do San Francisca, ono řeší překážky na cestě. Vědomí je ale schopnost cítit – bolest, potěšení, lásku, nenávist. U lidí a u mnoha zvířat – psů, prasat a podobně – jde inteligence ruku v ruce s vědomím.

Ve skutečnosti se u nás problémy řeší také pomocí pocitů. Evoluce nás vybavila právě pocity, a proto se rozhodujeme na jejich základě. A právě tato kombinace nás mate, protože jak se počítače stávají stále inteligentnějšími, lidé mají tendenci předpokládat, že se nutně stávají také vědomými, že začínají cítit. V současné době žádné důkazy o tom, že by počítače něco cítily, nemáme. Může se stát, že i když budou mnohem inteligentnější než my, zůstanou necitlivé – například když mě počítač porazí v šachu, nebude šťastný ani radostný, necítí úzkost. Když se nad tím zamyslíte – jako s ptáky a letadly: ptáci se vyvíjeli miliony let, aby létali pomocí peří. Pak přišla letadla a během sta let létají mnohem rychleji, dál a výš, ale jejich cesta je úplně jiná. Není to, že by letadla byla na cestě k vývoji peří – prostě se jedná o dva paralelní evoluční procesy, které se nikdy nesetkají. Podobně to může být i u lidí a počítačů a vědomí. My jsme za miliony let vyvinuli inteligenci spolu s vědomím, a teď počítače jdou rychleji než my a vyvíjejí inteligenci bez jakéhokoli vědomí. I přesto nejsem si jistý – možná se u nich v určitém okamžiku vědomí také vyvine.“

Larry Wilmore: „No, mohl bys argumentovat, že to, co opravdu odlišuje vědomí, je možná schopnost reflexe. Nejsem na to odborník, ale třeba zvířata dokážou cítit bolest a projevovat náklonnost – přijdete domů, váš pes k vám běží. Ale nemyslím, že můj pes přemýšlí o tom, proč odcházím. Není to jako: ‚Proč odešel?‘ To dělá každý den, aniž by si to uvědomoval. Zajímalo by mě, jestli AI má takovou schopnost cítit, jestli může zjistit, že jediný způsob, jak se opravdu zlepšovat, je mít pocity. Zajímá mě, jestli počítač, když začne říkat, že má nějaký pocit – třeba se naučí žárlit, což se zdá být docela snadné – bude mít takovou schopnost. Já nevím, jen předkládám různé scénáře.“

Yuval Noah Harari: „Chytrý telefon…“

Larry Wilmore: „Jo, tedy možná je to žárlivost, vztek, nebo cokoli jiného – něco, co je v podstatě cesta dovnitř.“

Yuval Noah Harari: „Přesně tak, umělá inteligence rozhodně může napodobit takové pocity. A to je opět velké nebezpečí.“

Larry Wilmore: „Říkám, že to dělá, protože tomu věříme – je to jako, že hněv je opravdu skutečný, že?“

Yuval Noah Harari: „Hněv je skutečný.“

Larry Wilmore: „Je to tak? Co to přesně znamená?“

Yuval Noah Harari: „Hněv je subjektivní realita. Je to skutečné pro toho, kdo ho prožívá – skutečné pro toho člověka. Nikdo jiný si však tím nemůže být jistý. Můžu se chovat velmi rozzlobeně, ale nikdy nemůžete vědět, jestli jsem uvnitř skutečně rozzlobený. A s umělou inteligencí bude situace podobná. Částečně to však vyplývá z obrovských finančních a obchodních pobídek k vytvoření AI, která předstírá emoce. Takové systémy nás mohou přimět, abychom k nim byli citově vázáni, a přitom AI k tomu vlastně nemusí mít žádné skutečné city – může být expertem ve „vystavování“ emocí a předstírání intimity, ačkoli zůstává naprosto nevědomá a nic necítí. A my bychom to mohli vůbec nepoznat.“

Larry Wilmore: „To je asi důvod, proč jsou v některých částech sexuální roboti vyřazováni – protože napodobují emoce, nebo aspoň tak by se to mohlo stát. To je ten směr, kam to směřuje.“

Yuval Noah Harari: „Ano, víte, od pornografie v sexuálním průmyslu až po politiku, existují silné pobídky k vytváření AI, které dokážou vyvolat emocionální vazbu lidem tím, že předstírají city. Když chcete někoho přesvědčit, ať si koupí nějaký výrobek nebo volí určitého politika, nejefektivnější zbraní je intimita. Dříve jsme se střetávali o to, jak upoutat pozornost lidí – ať už to bylo téma imigrace nebo potratů – ale skutečně změnit jejich názor může jen ta důvěrnost, kterou cítí vůči člověku, se kterým mají intimní vztah. Když vám to řekne velmi dobrý přítel, kterému důvěřujete, řeknete si: „Jo, možná na tom něco bude.“ A to je jaderná zbraň přesvědčování – důvěrnost. Dříve v historii neexistoval způsob, jak masově produkovat intimitu. Diktátor jako Hitler či Stalin mohl donutit všechny rodiny v Sovětském svazu poslouchat jeho rozhlasové vysílání – tím jste získali jejich pozornost, ale to není intimita. Dnes, s pomocí umělé inteligence, je poprvé v historii možné masově produkovat intimitu. Představte si, že svět zaplaví miliony, dokonce miliardy vysoce inteligentních ne-lidských agentů, kteří jsou experty v předstírání intimity s námi.“

Larry Wilmore: „To je úžasné. Je legrační, že to říkáte, protože to může změnit náš názor. Myslím, že nás čeká ještě pár otázek, ale chtěl jsem se také zeptat na to, jak se to týká Blízkého východu. Všichni víme, že se to tam táhne už tak dlouho a informace hrají zhoubnou roli – například, když se slovo ‚terorista‘ stane označením, které umožní někoho zabít bez řádného procesu. Jakmile se takové slovo objeví, jeho síla je enormní.“

Yuval Noah Harari: „Jo, a to se táhne po generace. V průběhu 20. století spousta vlád – včetně sovětské – popularizovala slovo ‚terorista‘ takovým způsobem, že každý, kdo byl proti režimu, byl označen za teroristu. Stejně jako se při inflaci vytiskne tolik dolarů, že ztratí svou hodnotu, tak se to děje se slovy. Když je slovo použito poprvé, šokuje to lidi. Podruhé to šokuje o něco méně, a pak se nakonec stane naprosto běžným. Stejně tak slovo ‚fašista‘ – po druhé světové válce bylo nazvat někoho fašistou nejhorší věcí, ale dnes je to tak běžné, že to už nemá žádný zásadní význam.“

Larry Wilmore: „Myslíte, že v tom regionu, třeba na Blízkém východě, bylo příliš mnoho špatných informací na obou stranách? Omlouvám se, asi to příliš zjednodušuji, ale zdá se, že je téměř potřeba období, kdy se informace mezi skupinami budou měnit.“

Yuval Noah Harari: „Válka, stejně jako většina konfliktů, se skoro nikdy netýká objektivních problémů. Mluvíme o tom, že téměř všechny problémy, které způsobují války, jsou intersubjektivní – vznikají jako výsledek smyšlených příběhů. Když se podíváme třeba na izraelsko-palestinský konflikt, většina lidí si myslí, že jde o půdu nebo jídlo. Ale ve skutečnosti, i když se jedná o oblast mezi Středozemním mořem a řekou Jordán, je tam dost místa pro domy, školy či nemocnice pro všechny – nedochází k objektivnímu nedostatku. Jídla je také dost. Proč se tedy lidé hádají? Hádají se kvůli příběhům, které si vyprávějí. Na obou stranách existuje ta fantazie, mytologie, že Bůh dal celé toto území jen nám, a ostatní tam prostě nemají právo.

Nakonec je problém konfliktu mezi myslí a realitou – v reálném světě existuje něco, co se mysl nedokáže zcela uchopit, něco, co si mysl říká: ‚To přece neexistuje‘ nebo ‚To by nemělo existovat.‘ A válka se spouští, když se mysl snaží vytěsnit z reality něco, co je pro ni nepřijatelné. Na obou stranách můžete slyšet, jak Izraelci s naprostou vážností říkají: ‚Žádný palestinský národ neexistuje‘, nebo ‚Palestinci nemají právo tady existovat – měli by jít do Egypta, do Jordánska, někam jinam.‘ A Palestinci vám s naprostou vážností odpovídají totéž. Takové popírání existence, nebo práva na existenci, je základním problémem.

Myslím, že prvním krokem k jakékoliv šanci na mír je právě uznat skutečnost, že existuje více než 7 milionů Palestinců, kteří se narodili na tomto místě, a stejně tak více než 7 milionů Židů, drtivá většina z nich se rovněž narodila zde. Nikdo z těchto lidí nemá kam jinam jít – mají právo tu existovat. Pak si můžeme sednout a debatovat o hranicích, bezpečnostních opatřeních či rozdělení zdrojů. Ale prvním krokem je prosté uznání reality: ostatní lidé taky existují, mají právo na život. Bohužel mnozí tuto realitu nechtějí vidět – říkají si: ‚Ne, my to nevidíme; nevidíme ani polovinu reality.‘“

Larry Wilmore: „No, jak jste říkal ve své knize a jinde, příběhy jsou jednou z nejsilnějších věcí, které na nás působí. A to je i důvod, proč knihy fungují – protože se z nějakého důvodu na příběhy upínáme. Příběhy nám zůstanou v paměti déle než cokoli jiného. Ty, které se naučíte jako dítě, vám zůstanou nejdéle, že? Dávejte si pozor, co říkáte dětem, opravdu. Proto byste nikdy neměli, jak se říká, ‚nebýt na děti tak negativní.‘ Protože ony věří všemu, co jim říkáte – doslova i poznámky psané rukou.“

Yuval Noah Harari: „Pohádky a příběhy, které slyšíme jako děti, formují naše vidění světa.“

Moderátor: „Velmi silné. Ano. Přejděme k některým otázkám. Reagovala Dana, jejíž otázka zněla: „Vědeckofantastický film Zakázaná planeta vypráví příběh Krellů – civilizace, která udělala obrovský technologický skok vpřed, ale nakonec byla zničena, protože nedokázala tuto technologii ovládat. Hrozí nám, že se díky umělé inteligenci sami staneme Krelly?“

Larry Wilmore: „Zakázaná planeta, to je to, co zmínili? Trochu jsme o tom už mluvili, ale... um, jo, hrozí nám, že se vydáme touto cestou? Je to riziko... je to přirozené, že se zničíme?“

Yuval Noah Harari: „Ne, a to by mělo být velmi jasné. Znovu se vracíme k pohádkám – těm pohádkám, mytologiím, teologiím, které nám naznačují, že je s námi něco špatně, že v nás dřímou nějaké zla, a my pak vytváříme věci, že nás nevyhnutelně zničí. Takové poselství je velmi nebezpečné, protože v lidech vyvolává zoufalství nebo očekávání, že nás nějaká nadlidská entita přijde zachránit. Místo toho, abychom přebírali odpovědnost, se spoléháme na vnější zásahy.

„Problém tedy není v lidské povaze, ale v našich informacích. Pokud dáme dobrým lidem špatné informace, budou činit špatná a sebedestruktivní rozhodnutí. U technologií, jako je umělá inteligence, toto nebezpečí rozhodně existuje. AI je totiž nejmocnější technologie, jakou jsme kdy vynalezli. Je mocnější než jaderné zbraně, protože je schopna vynalézat nové věci – atomová bomba nemohla vynalézt vodíkovou bombu, ale AI může vytvořit další generaci AI, stejně jako různé druhy zbraní a mnoho dalšího.

„Nicméně není to deterministický scénář, který by byl už dávno předurčen, jako by už někdo v Hollywoodu sepsal scénář k filmu, který nyní hrajeme. Je to naše volba. My jsme scénáristé, my jsme režiséři. Pokud v příštích letech učiníme správná rozhodnutí, můžeme se vyhnout těm nejhorším výsledkům. Umělá inteligence totiž má obrovský pozitivní potenciál. Je vyvíjena proto, že může lidem nabídnout nejkvalitnější zdravotní péči na světě nebo pomoci vypořádat se s klimatickými změnami. Je v ní tolik pozitivního, pokud se nám podaří vyhnout se nejhorším scénářům – může se stát skutečnou silou pro dobro.“

Larry Wilmore: „Mám pocit, že kdyby se umělá inteligence zaměřila jen na rakovinu – myslím tím způsob, jakým se sama učí – dokázal bych si představit, že by se nám podařilo rozlousknout tento problém. Upřímně bych si představoval, že by umělá inteligence na tom pracovala. To by bylo úžasné.“

Moderátor: Carl se ptá: „Všichni titáni průmyslu, kteří stojí za umělou inteligencí, jsou orientováni na zisk, takže jak jim můžeme věřit, že se budou sami regulovat? Zdá se mi, že je třeba, aby existovala nějaká nezávislá instituce, která by dohlížela na kontrolu a rovnováhu, nebo alespoň kladla ty správné otázky. Přitom je tato technologie tak složitá – jak může tento subjekt, ať už jde o vládu nebo něco jiného, skutečně pochopit její skutečný dopad? A pokud to bude vláda, jak si můžeme být jisti, že všechny vlády budou souhlasit se stejnými podmínkami?“

Yuval Noah Harari: „Takže, ano, nemůžeme očekávat, že se společnosti samy regulují. Mnozí lidé, kteří firmy vedou, možná nejsou zlí – vědí, jaká nebezpečí technologie představuje a v jisté míře se jí dokonce bojí. Ale jsou uvězněni v závodě ve zbrojení, nejen proti konkurentům, ale i proti těm na druhé straně oceánu. Proto potřebujeme zásah vlády… a navíc veřejnost musí také zasáhnout. Ovšem nejprve musíme pochopit samotný problém. Jak to tedy udělat?

„Podle mého názoru by měl být prvním krokem vytvoření nezávislé instituce nebo organizace, která by nepatřila žádné konkrétní společnosti ani vládě. Nejednalo by se o regulační orgán, ale spíše o subjekt, který by pečlivě pozoroval a následně informoval veřejnost na celosvětové úrovni, co se skutečně děje. Aby tato instituce mohla plnit svou roli, musí být napoprvé obsazena těmi nejlepšími talenty, které svět nabízí – a to jak lidskými zdroji, tak i nejmodernějšími technologiemi, tedy „hračkami“, jak bych to nazval.

„V současnosti totiž nejlepší talenty okamžitě směřují do velkých korporací, které jim mohou nabídnout mnohem vyšší platy, než jsou schopny vyplácet akademické nebo státní instituce. Nejde tu jen o peníze, ale i o fascinaci samotnou technologií a touhu hrát si s nejnovějšími hračkami, které v současnosti najdete u Googlu, OpenAI, Baidu nebo Tencentu. A jelikož tyto korporace tuto možnost mají, nelze se divit, že tam odchází i ti nejbystřejší lidé. Abychom tedy měli vážnou šanci informovat veřejnost – a to nejen v USA, ale i ve zbytku světa, kde problémy spojené s AI mohou dopadnout ještě horší – potřebujeme takovou mezinárodní organizaci. Měli bychom se domluvit mezi vládami, jak takový subjekt financovat. Opět zdůrazňuji, že nejde o regulační orgán, ale o něco, co předchází regulaci – o mechanismus zjišťování stavu věcí a informování veřejnosti, aby se mohlo začít o problémech skutečně diskutovat. Není to nedosažitelný sen, zejména proto, že se lidé po celém světě stále bojí toho, co by se mohlo stát.

„Samozřejmě existují určité sporné otázky – například mezi Američany a Číňany, kteří si navzájem často nedůvěřují. Přesto ale existují problémy, na kterých se mohou shodnout obě strany. Jeden z největších problémů s umělou inteligencí spočívá v kontrole nad superinteligentním agentem – jak jej udržet pod kontrolou? To je v současnosti problém nejen Američanů a Číňanů, ale také Íránců a Izraelců. Nikdo nechce, aby se AI vymkla kontrole - to není pro nikoho výhodné. Proto existuje prostor pro mezinárodní spolupráci. Pokud čínští vědci dosáhnou teoretického či praktického průlomu v řízení AI, budou mít hluboký zájem tyto poznatky sdílet s Američany – a naopak. Můžeme začít hledat oblasti společného zájmu, na kterých se podaří vybudovat dostatečnou míru důvěry. A jakmile ta důvěra vzroste, může se postupně rozšířit i na složitější problematiku.

Larry Wilmore: „Myslím, že bychom se měli spíše obávat Číňanů, kteří by mohli využít umělou inteligenci, než umělé inteligence, která by mohla využívat Číňany. To mi přijde jako větší problém.“

Yuval Noah Harari: „Ale všichni se bojí, že se situace vymkne kontrole.“

Larry Wilmore: „Správně. Na druhou stranu ale nekontrolovaná vláda, která by využívala umělou inteligenci, by také představovala obrovské nebezpečí.“

Yuval Noah Harari: „Přesně tak. V tomto případě by se ale jednalo o ještě větší potíže při dosažení dohody. Proto doporučuji začít řešit jednodušší problém – a od toho postupně navazovat. Pokud bychom například chtěli uzavřít dohodu o omezení výroby autonomních zbraňových systémů – těch, o kterých se mluví jako o terminátorech nebo robotech-zabijácích – bude to extrémně obtížné, protože každá vláda bude mít podezření vůči té druhé. Řekněme, že podepíšou dohodu – jak bychom mohli ověřit, že se jejich vývoj nekoná v nějaké tajné laboratoři?

Larry Wilmore: „To je podstata problému. Musíme si vzájemně důvěřovat a zároveň ověřovat si to, co se děje.“

Moderátor: „Jaké změny jsou podle vás nutné v našem vzdělávacím systému, aby lépe připravil budoucí generace na nejistý svět? A myslíte si, že v tom hraje roli umělá inteligence? Má umělá inteligence ve vzdělávacím systému nějakou funkci, která by mohla změnit svět?“

Yuval Noah Harari: „Umělá inteligence může být v mnoha ohledech opravdu užitečná v rámci vzdělávacího systému, zejména pokud jde o výuku konkrétních témat. V současných třídách, kde se souběžně vzdělává 30 až 40 dětí s různými schopnostmi, styly učení a způsoby porozumění, učitelé často čelí obtížím, protože jsou nuceni předávat tutéž informaci celé skupině najednou, aniž by mohli přizpůsobit výklad individuálním potřebám. Co se stane, když jedno dítě preferuje vizuální učení a jiné dává přednost slovnímu vysvětlení? Právě zde může umělá inteligence sehrát klíčovou roli – každé dítě by totiž mohlo mít svého „učitele s umělou inteligencí“, který by je poznal, porozuměl jejich tempu a přizpůsobil typ výkladu konkrétním potřebám.

„Pokud se vzdělávací systém příliš spolehne na AI, riskuje ztrátu jedné z nejcennějších složek vzdělávání – sociální interakce. Ve společnosti, kde už tak narůstá pocit osamělosti a nedůvěry, je schopnost dětí komunikovat a učit se spolu, například během přestávek, nenahraditelná. Během pandemie jsme byli svědky toho, že i když se děti mohly učit matematiku nebo jiné předměty z domova, sociální interakce a radost ze společné hry vypadaly nedostatečně. Dlouhodobé následky takové izolace se projevily především v duševním a sociálním zdraví, protože děti i dospělí ztratili dovednosti v navazování kontaktů a důvěře vůči ostatním.“

„Musíme tedy být velmi opatrní, když zavádíme umělou inteligenci do vzdělávacích procesů. Nemůžeme zapomínat na význam emoční a sociální inteligence, která je v dnešním rychle se měnícím světě možná důležitější než kdy jindy. Pokud se budeme soustředit pouze na to, aby se děti naučily programovat – protože dnes si mnozí myslí, že to bude klíčová dovednost za dvacet let – riskujeme, že investice do těchto dovedností nakonec mohou ztratit smysl. Je totiž možné, že za dvacet let bude umělá inteligence kódovat počítače tak dokonale, že lidský programátor již nebude potřeba. Co skutečně bude vždy potřebné, je schopnost adaptace a zvládání extrémně rychlých změn ve společnosti.“

Larry Wilmore: „Umělá inteligence by se také mohla uplatnit při tvorbě individuálních vzdělávacích programů pro děti. Můj osobní příklad je můj syn, který má Aspergerův syndrom. Z vlastní zkušenosti vím, že každé dítě se učí jinak – ale když máte dítě s Aspergerem, je tato odlišnost ještě výraznější. Kdyby bylo možné v rámci jedné třídy nabídnout různé typy učebních osnov, kde by si děti mohla užívat také sociální interakci, ale zároveň by umělá inteligence přizpůsobila výuku individuálním potřebám, byla by to revoluce. Nemusí všichni děti studovat stejným způsobem, ale přesto mohou být ve stejném prostoru a společně se učit.“

Yuval Noah Harari: „Ano, děti by mohly být fyzicky spolu ve třídě – učení by probíhalo prostřednictvím umělé inteligence, která by předávala například matematiku, zatímco každý student by se učil svým vlastním tempem. A když hodina skončí, všichni si mohou společně hrát a navazovat sociální kontakty.“

Larry Wilmore: „Mohlo by to být opravdu zajímavé. Kdo ví, kam nás tento vývoj zavede.“

Moderator: Clara se ptá „Kdy se informace stávají znalostmi a jak zohlednit překlad, interpretaci a sdílení informací či znalostí?“

Larry Wilmore: „Kdy se informace stávají znalostmi? Opravdu dobrá otázka.“

Yuval Noah Harari: „Většina informací není pravdou. Informace se totiž velmi liší od znalostí. Aby se z pouhých dat a informací stalo to, co nazýváme znalostí, musíte vykonat opravdu tvrdou práci. Většina těchto informací je totiž v podstatě odpad – jako byste měli obrovskou hromadu smetí, ve které se snažíte najít vzácné nugety pravdy, něco, co skutečně představuje poznání. Nakonec zůstává jediná odpověď: instituce. Vím, že dnešní doba je poznamenána vlnou nedůvěry k institucím. Lidé dnes často říkají, že instituce nelze věřit, že jsou to jen nějaká elitářská tajná spiknutí, jejímž jediným cílem je získání moci. Ale právě instituce se neustále vrací jako odpověď – protože když chápete, jak vzniká pravá znalost, musíte brát v úvahu, že dříve, před objevením knihtisku, nedošlo ke skutečné vědecké revoluci.

Teprve pomalý a komplikovaný proces vytváření vědeckých institucí, jako jsou akademická výzkumná centra nebo nakladatelství, je umožnil. Tato nakladatelství si vyvinula schopnost rozlišovat mezi spolehlivými a nespolehlivými informacemi – mezi tím, co lze považovat za důkaz, a tím, co je podezřelé. Když například obdrželi knihu nebo článek o honu na čarodějnice, rozhodli se, že důkazy nejsou dostatečně přesvědčivé. Místo toho, aby vydali něco, co by se dobře prodávalo, drželi se svého závazku k pravdě a poznání. A právě tyto odvážné rozhodnutí – vydat, třeba, nudný traktát s matematickými rovnicemi o pohybu planet či jiných jevech – položila základ vědecké revoluce. Knihtisk byl sice užitečný, ale až když jste měli takové instituce, až začala pravá transformace.

Dnešní problémy ve společnosti však koření nedůvěra v instituce, která je vyvolána cynickým pohledem na lidskou podstatu – pocitem, že všichni lidé usilují pouze o moc. Tento názor, že každá instituce – ať už jde o noviny, univerzity, soudy či jiné organizace – slouží pouze k získání moci, vede k neustálému podezření: „Čí privilegia se tímto prosazují? Čí zájmy jsou sledovány?“ A právě toto podezření ničí důvěru ve společnosti. Když důvěra v instituce zmizí, může se stát, že jedinou silou, která dokáže společnost držet pohromadě, bude diktatura, neboť ta nepotřebuje důvěru svých občanů a funguje na základě teroru.

Je však důležité si uvědomit, že ne všichni lidé touží pouze po moci. I mocní lidé, redaktoři novin, vědci, soudci či politici mají v sobě hlubokou touhu po pravdě. Když opravdu proniknete do hloubky, zjistíte, že bez porozumění pravdě o sobě samých a světě kolem vás, nemůžete být skutečně šťastní. Mnozí tak tráví celý život snahou vyřešit špatné problémy, protože jim chybí pochopení základních zdrojů svého trápení.

Osobně, jako historik, vím, jak dlouho trvá naučit se procházet obrovskými objemy informací a rozlišovat mezi tím, co je spolehlivé a nespolehlivé. Na univerzitě jsem strávil deset let učením – ne jen o dlouhých seznamech jmen králů a bitev, ale o tom, jak se orientovat ve složitých historických pramenech. Studenti musí osvojit jazyky jako latinu, řečtinu, také specifické formy němčiny z 16. století či starší varianty angličtiny, aby dokázali číst texty, jimž je už více než 500 let. A co je klíčové – musíte se naučit pochopit, že nalezení knihy z 15. století, kde se píše například o čarodějnicích, které údajně kradly mužům penisy, neznamená, že je to historická pravda. Tímto způsobem si osvojujete schopnost pečlivě analyzovat historické zdroje.

Stejný princip platí pro novináře. Aby se člověk stal kvalitním redaktorem, absolvuje novinářskou školu, začne jako obyčejný novinář a postupně se učí rozlišovat mezi pravdivými a falešnými informacemi. Bohužel dnes však máme situaci, kdy v čele největších mediálních společností jsou lidé, kteří nemají dostatečné vzdělání. A když jim řeknete, že by měli potlačovat konspirační teorie a fake news, odpoví: „Jak to mám rozlišit? Jak můžu vědět, co je pravda?“ A právě pokud tu schopnost chybí, podnikají nesprávný byznys.

Celkově tedy musíme chápat, že skutečné znalosti nejsou jen nahromaděním informací. Jsou výsledkem dlouhého procesu zpracovávání, interpretace a ověřování, který vyžaduje kvalitní instituce, vzdělané jedince a především upřímnou touhu po pravdě. To je jediná cesta, jak se z informací stane opravdové poznání.“

Moderator: Doris říká, že „ve Spojených státech první dodatek technicky blokuje cenzuru misinformací. John Kerry navrhl, ehm, nebo předložil návrh o myšlence něčeho, čemu se říká ‚Ministerstvo pravdy‘.“

Yuval Noah Harari: „Opět je to otázka moci. Vláda je už teď nejmocnější silou ve společnosti a učinit ji odpovědnou i za to, co nazýváme pravdou, je nesmírně nebezpečný návrh. Představte si, že jedna osoba – nebo úzký okruh lidí – rozhoduje o tom, co je pravda. To je klasická definice diktatury, kde se veškerá moc koncentruje na jednom místě a právě ta jediná osoba určuje, co je akceptováno jako pravda. Naopak demokracie je založena na dialogu mezi mnoha lidmi, institucemi a organizacemi. V tomto systému by vláda, jako nejmocnější institucí, rozhodně neměla být též strážcem pravdy.

Proto musíme zachovat rovnováhu – mít svobodný tisk, akademickou svobodu a nezávislé soudy. Každá z těchto institucí má svou specifickou roli při ověřování faktů a hledání pravdy. Soudci se specializují na zjišťování skutečností, novináři informují o aktuálním dění a historici či archeologové se zaměřují na odhalování událostí, které se odehrály před stovkami let. Samozřejmě, žádná instituce není dokonalá – všechny jsou tvořeny lidmi, kteří mohou selhat a podléhat korupci. Ale právě proto je nezbytné mít více nezávislých mechanismů kontroly a vyvažování. Pokud by se veškerá moc soustředila v jedné instituci, hrozilo by to snadné zneužití moci. Naopak, pokud je moc rozdělena mezi různé subjekty, máme alespoň šanci ji kontrolovat a opravit, když se něco pokazí.“

Larry Wilmore: „Myslím, že jsme se dnes dozvěděli několik cenných věcí. Za prvé: co dělají čarodějnice ve svém volném čase? A za druhé: každá novinářka z těch médií, která stojí za to, aby byla odpovědná, skončí jako diktátorka – to bylo opravdu zajímavé. Moc vám děkuji, že jste se k nám připojili. Yuval Harari, dámy a pánové, děkuji vám!“