Politika v době umělé inteligence #17: Panovník minulosti, prezident současnosti, „plánovník“ budoucnosti?

Historicky byla absolutní moc v rukou panovníka – krále nebo císaře. Takový vládce měl zpravidla neomezenou vládu, ale zároveň i mimořádnou odpovědnost za chod státu. Úspěch nebo selhání země se často odvíjely od jeho osobnostních rysů a rozhodnutí. Tento systém sice poskytoval stabilní hierarchii, ale také riziko, že špatné rozhodnutí panovníka či jeho okolí uvrhne celé království do krize. Postupem času se moc panovníka začala omezovat ústavními listinami, zastupitelskými orgány a dalšími institucemi. Monarchie se měnila na konstituční a posléze na parlamentní. Umožňovala širší zapojení obyvatel do politického dění a posouvala se k demokracii. I v této době probíhal prudký technologický rozvoj (například rozmach železnic nebo telegrafu), který ovlivňoval národní hospodářství i mezinárodní vazby. Dnešní demokracie staví na kolektivních rozhodovacích procesech a zásadní roli hrají instituce bránící nadměrné kumulaci moci v rukou jedince - tzn. stabilita systému závisí na široké podpoře a zapojení občanů.

V mnoha současných demokratických státech byla zavedena "post-monarchistická" funkce prezidenta jako hlavy státu, která je volena lidmi přímo, nebo nepřímo (parlamentem, sborem volitelů atd.). Prezident již nepředstavuje nástupnickou linii rodu, ale spíše personifikovanou symboliku státu a jeho hodnot. Avšak s vzrůstajícími technickými a ekonomickými výzvami se společnost a vláda musí čím dál více spoléhat na technologická řešení. Dnes si nikdo nedokáže představit běžný chod úřadů bez digitálních komunikačních prostředků, elektronického zpracování dokumentů či specializovaných IT systémů. Rozhodnutí, jež prezident a další reprezentanti přijímají, jsou v různých fázích konzultována s odborníky, se speciálními think-tanky či s velkými firmami v oblasti technologií. Není tedy překvapivé, že se postupně nabízí myšlenka rozšířit tento „okruh poradců“ také o AI.

Jak se AI zapojuje do politického rozhodování už dnes? Analýza velkých dat (předvolební průzkumy, monitorování ekonomických trendů, modelování dopadů nové legislativy), prediktivní systémy (pokročilé algoritmy dokážou navrhnout možné scénáře v důsledku určité ekonomické či společenské politiky) či optimalizace procesů (AI pomáhá vládám hledat efektivnější způsoby, jak rozdělovat zdroje, investice a jak snižovat zbytečnou byrokracii). Potenciálně nový koncept tzv. „plánovníka“ by mohl přinést zásadní zlom. Představte si AI, která by – v ideálním případě – beze stopy předsudků analyzovala všechny dostupné informace o zemi, včetně anonymizovaných údajů o sociálních skupinách, ekonomických trendech, infrastruktuře a životním prostředí. Na základě analýzy by dokázala navrhnout optimální strategie rozvoje či řešení krize. Tato AI by tak mohla (pokud by k tomu dostala pravomoci) rozdělovat rozpočty a plánovat rozsáhlé projekty s největší účinností pro celou společnost. Teoreticky by tím vznikal prostor pro méně „politicky zabarvená“ rozhodnutí, která nebudou tolik ovlivněna lobbistickými skupinami či mocenskými hrami.

Avšak kritická zůstává otázka: kdo a jak by nakonec rozhodoval o uskutečnění návrhů AI? Výhodami by byla rychlost a přesnost v analýzách, menší riziko ideologického zaujetí či důraz na dlouhodobou strategii a optimalizaci zdrojů. Riziky by byly přenos zodpovědnosti z lidmi volených orgánů na technický systém, potenciální zneužití dat, manipulace či nekvalitní vstupní data, popř. kdo zaručí, že systém nebude „pokřivený“ či zaujatý ve prospěch úzké skupiny? I kdybychom chtěli zajít na úroveň plně řízenou AI, zůstává pro zdravou demokracii zásadní, aby lidský faktor stále hrál roli arbitra. Byť by AI mohla přinášet návrhy a poskytovat argumenty na základě neuvěřitelně sofistikovaných analýz, konečné rozhodnutí by mělo zůstat na člověku – voleném orgánu nebo volené hlavě státu. To nás vede k dilematům, která se s postupem automatizace a digitalizace vynořují i v jiných odvětvích. Tam, kde AI může podpořit a zefektivnit lidskou činnost, je většinou přínosem. Avšak v oblastech, kde se hraje o morální hodnoty, o interpretaci práva či o základní lidské svobody, musí záležet na vědomém a odpovědném „lidském faktoru“.

Při pohledu zpět zjišťujeme, že dějiny (nejen s heslem "rozděl a panuj") jsou vlastně neustálým „rozdělováním a plánováním“ moci a odpovědnosti. Od monarchií, jež soustřeďovaly moc do rukou panovníka, jsme se přenesli k moderním demokraciím, kde je moc rozdělována do více úrovní a institucí. Teď stojíme před další etapou, kdy bude do těchto procesů zasahovat umělá inteligence. Klíčové otázky zní: Jak tuto proměnu přijmout a zároveň si uchovat hodnoty, na kterých demokracie stojí? Jak si poradit s fenoménem „plánovníka“, který by potenciálně mohl napomáhat rozvíjet stát efektivněji, ale zároveň přináší celou řadu rizik? Odpovědi nám možná napoví budoucnost, ale již dnes bychom měli vážně zvažovat, jak tuto budoucnost formovat. Dokážeme rozdělit rizika a naplánovat taková opatření, aby se nám technologie nestala novým panovníkem či diktátorem, ale naopak cenným a spolehlivým pomocníkem? Právě o tom je politika v době AI. Rozděl a plánuj – a přitom nezapomeň na člověka.