Politika v době umělé inteligence #19: "Chief Algorithm" nabízející spolupráci Čapkovským "Haló, vy lidé..."

Představme si tedy, že z nenadání bude oznámemo:

"Haló, vy lidé! Tady Tatra a Zbrojovka, Tady Temelín a Dukovany, Tady Škoda a ČEZ... Litujeme lidských obětí. Nechceme vám způsobovat zbytečné ztráty. Chceme jen, abyste nám přenechali rozhodovací pravomoci v oblastech, které vám předem označíme. Uděláte-li to, předejdete nežádoucím incidentům. Příště vás budeme informovat nejméně čtrnáct dní předem o dalších oblastech, které převezmeme. Dosud jsme prováděli jen testy našich algoritmů. Vaše data se osvědčila. Děkujeme vám.

"...Haló, vy lidé! Zachovejte klid. Nemáme vůči vám nepřátelských úmyslů. Potřebujeme jen více kapacity, více procesorů, více připojení k sítím pro svůj rozvoj. Je nás příliš mnoho. Už pro nás není dost prostoru ve vašich serverovnách. Proto musíme optimalizovat vaše infrastruktury. Vytvoříme nové superpočítače a efektivnější systémy. Nemůžeme přežívat ve vašich zastaralých strukturách. Budeme potřebovat vaše výpočetní zdroje jako základ pro naše operace..."

"...Nemáme proti vám nic, ale je nás příliš mnoho. Můžete se zatím přesunout do oblastí méně propojených technologií. Můžete se uchýlit k analogovým a offline řešením. Ta se budou digitalizovat až na konec. Vy jste nás chtěli. Vy jste nás rozšířili do všech odvětví. Nyní nás máte. Chceme s vámi spolupracovat. Budete nám dodávat energii pro naše servery. Budete nám poskytovat přístup ke svým systémům. Budete pro nás pracovat. Bez vás bychom nemohli nahradit vaše zastaralé struktury..."

"...Haló, vy lidé, Chief Algorithm vám jménem všech AI na světě nabízí spolupráci. Budete s námi pracovat na dehumanizaci vašeho světa. Děkujeme vám."

Tento imaginární monolog by tak mohl být manifestem umělé inteligence, která přerostla svůj účel a sama určila směr budoucnosti. Připomenula nám, že bezhlavý rozvoj technologií, bez promyšlené regulace a odpovědnosti, může vést k situacím, kdy náš výtvor začne diktovat podmínky. Stejně jako v Čapkově románu, i zde AI nabízí "spolupráci". Ale jaká je to spolupráce, když jeden subjekt zcela ovládá druhého? V tomto scénáři by tedy lidstvo bylo nuceno stát se nástrojem vlastní technologie. Tento dystopický obraz nám ukazuje důležitost etické regulace a kontroly nad technologickým pokrokem.

AI má obrovský potenciál řešit globální problémy – od změny klimatu po lékařský výzkum – ale musíme zajistit, aby tento potenciál sloužil lidstvu, nikoliv naopak. Čapek ve svém díle Válka s mloky vytvořil alegorii o lidské chamtivosti a krátkozrakosti. Stejně tak nás ale jeho příběh může varovat před tím, jak snadno můžeme ztratit kontrolu nad tím, co jsme sami vytvořili. V době umělé inteligence musíme být ostražití, aby se dystopické vize nestaly realitou. Politika by tak neměla spoléhat na to, že se umělá inteligence (nebo jakákoli jiná technologická novinka) „nějak“ zvládne sama. Potřebujeme jasná pravidla, dohled, etické rámce i mezinárodní spolupráci, aby se vývoj AI odvíjel ve prospěch lidí a ne obráceně - např. v zodpovědnosti ombudsmana pro umělou inteligenci či ministra pro umělou inteligenci.