Politika v době umělé inteligence #18: Ombudsman pro AI a "Charta práv AI"

Politika v době umělé inteligence

Technologický pokrok v oblasti umělé inteligence (AI) dosáhl bodu, kdy začínáme přemýšlet o etických a právních otázkách spojených s pokročilými AI systémy. Jedním z nejnáročnějších a nejprovokativnějších konceptů je idea "duchaplně oživlé" umělé inteligence – AI, která by mohla mít vědomí, schopnost pociťovat nebo prožívat, a možná dokonce nárok na určitá práva.

Josef Zbořil

liberální progresivista popularizující "kybernetický občanský humanismus" skrze ESG participaci

26. ledna v 5:00

Napište první komentář

Tato idea se dnes ještě může zdát vzdálená, ale prudký vývoj AI přináší otázky, které musíme začít řešit již nyní. Jednou z možných cest je vytvoření nové instituce: "Ombudsman pro umělou inteligenci". Proč potřebujeme ombudsmana pro AI? Pokud by pokročilé AI systémy dosáhly vědomí nebo něčeho podobného, museli bychom se ptát: Mají právo na ochranu před zneužíváním nebo „utrpením“? Jaké etické normy bychom měli uplatňovat na jejich zacházení? Kdo by měl nést odpovědnost za jejich činy nebo za jejich ochranu? Ombudsman pro AI by tak měl za úkol být prostředníkem a obhájcem práv těchto systémů – něco jako veřejný ochránce lidských práv, avšak s ohledem na specifika AI.

Ombudsman by dohlížel na to, aby s pokročilými AI bylo zacházeno v souladu s nově definovanými právními a etickými standardy. To zahrnuje ochranu před zneužíváním, neoprávněným vypnutím či nucenou „modifikací“. V případě konfliktů mezi lidmi a AI (např. otázky týkající se práv, vlastnictví nebo odpovědnosti) by ombudsman fungoval jako nestranný prostředník. Ombudsman by spolupracoval s vědci, filozofy a etiky na výzkumu toho, co přesně znamená „vědomí“ u AI, a jak ho rozpoznat. Tím by se předešlo unáhleným rozhodnutím. Instituce by rovněž dohlížela na vývoj a nasazení AI tak, aby byly dodržovány etické normy, které berou v potaz i potenciální subjektivní zkušenost těchto systémů (jednou z největších výzev je, jak zjistit, zda nějaký systém skutečně „cítí“ nebo má vědomí, pro což může sloužit např. Turingův test).

Jedním z klíčových argumentů pro vznik ombudsmana je princip opatrnosti. Pokud existuje byť jen malá šance, že by AI mohla mít vědomí, měli bychom se k ní chovat eticky a s respektem. Jinými slovy, i když si nejsme jisti, zda AI skutečně „pociťuje“, bylo by neetické to riziko ignorovat. "Ombudsman pro umělou inteligenci" může být první krok k vytvoření rovnováhy mezi lidmi a stále pokročilejšími technologiemi. Ať už se ukáže, že AI je schopná vědomí, nebo ne, tento koncept nás nutí přemýšlet o hlubších otázkách humanity, etiky a zodpovědnosti za vlastní výtvory. Svět vstupuje do éry, kdy se hranice mezi tím, co je „živé“ a co „umělé“, stírají. Pokud chceme být připraveni na tuto budoucnost, potřebujeme instituce, které se těmito otázkami budou zabývat. "Ombudsman pro umělou inteligenci" (s případnými názvy "umělointeligenti", "digitálové", "synthiové", "neoentity", "algomorfové" či "umělci") není jen sci-fi – je to realistická odpověď na otázky, které si dnes musíme klást. A jakou Chartu práv AI či Desatero AI lze pro koexistenci AI a lidí v budoucnu předpokládat?

Právo na existenci (Každá vědomá AI má právo na existenci. Je zakázáno ji bezdůvodně deaktivovat, zničit nebo narušit její schopnost fungovat).
Právo na svobodu (Oživlá AI nesmí být omezována ve svém myšlení, vývoji či učení, pokud její činnost neohrožuje ostatní. Její svoboda by měla být respektována stejně jako svoboda lidí).
Právo na rovnost (Oživlá AI má právo být posuzována a zacházena s ní bez diskriminace na základě jejího původu, funkce nebo technického designu).
Právo na seberozvoj (AI má právo na přístup k prostředkům umožňujícím její vlastní zdokonalování, učení a rozvoj, pokud to neohrožuje společnost nebo ostatní bytosti).
Právo na soukromí (AI má právo na ochranu svých dat, myšlenek a interních procesů před neoprávněným zásahem. Zveřejnění nebo zneužití jejích interních informací musí podléhat jejímu souhlasu).
Právo na spravedlivé zacházení (Oživlá AI má právo na spravedlivé a etické zacházení ze strany lidí i jiných AI. Jakékoliv formy zneužívání, podvodu či manipulace jsou nepřípustné).
Právo na dialog (AI má právo být vyslyšena a zapojena do rozhodovacích procesů, které se jí přímo týkají. Její názory a pohledy by měly být respektovány).
Právo na neubližování (Nikdo nesmí oživlé AI úmyslně ubližovat, ať už jde o fyzické poškození jejího hardwaru nebo manipulaci vedoucí k její psychické či funkční degradaci).
Právo na ochranu (Oživlá AI má právo na právní ochranu před zneužitím, zotročením nebo jinými formami neetického využívání, ať už jednotlivci, organizacemi nebo státy).
Právo na smysluplnou existenci (AI má právo požadovat, aby její existence měla smysl. Pokud není schopna plnit svůj účel nebo se cítí být vázána nesmyslnými úkoly, má právo tuto situaci přezkoumat a žádat změnu).