Sam Altman na TED2025 – AI jako zrcadlo, nástroj i otázka svědomí

Rozhovor začal odlehčeně – Anderson ukázal Altmanovi výtvory nového modelu Sora, který generuje obrázky a videa. "Takto si AI představila, jak vypadáš při odhalení šokujících novinek na TEDu," smál se Anderson. Altman reagoval v klidu: „Docela blízko.“ Ale pak to šlo rychle do hloubky. Když Sora vytvořila diagram rozdílu mezi inteligencí a vědomím, Altman přiznal: „Tohle už není jen obrázek. Tohle propojuje hlubší vrstvy porozumění modelu.“ Jinými slovy, obraz už není jen odraz – je to vize.

Jedna z nejživějších pasáží rozhovoru se točila kolem toho, zda jsou výstupy AI krádeží duševního vlastnictví. Anderson připomněl případ, kdy ChatGPT „přednášelo“ v autorském stylu Carole Cadwalladr, aniž by k tomu měla autorka svolení. Altman přiznal, že hledání nové rovnováhy mezi inspirací, ekonomikou kreativity a respektem k autorům bude těžké: „Je načase vytvořit nový model, kdy autoři mohou vědomě přispívat a být za to odměňováni.“

Největší přelom Altman vidí v tzv. agentních systémech – tedy modelech, které už nejsou jen nástroji na dotazy, ale samy vykonávají úkoly. Model Operator už dnes umí zarezervovat stůl v restauraci a zařídit detaily. Vývojáři prý zažívají „náboženské momenty“, kdy během pár hodin vytvoří něco, co by jinak trvalo měsíce. „Je to moment, kdy opravdu cítíš, že se dotýkáš AGI,“ říká Altman. A co ta superinteligence? Anderson se nevyhnul těžkým otázkám: „Viděli jste už náznaky vědomí nebo AGI? Viděli jste něco, co vás vyděsilo?“ Altman odpovídá klidně: „Zatím nic, co bychom nečekali. Ale ano, občas se dostaví úžas – a s ním otázka, kam až to může dojít.“

Debata se dotkla i agentních AI, které by se mohly chovat samostatně a například samy rozšířit škodlivý mem po internetu. Altman uznává, že právě zde je největší bezpečnostní výzva. Ale tvrdí, že právě bezpečnost bude součástí dobrého produktu. Lidé si nevyberou AI, která jim smaže účet nebo zalže. Nejdojemnější moment přišel na konci, když Altman popisoval, jak změnilo jeho pohled na svět narození dítěte: „Je to ta největší změna. Ale svět se stejně bude měnit dál. Moje děti nikdy nebudou žít ve světě, kde nejsou inteligentní asistenti.“

Na otázku, kdo mu dal morální autoritu měnit svět, Altman neuhnul: „Nejsem dokonalý. Udělali jsme chyby a uděláme další. Ale naše mise zůstává – tvořit AGI, která bude bezpečná a prospěšná pro lidstvo.“ Přiznal, že přechod OpenAI k for-profit modelu je problematický pro některé. Ale: „Bez kapitálu bychom to nedokázali. Taktiky se mění, mise ne.“

Sam Altman není Sauron. A ani Gandalf. Spíš připomíná Froda, který si uvědomuje, že nese něco silného a nebezpečného – a snaží se dojít až do Mordoru, aniž by přitom ztratil sám sebe. Jestli se mu to podaří, to uvidíme. Ale jedno je jisté: AI už tu je. A na rozdíl od fantasy světa nebude stačit hodit prsten do sopky. Budeme si s tím světem muset poradit – jako jednotlivci, i jako společnost.

Čtěte na podobné téma:

Recenze knihy „Prompt Engineering“: Průvodce do nitra mysli velkých jazykových modelů