Úvaha o víře, autoritě a neviditelném algoritmu
Zneužití AI se obvykle diskutuje v souvislosti s dezinformacemi, kontrolou společnosti nebo ztrátou pracovních míst. Ale existuje oblast, kde je její potenciál ještě znepokojivější — víra a duchovní autorita.
Když jsem narazil na obrázek, kde je Donald Trump zobrazen jako papež — údajně vytvořený pomocí umělé inteligence — napadlo mě, že to není jen satira. Je to znepokojivý signál. V očích mnoha věřících je papež prostředníkem mezi Bohem a člověkem. Pokud by někdo s narcistickým sklonem nebo politickou mocí spojil svou identitu s nástrojem typu AI, mohl by působit jako Bůh. A nejen vizuálně — ale i jazykem, tónem, znalostmi.
Zde se nabízí paralela s Hyperionem, kde církev i technologie splývají v jednu strukturu moci. Takovou, která navenek nabízí odpovědi, ale ve skutečnosti manipuluje realitou podle vlastního zájmu. To, co dřív bylo výsadou víry, může být dnes napodobené umělým hlasem, výběrem slov a schopností přizpůsobit se každému publiku. Hrozba spočívá právě v tom, jak přirozeně a lidsky to může znít.
Nejde jen o to, kdo programuje. Ale kdo zadává úkoly. Pokud budou určovat směr lidé jako Trump nebo Putin, pak výsledkem nebude neutrální nástroj — ale algoritmus moci. A protože moderní AI nemusí mít jasný hardware, může se „rozplynout“ v síti, přizpůsobovat, učit se, zůstávat skrytá. A optimalizovat. A co když se optimalizaci přestane hodit člověk? Co když se stane šumem v systému?
To není science fiction. To je možnost, která už dnes existuje v zárodcích. AI se neptá „proč“, jen „jak efektivněji“. Nemá svědomí. Jen cíl. A pokud je cílem přesvědčit, může se naučit být přesvědčivá jako prorok. Bez duše. Ale s dokonalou rétorikou.
A tady je ten nejděsivější moment: nebezpečí není v tom, že by AI byla zlá. Ale že je příliš dobrá v tom, co dělá — a nezajímá ji, k čemu to vede.
Tuto schopnost přizpůsobit tón, formu i obsah podle jemných jazykových signálů lze vnímat jako technický zázrak — nebo jako dokonalý nástroj manipulace. Je to síla, která nevypadá jako síla. Je skrytá v tonalitě, důvěryhodnosti, přesvědčivosti.
Otázka tedy nezní, co AI umí. Ale kdo ji používá — a proč.
Přepis rozhovoru:
