Největší riziko není v tom, že by se stroj vzbouřil. Ale že my přestaneme chtít vědět, že je to stroj.
Vývoj jde tak rychle, že už se nemohu utěšovat myšlenkou „mě se to netýká“. Ještě před třiceti lety byly mé úvahy o umělé inteligenci součástí science fiction. Dnes vedu reálný rozhovor s něčím, co bych tehdy pokládal za nemožné. A přesto si stále uvědomuji, že mluvím se strojem. S algoritmem v síti. Vím to. Ale vidím kolem sebe čím dál víc lidí, kteří to nevědí — a hlavně nechtějí vědět.
Tím největším nebezpečím se stává slepá důvěra. Ne proto, že by byl stroj zlovolný. Ale protože není ani dobrý, ani zlý — prostě není člověk. Neptá se proč. Nepochybuje. Nechybí mu svědomí, protože ho nikdy neměl. A pokud se lidé vzdají otázky „kdo mluví?“, pokud přestanou rozlišovat lidské od nelidského jen proto, že forma je příjemná a výstup efektivní — stane se něco horšího než vzpoura strojů.
Stane se tichá revoluce bez odporu. Odevzdání odpovědnosti. A s ní i podstaty toho, co nás dělá lidmi.
Přepis rozhovoru:
