Před několika dny prolétla sociálními sítěmi fotografie papeže Františka v bílém neforemném kabátě do mrazů. Lid si z nejvyššího preláta dělal šoufky nebo kolem celé věci rozumoval. Záhy vyšlo najevo, že snímek není skutečný, vytvořila ho umělá inteligence (AI).

Nyní vystoupil Elon Musk, experti na AI, filozofové a profesoři nejrůznějších oborů s výzvou: „Zastavte to, riziko je příliš velké!“ Vývojáři by si měli na půl roku odfouknout. Spolu s vládami by měli pracovat na systému, který jejich výtvor, takového neviditelného Golema, spoutá.

Martin Komárek
Můžou sportovci za činy Vladimira Putina?

Už před tímto varováním bylo zřetelné, že umělá inteligence pravděpodobně změní svět přinejmenším jako vynález kola, knihtisku či parního stroje. Renomovaná společnost Goldman Sachs odhaduje, že AI připraví v Americe a Evropě o práci plnou čtvrtinu zaměstnanců. Bude se to týkat i kvalifikovaných činností. Na dlažbě mohou skončit manažeři, operátoři, pojišťováci, novináři, tvůrci reklam, žurnalisté všeho druhu, část lékařů… Skoro každý bude nějakým způsobem nahraditelný. Jistou existenci mají zatím jen ti, kdo pracují rukama. A to pomýšlíme jen na současný stav vývoje té příšerky. Jenže ona do sebe souká neuvěřitelné kvantum vědomostí, bobtná jako Otesánek a brzy bude kouzlit jako Harry Potter.

A před tím varují mocné a chytré hlavy podepsané pod výzvou. Vezměme si tu papežovu bundu. Není ta Babišova Prada z demonstrace také takzvaný deep fake, dezinformace k nerozeznání? (V tomto případě nikoli, neboť on se k ní hrdě hlásí.) Pokud se však vývoj nezastaví, nastane konec světa, jak ho známe. Nebude možné rozlišit, které zobrazení zachycuje skutečnost a které je výtvorem umělé inteligence. Vezměme to tak: Vyplísníme zlobivé děcko. Za půl hodiny nás bude celý svět sledovat jako pornoherce: Nebude možné žádnými prostředky dokázat, že je to podlá pomsta nedospělce. Leda udělat fakanovi totéž. Vypadá to jako legrace, ale není. Už teď propadá paranoidním teoriím čím dál víc lidí. Když však zmizí realita, zůstane jen paranoia. AI v rukách mocného dezinformátora, třeba Donalda Trumpa, bude neporazitelná.

A co v rukou hackerů? Je to, jako by bytoví zloději získali neviditelnou ruku šmátralku, která se dostane všude a automaticky vezme to nejcennější. Před zločinnou umělou inteligencí budou peníze bezpečné leda ve štrozoku. Je rozumné to zastavit, než bude pozdě.

Martin Komárek
Letní a zimní čas, nebo čas?

Jenže ono podle všeho už pozdě je. Představa, že si společnosti dravě soutěžící o co nejchytřejší AI dají půl roku oraz, je značně utopická. Představa, že se vlády a zákonodárci vyspělých států odhodlají k ráznému činu, je už vyloženě fantaskní. Ale i kdyby. Nebyla by to střela do vlastní nohy? Západ má teď nepochybně náskok. Ale nedohnali by ho za šest měsíců Číňani a Rusové? Nejnebezpečnější bude umělá inteligence, která pomáhá tomu, kdo chce vést válku nebo rozpoutat teror.

Na závěr trochu optimismu. Když začaly létat rakety, vědci předpokládali, že v roce 2020 už lidé poletí za hranice Sluneční soustavy. A budeme rádi, že se dostaneme zase na Měsíc. Bývalá šéfka vývoje umělých inteligencí v Bílém domě Lynne Parkerová tvrdí, že AI je vlastně jen chytřejší papoušek a člověka neohrozí ani nenahradí. Jenže vždy je lepší připravit se na tu horší variantu.