Morgan Freeman jako ukázka nebezpečných možností deepfake videa

Stalo se vám občas, že jste naletěli na nějaké podvržené fotografie nebo nějaké dezinformačnímu zpravodajství? Máte občas problém zorientovat se v tom, jaké zprávě se dá a může věřit, a co je naopak důmyslný podvod? Vítejte v nové realitě: Brzy může být problém uvěřit i kvalitnímu videozáznamu.

To není Morgan Freeman. Podívejte se, jak funguje deepfake singularita

Falešná videa mohou snadno sloužit k šíření dezinformací

Především v posledních dvou třech letech pronikají i do mainstreamového světa ukázky falešných fotografií a videí, která lze velice obtížně odhalit. Vypadají věrohodně, ale jsou uměle vytvořená.

Počítače s umělou inteligencí (AI) a neuronovými sítěmi dnes například dokáží vytvořit dokonalou iluzi fotografie neexistujícího člověka. Vedle toho se začaly objevovat i první případy falešných videí. Obličej známé osobnosti je v nich dodatečně naklíčován na postavu jiného člověka, který je v nějaké choulostivé situaci. Postprodukce je provedena téměř dokonale, takže běžný divák tento podvrh prakticky nerozezná. Školený jedinec snad ano, jenže i on je pouhý člověk. Emocionální šok, který mu podvržené video způsobí, může dočasně zablokovat jeho racionální uvažování.

Diskreditace známé osobnosti, doposud ctěné, vážené a respektované je mezitím už v plném proudu. Část příznivců sice ještě odolává, nicméně spíše z osobních sympatií. Že je snad někde na videu nějaký špatný pixel, máznutý obraz nebo to vypadá, jako by měl dotyčný na ruce šest prstů? Žádný takový argument nemá pro masy diváků, potažmo nepřátele, takovou váhu, aby podvrh deepfake videa přiznali nebo alespoň připustili.

Deepfake videa

Jako deepfake videa jsou označovány obličejové videozáběry, na kterých zobrazené osoby dělají a říkají něco, co ve skutečnosti nikdy nedělaly a nikdy neřekly. Záběry i zvuk vypadají a znějí maximálně realisticky, nikdy ale nebyly takto autenticky nasnímány.

Jedná se o podvodné video (případně audio), vzniklé využitím pokročilého počítačového zpracování dat umělé inteligence. K jeho tvorbě nepotřebujete speciální vybavení hollywoodského tvůrce. Nástroje pro tvorbu deepfake videí jsou čím dál dostupnější.

Technologická singularita

Samozřejmě, zatím je to jen (napůl) fiktivní scénář. Je tu ale někdo, kdo si myslí, že dokonalé úpravy videí se masově změní v něco jiného nežli v deepfake? Doposud k takovému účelu sloužily jen falešné zprávy a upravené fotografie. Nyní přichází bod lomu – technologická singularita v oblasti umělé inteligence. – Nekontrolovatelný a nevratný technologický růst, který v této oblasti zcela překonává veškerou technologii dosud dostupnou lidstvu.


Související články