Umělá inteligence má nebezpečný potenciál masivně přepisovat dějiny

Je to tak, prostřednictvím AI začíná docházet k čím dál častějšímu rozmělňování společné historické paměti. Zatím jsme na úplném začátku nového nebezpečného fenoménu, jehož negativní důsledky mohou být ale nedozírné. Každopádně platí, že pokud nechcete patřit k těm, kteří jsou podváděni, tohle video je tady pro vás. Podíváme se na to, proč fotografie a videa nikdy nemohly být přesnou kopií skutečnosti, ale v zásadě byly důvěryhodné. Lehce se zmíníme o některých známých i neznámých podvodech. Ale především se budeme věnovat aktuální situaci a falzifikátům, které vznikají s využitím umělé inteligence.

Fotky nebyly přesným odrazem reality

Fotografie byla dlouho vnímána jako „otisk reality“, nicméně nikdy to neplatilo doslova. Objektivní fotografie nikdy neexistovala. Každý snímek je totiž výsledkem výběru objektivu, úhlu pohledu, stínů, světla a následné práce v temné komoře.

Navíc, jak všichni chápeme, skutečná historická realita nikdy nebyla černobílá – v doslovném ani přeneseném významu – takže černobílá fotografie byla svým způsobem vždycky stylizace a umělecká licence. Kvalitní fotograf navíc dokázal i z jinak nudného záběru vykouzlit sugestivní snímek. Pokud ho prezentoval jako umění, bylo to jistě přínosné. Když si ale expresivně nasvícená fotografie našla místo v propagandě, přestala být poctivá i z morálního hlediska.

Dneska můžeme staré černobílé záběry kolorovat, a to je fajn, protože dostávají novou svěžest. Ale úplná realita to taky úplně není. Nicméně pokud nedochází k záměrným falzifikátům, mají fotografie a filmy – z hlediska historické dokumentace – vysokou míru autenticity, fixují naši společnou historickou paměť a jsou také poctivým vzdělávacím materiálem.

Fotografické a filmové podvody v minulosti

Od počátku existence fotografií docházelo vedle nechtěné stylizace občas i k záměrným podvodům, k dodatečným úpravám nebo k retušování, které měly za cíl doložit údajným „autentickým“ záběrem to, co se ve skutečnosti buď nikdy nestalo, nebo se to stalo jinak.

Příkladem budiž třeba některé fotografie z občanské války v USA, jejichž tvůrci aranžovali těla padlých vojáků, aby vytvořili dramatičtější kompozice. Čili nevymysleli si válku ani utrpení, ale fotografovanou scénu trochu esteticky doladili. Známé jsou taky trikové fotografie duchů, jejichž autoři se jimi snažili „dokázat“ existenci posmrtného života. Z technického hlediska šlo o dvojitou expozici a fotomontáž.

Výborně zdokumentované jsou pak případy, kdy historii vizuálně falšovali propagandisté a retušéři například ve službách komunistické ideologie. Zde můžete vidět některé ukázky odstraňování různých bývalých soudruhů, kteří původně stáli vedle Stalina, Gottwalda a dalších potentátů, nicméně později upadli v nemilost, tak proč si jimi hyzdit stranickou propagandu.

Ukázalo se také, že obraz lze k manipulaci mas zneužít i bez dodatečné postprodukce. Stačí správný úhel fotoaparátu nebo kamery a příslušný ideologický komentář, jak to například ve službách nacistické propagandy prokázala filmová režisérka Leni Riefenstahlová, která z obyčejného shromáždění dokázala pro filmové plátno vytvořit téměř sakrální zážitek. Nebyla to lež v obsahu, ale lež ve formě.

Počítačová grafika a online distribuce

Snadná dostupnost kvalitní počítačové grafiky riziko obrazové manipulace ještě víc dynamizovala. Už řadu let před érou AI si mohl praktický každý trochu zkušenější uživatel osobního počítače vytvořit více či méně zdařilou fotografii či video falešné reality. S rozvojem emailové a posléze chatové komunikace se usnadnila i jejich distribuce. V mnoha případech se přitom nemuselo jednat o zlou vůli. Mnohé koláže vznikaly se záměrem pobavit a šířily se jak lavina. Díky mechanismu přeposílání se dosah každého virálního emailu totiž nezvětšuje lineárně, ale exponenciálně, protože každý příjemce se stává potenciálním šiřitelem pro stovky dalších lidí.

Některé původně neškodné falešné fotografie tak záhy opustily původní komunitu a stávaly se nebezpečnými hoaxy. Bez znalosti původního kontextu totiž v řadách široké veřejnosti šířily dezinterpretace.

Na začátku 21. století se takto do širokého oběhu dostala třeba série koláží, které měly dokázat, že na zemi kdysi dávno žili obři a existují pro to prý jednoznačné archeologické nálezy. Naříkám, že obři nežili. Určitě nějací obři žili. Ale fotografie, které se tvářily jako jejich údajné archeologické důkazy, byly jednoznačně podvrhem.

A zajímavé je, že původně vznikly některé z těchto fotomontáží jako žert. Záhy se ale začaly exponenciálně šířit mezi širokou veřejnost. Začaly žít svým vlastním životem s naprosto smyšlenými příběhy. Třeba: Výzkumníci respektované National Geographic Society objevili pozůstatky starověkých obrů! nebo Oficiální archeologické instituce utajují důležitou pravdu! Další fámy se týkaly lokace, odkud ty fotografie vlastně jsou: Turecko, Indie, Mexiko, Čína, Island, Grónsko… Nebo někde úplně jinde?

Falešné „dějiny v obrazech“, které vytváří AI

No a máme tu AI, která celý problém posouvá o úroveň výš. Super dokonalé fiktivní fotografie si může během několika sekund vygenerovat prakticky kdokoli. Už nemusíte mít výkonný počítač, drahý grafický program, nemusíte být zkušený a schopný grafik a nepotřebujete hodiny práce s laděním fotomontáží a pixelů. Generativní AI umožňuje vytvořit jakoby „dobovou“ fotku během sekund a v neomezeném množství. Dovede to i dítě.

Každý, kdo má počítač s grafickou kartou a připojení k internetu může během několika minut vytvářet a šířit tisíce falešných fotek. To je zcela nová situace. Z hlediska rychlosti, dostupnosti i technické kvality.

Navíc AI nevytváří kompozitní snímky, jak se to dělalo v dřevních dobách fotografie během 19. století – třeba známý snímek generála Granta u City Pointu – hlava na cizím těle, jiný terén apod. – nebo portrét Abrahama Lincolna s tělem tehdejšího vicepresidenta J. C. Calhouna. To jsou očividné a primitivní stylizace, byť i na ně se nachytaly miliony lidí.

Nicméně, falešné historické fotografie vygenerované AI jsou od základu vymyšlené, ale od skutečných dobových fotografií mohou prakticky nerozeznatelné. – Nejen proto, že technologie AI se prudce zkvalitňuje a většina postav už opravdu nemá čtyři prsty a přihlouplý výraz obličeje, ale i proto, že lidský mozek prostě není nastaven na to, aby každý ilustrační obrázek nebo videosekvenci zpochybňoval. Naše každodenní procesy jsou založeny na přirozené důvěře, že to, co vidíme, asi takové je.

Samozřejmě, když s nějakým podvrhem někde počítáme, jsme ostražití. S rozsahem vizuálních podnětů ale dochází k otupení. Navíc, dříve či později se ke každému z nás mohou dostat fotografie či videa, která zapadají do našeho subjektivního světonázoru a může být těžké se ubránit tomu jim neuvěřit, když mi ten podvržený obraz vlastně něčím vyhovuje.

A umělá inteligence dnes takto generuje fotky válečných scén, demonstrací nebo rádoby „archivních“ portrétů, které nikdy neexistovaly, ale vizuálně přesně napodobují konkrétní historické epochy. Můžete si pustit fiktivní videozáběry ze staveb pyramid, které samozřejmě pomáhají stavět obři – kdo jiný pochopitelně. Nebo virální videa typu: „jsi v Pompejích těsně před výbuchem“ nebo „jdeš po ulici ve středověku“…

Mimo to se lavinovitě šíří také různorodá falešná videa, která nemají potenciál měnit vnímání historie, ale posouvají práh naší vnímavosti. Fiktivní videa o různých podmořských nestvůrách, která rybáři neznámo kde chytli do svých sítí. Obrovské krakatice, megalodoni, neznámé zrůdy… A nebo poraněná medvíďata, která někdo někde zachrání… A všechno je to fikce, která vedle pobavení obecenstva vylepšuje tvůrčí dovednosti AI a masivně zapleveluje internet jako tzv. „AI slop“ (laciný odpad generovaný AI).

Proč jsou „historická díla“ od AI problematická?

Někdo by mohl říct: A co je na tom špatně? Je přece skvělé, že všichni můžeme vytvářet téměř dokonalé fotografie a videa? Je to zábava!!

Já to taky nikomu nehodlám ani nemohu nic takového zakazovat. S novými technickými možnostmi ale by ale zároveň měla růst i odpovědnost a co určitě roste samo o sobě je riziko zneužití.

I to, co má v zárodku pobavit, se totiž obratem dostává k divákům, kteří jsou v lepším případě zmateni, v horším případě fotografiím a videím s fiktivní prezentací historie uvěří. Někdo sice může namítnout, že z krátkého AI videa si divák zapamatuje víc než z hodiny nudného dějepisu. – A to je určitě pravda. Otázkou je, co v tom videu nebo na té fotografii vlastně je. AI totiž v rádoby dějepisných sekvencích často míchá historické motivy s různými anachronismy, legendami a se senzací. A zadavatel promptu má jen limitované možnosti to ovlivnit. Husitské války pak na AI obrázcích a videích mohou snadno vypadat spíš jak bitva o Středozem J. R. R. Tolkiena nebo něco podobného. Běžný divák řadu nuancí nemusí rozeznat, takže ve finále vnímá komiksovou stylizaci skoro jako seriózní „dokument“.

Uvědomme si totiž, že řada lidí nedokáže rozlišovat ani mezi beletrizovaným historickým románem a seriózním dějepisným výkladem. Prostě jim to splývá.

A jsou tu ještě závažnější rizika než třeba mylná představa o husitské zdroji. Uměle vytvořená videa a fotografie mají negativní dopad na seriózní historiografii a společnou historickou paměť. Všichni totiž tak víme, jak vypadal svět v době našich prarodičů a praprarodičů, protože ho máme fixován v dobových fotografiích a filmech. Vždycky je v tom trochu stylizace, trochu sentimentu, romantiky, černobílého vidění světa a omylu, ale drží se to v určitých mezích.

Spor nejen o autentickou historii holokaustu

Nyní se ale začíná objevovat záplava podvržených historických fotografií a videí, které jsou prakticky nerozeznatelné od skutečných a začínají vyprávět jinou historii, než jaká opravdu proběhla. Vyvolávají zmatek a vytvářejí prostor i pro zpochybňování autentických dobových fotografií a filmových záběrů.

Objevují se třeba falešné, ale hyperrealistické snímky z nacistických koncentračních táborů nebo z gulagů. Podmínky v těchto táborech zobrazují trochu jinak, než jaká byla skutečnost. V detailech i v celkovém kontextu. Vždycky je to nějak deformovaně a podivně estetizovaně. V divákovi tak vznikají mylné pocity a falešná emoční vazba.

Důsledkem toho dochází k relativizaci utrpení, místo aby byly oběti represivních táborů důstojně připomínány. Vzhledem k tomu, že si AI prozatím dává pozor, aby nevytvářela snímky vysloveně naturalistické, mnohé umělé fotografie jakoby z koncentračních táborů vypadají spíš jak nějaké sanatorium než jako místo, kde byli lidé vražděni hladem, mučením, plynem, elektřinou, umrznutím, udušením nebo pseudolékařskými experimenty.

U mladších generací nebo zaujatých konzumentů tak mohou falešné AI záběry posilovat revizionismus, že ty tábory zas nebyly tak hrozné. – Probíhal holokaust tedy opravdu tak, jak se to doposud tvrdilo? Nebo to bylo celé jinak? Co je vlastně pravdivé?

Nebo taková situace: Někdo nalije všechny známé fotografie z atentátu na Heydricha do AI a řekne jí, ať z toho udělá historický film. Film se všemi těmi škrábanci, špatnou ostrostí a nedokonalou expozicí, jak jsme u starých amatérských filmových pásů ze čtyřicátých let zvyklí. Pomůže to k lepšímu pochopení represivní povahy nacismu, Protektorátu Čechy a Morava, k uctění památky obětí heydrichiády? Nebo to bude jen zábava s množstvím faktografických chyb, která se stane základem laické relativizace celé události?

AI dokáže svými falešnými historickými snímky zaplnit nejrůznější „bílá místa“ v naší společné vizuální paměti. Dokáže vytvořit „důkazy“ pro konspirační teorie o pravidelných návštěvách létajících talířů. „Důkazy“ o bitvách, které oficiální historiografie nezná, protože se nikdy nestaly. Vytvoří „důkazy“ o tom, že Gagarin zemřel při utajovaném letu na Měsíc. Vylepší národní dějiny, reinterpretuje historické události, na které by národy raději zapomněly. Když budete v tom správném nastavení, přesvědčí vás umělá inteligence i o tom, že „Elvis žije“.

Fascinace dokonalými falešnými AI snímky podporuje vizuální šum, který může v blízké budoucnosti vytvářet obrovský zmatek. Místo skutečných záběrů je upřednostňována fikce, která z pohledu laika vypadá jako realita. Přinejmenším u části laické veřejnosti se tento rozdíl stírá. Volně dostupné AI grafické nástroje vytvářejí v tomto smyslu – svou nekontrolovatelností a snadnou dostupností – serióznímu bádání, dokumentaci a edukaci spíše medvědí službu.

Tím nechci říci, že všechno na AI je špatně a zakažme ji. To by byl naivní a rigidní pohled. Jisté ale je, že musíme být připraveni na novou realitu. Nacházíme se v bodě, kdy vizuální vjem ztrácí status hodnověrného důkazu. Éra „uvěřím, až uvidím“ v rovině fotografických dokladů se dostává do pozice problematických argumentů, jako jsou například odposlechy.