Tom Cruise je divný. Nejdříve se ukáže, že je vysoce postaveným členem ve scientologické církvi, pak se objeví bizarní vystoupení v talk show Ellen DeGeneres, teď na TikToku zneklidňujícím způsobem hraje golf. A tím teprve začíná – v dalším videu mluví o svém setkání s Michailem Gorbačovem, jinde zase kouzlí a manicky se u toho směje.

Nejdivnější na celé věci je ale fakt, že s natočením videí o golfu, ruském politikovi nebo magii neměl skutečný Tom Cruise vůbec nic společného. Přinejmenším ze začátku ani netušil, že nějaký účet @deeptomcruise na TikToku je. Jeho tvář si totiž velice přesvědčivým způsobem vypůjčil nadšenec do technologie deepfake, který natočil několik videí s imitátorem a podobu slavného herce doplnil až v postprodukci.

Výsledek je na první pohled opravdu velice přesvědčivý, takže ti méně pozorní si vůbec nevšimnou několika snímků s „gumovou tváří“ nebo mírných nesrovnalostí v hlase. Podobné nedostatky jsou pro stále velmi novou technologii typické, její kouzlo ale spočívá v relativní jednoduchosti, s jakou lze dnes vytvořit video takřka s kýmkoliv. I když zdaleka nejde o banální úkon, není potřeba stovek hodin práce nebo desítek animátorů.

Náhled do fungování deepfake nabízí už jeho název, složenina „deep learning“ (hluboké učení) a „fake“ (podvrh). V základu je strojové učení, které detailně analyzuje vlastnosti „zdrojové“ i „cílové“ tváře na co největším množství videí a fotografií. Díky tomu pak dokáže identifikovat dostatek styčných bodů, aby tváře vyměnil.

Kvůli omezením vyplývajícím z dostupného výkonu, sofistikovanosti algoritmů či třeba i malých rozdílů v osvětlení ale vzniká mnoho nedokonalostí a efekt „uncanny valley“. Tímto termínem, do češtiny překládaným jako „tísnivé údolí“, se označuje závislost lidských emocí při vnímání robota s proměnlivou mírou antropomorfismu, tedy podobnosti s člověkem. Proto jsme při pohledu na videa na TikToku chvílemi zmatení z toho, co se s tváří Toma Cruise děje.

Jejich autor, belgický tvůrce digitálních efektů Chris Ume, zdůrazňuje, že vytvořit věrohodnou iluzi pomocí deepfake je pořád náročné. „Nejde to udělat prostým zmáčknutím tlačítka,“ zmiňuje magazínu The Verge. Ume proto spolupracoval se zkušeným imitátorem Milesem Fisherem, který je už tak Tomu Cruisovi dost podobný.

Každý ze čtyř krátkých klipů mu pak zabral týdny práce, když výsledky open-source algoritmu DeepFaceLab vylepšoval pomocí profesionálních grafických programů. Prostřednictvím počítačových efektů a digitální grafiky se tak snažil co nejlépe zakrýt chyby, jež po sobě nechal automatizovaný software.

https://www.youtube.com/watch?v=wq-kmFCrF5Q

Pod pokličku tiktokového projektu dává Ume nahlédnout na svém kanálu na YouTube. Na nekomentovaném videu zde ukazuje původní záběry s Fisherem, nahrazení jeho tváře černým oválem, analýzu tisíců fotografií Toma Cruise i samotnou výměnu. V neupravených klipech jsou okamžitě zřejmé nedokonalosti jako špatný ořez Cruisovy tváře nebo její deformace.

Přes takové limity rozhodně platí, že vytvářet uvěřitelné náhrady tváří je dnes jednodušší než kdy jindy. Na YouTube existuje bezpočet nanejvýš pár let starých příkladů, kdy se fanoušci pokoušejí dorovnat nebo vylepšit práci ve studiových filmech za stovky milionů dolarů. Svoje alternativní verze tak mají scény z Irčana, Tronu: Legacy nebo cameo slavné postavy v Mandalorianovi.

Snad ještě častěji ale můžeme narazit na nahrazování herců jinými. Například si už nemusíme jen představovat, jak by v roli Indiany Jonese vypadal původně zvažovaný Tom Selleck i se svým ikonickým knírem. Elon Musk se zase objevil v kultovním sci-fi 2001: Vesmírná odysea nebo jako soupeř Jeffa Bezose ve Star Treku. Naposledy hrál deepfake zásadní roli v projektu DeepNostalgia, který umožňuje rozpohybovat tváře na starých fotografiích.

Technologie operující s možnou záměnou identity má však důsledky dalece přesahující zábavu. O nebezpečí spojených s deepfake se mluví už od doby, co poprvé pronikla do mainstreamu před několika lety. Nejčastěji se zmiňuje ovlivňování politiky nebo šíření falešných zpráv. Ve skutečnosti se ale její problematický aspekt objevuje nejvíce asi v pornografii.

Kromě sexuálního obsahu s celebritami, jehož autenticitu je snadné zavrhnout, lidé mnohdy vytvářejí pornografická videa se svými kolegy z práce nebo známými. Mimo zjevný cíl uspokojení vlastních fantazií může být samotný fakt jejich publikace označen jako určitý typ sexuálního útoku. Jednak mohou někteří takové klipy mylně považovat za skutečné záznamy, jednak je i s nedůvěryhodným nahrazením tváře spojeno ponižování, ať už záměrné, nebo ne.

Falešný Tom Cruise je naštěstí zcela neškodný a vede nanejvýš k zasmání nad jeho podivným chováním. Účet @deeptomcruise na TikToku si za pár dnů získal stovky tisíc sledujících a přes 10 milionů zhlédnutí. Chris Ume věří, že téměř nikdo nepochybuje o neautenticitě videí a obecně to nepovažuje za velké nebezpečí. „Je to jako Photoshop před dvaceti lety. Lidé nevěděli, co obnáší úpravy fotek, a teď existence podvrhů nikoho nepřekvapuje,“ říká.