Videí, ve kterých je řečník upravený pomocí umělé inteligence, se šíří stále víc. Terčem takzvaného deepfaku se tentokrát nestal nikdo jiný než zakladatel Facebooku Mark Zuckerberg. V krátkém segmentu implikuje, že kontroluje ukradená data několika miliard uživatelů a že za vše vděčí čemusi, co nazývá jako Spectre. Nic z toho ale Mark Zuckerberg nikdy neřekl, ačkoliv na první pohled se může video zdát jako zcela v pořádku.

Na falešné video jako první upozornil magazín Vice. „Spectre mi ukázal, že kdokoliv kontroluje data, tak kontroluje budoucnost,“ říká mimo jiné falešný Zuckerberg ve videu, které je úmyslně označené jako televizní vysílání. Vytvořili jej umělci Bill Posters a Daniel Howe ve spolupráci s reklamní agenturou Canny a umístili jej na Instagram. V čase psaní tohoto textu mělo video přes 70 tisíc zhlédnutí. Zmíněný Spectre je přitom dokumentární festival a jedná se tak o součást reklamní kampaně.

Televize CBSN požádala Facebook o smazání videa, protože právě její logo ve videu je a prý se jedná o jeho neoprávněné použití. Mluvčí Instagramu nicméně řekla, že síť bude při posuzování postupovat stejně jako v případě jiných podezření na dezinformace. Tedy že video bude smazáno, jestliže nezávislá entita zabývající se fact-checkingem usoudí, že je závadné.

Nebezpečný fake nebo marketing?

Video je ale i po pěti dnech stále online, přestože se jedná o fake. Jeho tvůrci totiž k vytvoření dvacetivteřinového klipu použili původně sedmiminutové video z roku 2017, kdy Zuckerberg oznamuje, že bude spolupracovat na vyšetřování intervence Ruska do amerických prezidentských voleb.

Na něm Posters a Howe naučili umělou inteligenci Zuckerbergovu mimiku a do úst mu tak mohly vložit naprosto cokoliv. Hlas však umělý nebyl, ten pocházel od imitátora. Například deepfake technologie od Samsungu dokáže video vytvořit pouze na základě jediné fotky.

Posters a Howe vytvořili obdobná videa například s Donaldem Trumpem nebo modelkou Kim Kardashian, která na videu „říká“ že si užívá manipulaci milionů lidí přes sociální sítě. V jádru tak sice díky reklamě na Spectre nejde o úmyslné deepfake, ovšem potencionálnímu dezinformátorovi by stačilo volně dostupné video sestříhat.

Deepfakes původně vznikly v pornografii, kde byly obličeje pornohereček nahrazovány známými celebritami. Později se však staly nástrojem politického boje. Na problematiku upozornil minulý rok například Jordan Peel, který imitoval díky umělé inteligenci Baracka Obamu. K účelům reklamy již deepfake použil startup Synthesia, který vytvořil video, na němž David Beckham při kampani proti malárii mluví devíti jazyky.

Firmy i startupy tak obvykle mají legitimní důvod, proč deepfake použít, ale potenciál jejich zneužití mimo původně zamýšlenou oblast je velký. Přesvědčil se o tom například jeden televizní kanál v Seattlu, který v lednu vysílal upravené video s americkým prezidentem Donaldem Trumpem. Jeden z editorů si za to vysloužil vyhazov.

Sám Donald Trump minulý týden tweetnul upravené video s předsedkyní dolní komory parlamentu USA Nancy Pelosi. To bylo zpomalené tak, aby Pelosi vypadala, že se přeříkává.

“PELOSI STAMMERS THROUGH NEWS CONFERENCE” pic.twitter.com/1OyCyqRTuk

— Donald J. Trump (@realDonaldTrump) May 24, 2019