Westworld je 1984 pro 21. století. Vyšla nová řada sci-fi, které varuje před vlivem technologií

Jak se z nástroje stane pán. Oceňovaný seriál od HBO započal čtvrtou řadu a opět varuje před závislostí na technologiích.

westworld-hbo-season-4Komentář

Reprofoto: HBO/YouTube

Čtvrtá řada sci-fi Westworld

Westworld je mnoho věcí. Je to seriál s nejsledovanější první řadou na HBO, inteligentní adaptace béčkového sci-fi ze 70. let, jeden z nejsložitěji vyprávěných televizních titulů. Zabývá se tématy jako povaha lidství, existence vědomí, morálka, svoboda vůle či vyprávění příběhů. Nejvíce relevantní je ale jeho zkoumání skutečného i potenciálního vlivu technologií na lidstvo. Na obrazovky právě vstoupila jeho čtvrtá řada. A vzhledem ke komentářům ke kapitalismu dohledu nebo Webu 3.0 se o ní s nadsázkou mluví jako o dokumentu.

Upozornění: Článek obsahuje menší spoilery od první do třetí řady seriálu Westworld.

Základní námět Westworldu je jednoduchý a vychází z téměř padesátiletého sci-fi filmu se stejným názvem. V budoucnosti vznikl unikátní zábavní park, jehož bohatí návštěvníci mohou vstoupit do živoucího divokého západu s městečky, kovboji, pistolníky a podobně. Jelikož postavy v parku jsou androidi, je dovoleno s nimi provádět cokoliv – od každodenní interakce, přes souložení po brutální vraždění – a zažít svobodu, která není jinde možná. Roboti ale nabudou vědomí, uvědomí si své utrpení a chtějí svoje utlačovatele zničit.

Velkolepé sci-fi z pera Jonathana Nolana a Lisy Joy od začátku tematizuje svou vlastní roli v zábavním průmyslu i světě umění. Nezaujatému divákovi nabídne tu nejzákladnější formu eskapismu, v níž nechybí nahota, krvavé násilí, drahé vizuální efekty ani romantické dějové linie. Na odiv ale dává také svou vlastní vykonstruovanost, když svoje publikum častuje dějovými zvraty, složitým systémem hádanek nebo mnoha flashbacky a retrospektivami.

westworld-season-2-evan-rachel-wood-1

Evan Rachel Wood jako androidka Dolores, jedna z hlavních hrdinů seriálu

Rychle se začnou odhalovat také ambice na hlubší analýzu toho, proč nás příběhy táhnou, co od nich očekáváme nebo jak ovlivňují naše každodenní myšlení. Postupně se otevírá celá řada filozofických otázek, na které se zaměřily i akademické publikace. Westworld si díky tomu získal chválu za to, že nepodceňuje svoje publikum a spolu s ním zkoumá mnoho zajímavých témat.

To byl ovšem jen začátek. Ve druhé a třetí řadě se Westworld vzdaluje fascinaci příběhy (kde se bere?), hledání základů lidské morálky (popisuje koncept „člověk člověku vlkem“ realitu?) nebo podstatou lidského vědomí (existuje vůbec?). Čím dál větší roli namísto těchto otázek začne hrát antiutopické poselství, dalece přesahující varování před vzestupem umělé inteligence ve formě uvědomělých vraždících androidů.

Podstatnější je sledování. Za jedno z nejlepších děl, která ukazují využití technologie k ovládání ostatních, se dodnes považuje román 1984 od George Orwella. Autor působící desítky let před vznikem prvního osobního počítače ovšem vůbec netušil, jak bude příchod informační doby vypadat a jak na něj lidé zareagují. Takřka prototypickým orwellovským hrdinou je dnes Edward Snowden, který jako bývalý zaměstnanec agentur NCA a CIA veřejnosti ukázal tajné americké vládní programy na rozsáhlé sledování občanů. Kolik běžných lidí dnes ale vůbec zná jeho jméno, natož ví, co odhalil?

Westworld jako sci-fi se snaží identifikovat současné fenomény a prostřednictvím jejich zveličení či převedením do jiného kontextu prozkoumat, jak fungují nebo k čemu mohou vést. Orwell pozoroval ohýbání reality v totalitních režimech a skrze technologii se ptal, kam až to může vést. Nolan a Joy stejným principem sledují současný vliv informačních technologií ve společnosti.

Ptají se přitom, co je to svobodná vůle. Existují případy, kdy činíme opravdová rozhodnutí, která nejsou jen výsledkem různých více či méně cílených vlivů? Zakladatel parku Westworld Ford (Anthony Hopkins) už v první řadě přirovnává iluzi svobodné vůle androidů k té lidské. Podle něj i my, stejně jako naprogramovaní roboti, denně procházíme těmi samými příběhovými smyčkami a málokdy skutečně zpochybňujeme svá rozhodnutí. Westworld má svým návštěvníkům umožnit být opravdu volní a zjistit, kým hluboko v nitru jsou.

Celé je to ale jen velká zástěrka pro skutečné cíle parku, které jsou v přímém rozporu s jeho předkládanými hodnotami. Zatímco lidem slibuje bezprecedentní míru svobody, úzce je sleduje a pomocí získaných dat buduje systém pro jejich kontrolu. Třetí řada Westworldu pak představuje kvantový počítač a umělou inteligenci Rehoboam, která dokáže předvídat chování mas lidí i jednotlivců, manipulovat jimi a vytvářet přesně takovou budoucnost, jakou má zadanou.

Od sledování k manipulaci

Existuje v našem světě něco, co se podobně pod rouškou svobody zvrhlo v přesný opak? Internet. Mezi hlavní přísliby world wide webu patřila demokratizace přístupu k informacím, možnost neomezené komunikace nebo zjednodušení každodenních činností umožňující dělat to, co opravdu chceme, jedním slovem svobodu. Tyto aspekty dnes na povrchu stále platí, ve skutečnosti je ale internet mnohem méně svobodné místo, než si mnozí uvědomují.

Vyhnout se sledování na internetu je nemožné bez extrémních opatření jako používání prohlížeče Tor, temného webu, VPN bez jakékoliv vazby na firemní partnery či státní orgány a podobně. I když explicitně nepoužíváme služby Googlu, Facebooku a dalších, jejich trackery jsou stále na webech, které navštěvujeme. Existuje jich mnoho různých druhů a naprostá většina uživatelů o většině z nich vůbec neví.

Nejen každé vyhledávání, výběr výsledku, nákup nebo „olajkování“, ale každé kliknutí či pohyb na stránce se automaticky zaznamenává. Získávají se detailní informace o poloze a vlastnostech počítače, odhady povolání uživatele, jeho příjmové skupiny, zájmů, věku, zdravotního stavu, momentálního psychického rozpoložení. Pro každého vzniká detailní profil, z něhož se vyvozují důsledky a mechanismy fungování webů, softwaru, produktů a tak dále.

Zdaleka to ale nekončí v online světě. Dnes žijeme v době internetu věcí, kdy jsou k wifi připojené televize, chytré reproduktory, chytré zvonky nahrávající video i obraz, dokonce žárovky, ledničky nebo lahve od vína. Každé z těchto užitečných zařízení sbírá data, která pak slouží mnoha různým účelům. A uživatelé o tom většinou nemají nejmenší tušení.

Například chytré zvonky přitom slibují snížit kriminalitu, ale pouze zvyšují paranoiu a podezírání sousedů z nekalé činnosti. A díky strachu o bezpečnost jejich výrobce dále vydělávají prodejem zařízení a utajovanou spoluprací s bezpečnostními složkami, jak se to v roce 2019 ukázalo u firmy Ring.

Jak popisuje Vice, kolem roku 2003 výzkumná agentura amerického ministerstva obrany (DARPA) testovala systém LifeLog, sestávající ze zaznamenávání každého detailu v životě člověka. Program selhal kvůli obavám o masivní narušování soukromí a nebezpečí zneužití. Dnes se jeho tvůrci podivují nad tím, jak lidé velkou část jeho složek přijali dobrovolně ze strany technologických firem.

Kapitalismus dohledu

Sociální psycholožka z Harvardu Shoshana Zuboff pro zmíněné trendy v roce 2014 vymyslela souhrnné označení „kapitalismus dohledu“. Velké technologické společnosti jako Microsoft, Google, Amazon, Facebook a další zpočátku ignorovaly data o chování, která vznikala jako vedlejší produkt využívání jejich služeb. Počátkem nového tisíciletí si ale uvědomily, že mohou být využity pro zvýšení efektivity reklamy. A v důsledku toho zvýšení příjmů.

Postupem let se z těžby dat stal obří byznys zasahující všechny kouty internetu a přetékající hluboko do analogového světa. Kapitalismus dohledu tedy označuje současný stav, kdy jsme neustále sledováni a ze získaných dat se stává cenná komodita. Podle Zuboff v rámci tohoto systému nastal obrat k instrumentarismu, který označuje přímé ovlivňování lidského chování pomocí chytrých zařízení a služeb pro dosažení specifického výsledku. Jako v Westworldu.

westworld-season-2-ed-harris-1

Foto: HBO

Ed Harris jako Muž v černém hledá pravdu za extrémním násilím

Skutečné nástroje samozřejmě nejsou zdaleka natolik sofistikované, aby dokázaly detailně predikovat a ovlivňovat chování jednotlivců a davů. Mnohdy docházejí ke směšně nepřesným závěrům. Například skandál kolem firmy Cambridge Analytica nicméně demonstroval, že už dnes lze velice efektivně ovlivnit i výsledky voleb. Bude přitom velice náročné zodpovědět, do jaké míry je morálně akceptovatelné data podobným způsobem využít – Westworld nám zatím odpověď nedal a skutečné firmy se, zdá se, vůbec neptají.

„Je nepopiratelné, že naše volby jsou silně ovlivněné externími faktory, teď se ale nitky osudu neustále vzdalují naším očím,“ řekla Joy v rozhovoru pro Variety s odkazem na starořecká dramata, v nichž bohové tahali za nitky osudů lidí. „Teď už ty pohyby rukou vůbec nevidíte, takže ani nevíte, za kterou nitku se tahá,“ dodala.

Mohla by mluvit o svém seriálu nebo také o realitě, která mu není zase tolik vzdálená. Podobně jako to Orwell dělal ve 40. letech minulého století nebo Matrix na přelomu tisíciletí, Westworld si představuje, jak by mohl svět vypadat, ne když se poddáme našim horším stránkám, ale možná také když budeme jen tak přihlížet. Seriál se proto sám snaží překračovat hranice pouhé zábavy a vyzvat publikum, aby se skrze něj zamyslelo nad každodenní realitou. Možná o ní začneme pochybovat.

Tomáš Chlebek

Student filozofie a filmových studií, fanoušek vědy, umění a moderních technologií.

Student filozofie a filmových studií, fanoušek vědy, umění a moderních technologií.