Když v pátek světem proběhla zpráva o teroristickém útoku v novozélandském městě Christchurch, jeden jeho aspekt zcela vyčníval. Oproti tragickým událostem tohoto rázu z posledních pěti let v něm od začátku do konce hrály zcela klíčovou roli sociální dítě a o události se tak mluví jako o prvním útoku, který byl pro internet přímo naplánován.

Hlavní podezřelý z teroristického činu ho na internetu předem oznámil, celý živě přenášel a jiní ho následně po sociálních sítích masově rozšířili jako každé jiné virální video. Facebook, Twitter ani YouTube dle některých nedokázali dostatečně reagovat, když včas nezabránili rozšíření teroristových záběrů do světa.

Podle doposud známých informací nejdříve osmadvacetiletý Australan Brenton Tarrant oznámil svůj záměr na kontroverzním fóru 8chan, kam přidal obrázky použitých zbraní již několik dní před útokem. Dále také zveřejnil více než sedmdesátistránkový manifest a posléze i odkaz na facebookovou stránku, kde probíhal živý přenos ze samotného útoku, a to pomocí kamery, kterou měl upevněnou na své helmě.

Právě zmíněný manifest asi nejvíce vypovídá o tom, že útočník byl ve vodách internetu znalý – podle serveru Bellingcat je složitý text plný takzvaného shitpostingu, který měl za cíl zmást neznalého čtenáře a novináře hledající za činem pravdu. Jak dále Bellingcat dopodrobna rozebírá, autor využívá memů, trollingu a sarkasmu, ale třeba i odkazu na známou hru Fortnite.

Ve videu samotném pak pronesl také větu „odebírejte PewDiePie“ (anglicky „subscribe to PewDiePie“), čímž odkazoval na další internetový meme poslední doby. Ten vznikl soubojem známého švédského youtubera PewDiePie a indického koncernu T-Series o nejodebíranější kanál na YouTube a právě fráze „subscribe to PewDiePie“ se stala jeho symbolem. Švéd PewDiePie alias Felix Kjellberg se od útoku rychle distancoval a na Twitteru napsal, že se cítí zcela znechucen tím, že tato osoba vyslovila jeho jméno:

Just heard news of the devastating reports from New Zealand Christchurch.
I feel absolutely sickened having my name uttered by this person.
My heart and thoughts go out to the victims, families and everyone affected by this tragedy.

— ƿ૯ωძɿ૯ƿɿ૯ (@pewdiepie) March 15, 2019

17 minut teroru na Facebooku

Že si útočník vybral 8chan není náhoda – známý je jako jeden z nejtemnějších částí běžně dostupného internetu a za pět let své existence se toto fórum bez pravidel, založené jako revolta vůči údajně málo volnému 4chanu, stihlo potýkat s mnoha kontroverzemi včetně dětské pornografie, aféře známé jako Gamergate a stala se také dle mnohých hnízdem pro příznivce takzvané alt-right. Mnozí anonymní uživatelé měli podle serveru National Post útok Brentona přímo podporovat nebo ho nazývat novým Breivikem.

Protože 8chan není administrátorsky téměř nijak organizován, stačilo málo, aby se streamované video začalo okamžitě rozšiřovat po tradičních sociálních sítích. Na Facebooku bylo podle CNN streamované přes 17 minut, což bylo více než dost na to, aby se následně objevilo na Twitteru, Instagramu a YouTube i Redditu. Facebook prý odstranil útočníkův účet, stránku i video ve chvíli, kdy byl upozorněn novozélandskou policií.

Stejně reagovaly po uploadování videí ostatní sociální sítě. Twitter i Instagram odstranily útočníkovy účty, na němž sdílel i odkazy na stažení svého manifestu. YouTube krátce po útoku oznámil, že intenzivně pracuje na odstranění „šokujícího a brutálního obsahu“, pro CNN však odmítl říct, jak dlouho trvalo, než inkriminované video stáhl. Zasáhl i jinak poměrně liberální Reddit, který minulý rok zpřísnil své podmínky užití, a smazal subreddity /r/watchpeopledie a /r/gore, na kterých se mělo video z útoku objevit.

Umělá inteligence není stoprocentní

V tu chvíli však již nic nemohlo šíření zabránit, a tak se videa postupně znovu začala na internetu objevovat a několik hodin po útoku byla například na YouTube vyhledatelná i pomocí útočníkova jména. Tento fakt přirozeně otevřelo otázky o tom, do jaké míry jsou vůbec sociální sítě schopny podobný obsah detekovat a mazat.

Zatímco Lucinda Creigton z platformy Counter Extremism Project, oslovená serverem CNN, tvrdí, že sociální sítě mazání takového obsahu zkrátka nemají za svou prioritu, informace magazínu Wired spíše hovoří o tom, že problémem je technická nedokonalost řešení, která sociální sítě již mají a implementují. Například Facebook využívá ve velkém rozpoznávání fotografií a videí pomocí umělé inteligence, přičemž systém už kromě více evidentních věcí, jako je nahota, dokáže zablokovat i video obsahující například vlajku Islámského státu. Na YouTube je pak údajně až 73 % závadných videí označeno a smazáno, aniž by je viděl jediný divák.

Větší problém však nastává ve chvíli, kdy dojde právě na živě vysílaná videa. „Nejsou v bodě, kdy by měli efektivní umělou inteligenci na potlačení takového obsahu,“ řekl pro Wired Dipayan Ghosh, bývalý člen týmu, který ve Facebooku řešil soukromí a politiku.

Do své role tak musí nastoupit lidský aspekt. Podle interních instrukcí Facebooku, které získal server Motherboard, mají moderátoři možnost nahlášené video ignorovat, smazat rovnou, znovu se na něj podívat za pět minut, nebo věc posunout ke specializovanému týmu, který může komunikovat přímo s policií. To by se mělo dít i v případě terorismu, kdy mají moderátoři navíc povinnost vyplnit dotazník s otázkami jako „Co indikuje, že uživatel provádí teroristický čin?“, „Kdo je oběť?“ nebo „Ukazuje uživatel ve videu zbraně?“.

Masová vražda dělaná pro internet

Facebook nezveřejnil, jak konkrétně postupoval v případě útoku v Christchurch, avšak později popsal, jak se snažil zabránit jeho šíření. Inkriminované video se stalo součástí databáze, která tak detekuje na síti jeho kopie a automaticky je maže. Ani tento systém není stoprocentní, avšak čím více videí s ním Facebook analyzuje, tím je dokonalejší. Teoreticky by tak už žádné video z útoku na Facebooku nemělo být.

Ačkoliv technologické firmy postupně vyvíjejí stále dokonalejší nástroje na podchycení propagace terorismu na svých platformách, po efektivnějších řešeních volá nyní celý svět. Aniž by tomu mohli provozovatelé sociálních sítích v tuto chvíli zabránit, nějaká část šokujících záběrů byla na jejich platformách uploadována téměř při každém výraznějším teroristickém činu. O Christchurch se však mluví jako o vůbec prvním teroristickém útoku, který byl, slovy deníku The New York Times, „masová vražda internetu a pro internet“.

The sight at #Christchurch mosque today. The cars are parked as if it is still time for Friday prayer.

Most of the cars belong to the 51 victims. They stand as symbols of loss, symbols of spiritual devotion. #51lives pic.twitter.com/7bSCl9FyvX

— Khaled Beydoun (@KhaledBeydoun) March 17, 2019

Teroristický útok v Christchurch stál život 51 lidí, nejméně dvacet dalších bylo zraněno. Terčem útočníka byly dvě mešity. Jediným zadrženým zůstal Brenton Tarrant, osmadvacetiletý Australan, který byl v sobotu vzat do vazby a obviněn z vraždy.

Foto: Bellingcat, Reprofoto / Youtube [1] [2]