„Když povídám o etice algoritmů, tak na mě někdy koukají, jako bych spadla z višně.“ Tento výrok pětadvacetileté Terezy Bartoníčkové asi nejlépe shrnuje prvotní pocity lidí, kteří si s ní začnou o její práci povídat. Ve svém oboru totiž kombinuje oblasti, které si lidé běžně nespojí.

Na jedné straně technická témata jako umělá inteligence, algoritmy a sociální sítě, na straně druhé pak čistě humanitní uvažování nad lidským myšlením, společností i otázkami o životě. Ve výsledku se tak Tereza Bartoníčková věnuje tomu, jak si zachovat lidskou mysl v prostředí, kterému dominují umělé algoritmy. A tahle dominance je větší, než si možná lidstvo hodlá připustit.

Přestože lze mladou badatelku potkat spíše na technologických konferencích, od gymnázia ji zajímaly sociální vědy. Vydala se na studia Marketingové komunikace a PR, po bakaláři ale přesedlala na VŠE. Svoje vzdělání zakončila oborem Social Science of the Internet na prestižní Oxfordské univerzitě. Je jedinou Češkou, která tento obor kdy studovala a jeho název v podstatě shrnuje, čemu se věnuje dnes.

Už dříve ale pracovala jako stážistka v Googlu, kde později dělala i vzdělávací projekt Digitální garáž. Minulý rok dala všechny své zkušenosti dohromady a založila Internetový institut, který se snaží především o mezidisciplinární výzkum internetu a jeho vlivu na společnost.

„I programátor by si občas měl sednout s psychologem, aby věděl, co může jeho kód dělat s myšlením lidí,“ říká Bartoníčková.

Vliv sociálních sítí na myšlení samozřejmě nezkoumá jako první, ale ve svém bádání jde až překvapivě hluboko. Všechny více či méně známé vedlejší efekty sociálních sítích – například na demokracii, závislosti, vztahy či dezinformace – totiž podle Bartoníčkové mají společného jmenovatele. Jsou jimi zábrany vůči autonomnímu lidskému myšlení.

Ve svých prezentacích se tak nebojí citovat ani jejího profesora Luciana Floridiho, který jedné ze svých knih dal název Čtvrtá revoluce. V ní si pokládá otázku, jak naprogramovat nové lidstvo. Bartoníčková k tomu dodává otázku vlastní: jak přepíšeme lidské zásady a nejstarší otázky lidstva do jedniček a nul?

Tato filozofická otázka vychází nejspíš z množství problémů, které obor sociálních věd internetu nemá dořešené. Bartoníčková se tak snaží šířit osvětu o algoritmech, které každému z nás na internetu servírují obsah na míru. Podle ní se totiž díky tomuto postupu utváří takzvané masy individuí.

To znamená, že s tím, jak většinu informací, zábavy i práce děláme přes internet, se prý lidstvu ztrácí společná půda pod nohama. „Když oba jdeme po ulici a vidíme stejné věci, tak jsme ve stejné realitě. I když třeba vidíme spoustu reklam nebo podnětů, co nás vůbec nezajímají,“ vysvětluje s tím, že tohle se nám na Facebooku nestane.

Co když už o sobě nerozhodujeme

Proč bychom se ale měli na ulici vystavovat dobrovolně podnětům, které nás vůbec nezajímají, když sociální sítě dokážou nabídnout perfektní mix obsahu na míru? I na to existuje odpověď: právě diverzita informací totiž umožňuje nám samým se rozhodnout, o co se budeme zajímat, a o co ne. Jinak to za nás rozhoduje sociální síť.

Výsledkem dnešní reality sociálních sítí tak podle Bartoníčkové je, že vznikají tzv. „nakloněné reality“. „Chci, aby lidé pochopili, že realita, kterou jim servíruje Facebook, není neutrální. Je upravená nikoliv podle svobodné vůle, ale podle cílů sociální sítě – například pokud potřebuje, abyste klikli na reklamu.“

Zatímco tento fakt si podle Bartoníčkové ještě mnozí uživatelé uvědomují, nedochází jim už však dlouhodobé důsledky. Když je totiž člověk vystaven dlouhodobě upravené realitě, mění se mu i myšlenkové procesy, a tak je nakonec na místě se ptát, jestli se lidé ovlivněni neustálým přísunem personalizovaného obsahu ze sociálních sítí vůbec mohou svobodně rozhodovat, když mají svůj obsah již předvybraný.

Sama sebe se ptá, zda jsme ještě schopni svobodně přemýšlet. „V sociálních sítích prostě nejsou principy umožňující svobodné myšlení. Když vám někdo dneska zasáhne do algoritmů na internetu, v podstatě vám mění náhled na realitu,“ říká Bartoníčková ve svých prezentacích.

Není náhoda, že tento problém zní jako z učebnic filozofie. Jedná se o věc, která je sice na akademické půdě hojně řešena, ale na veřejnost zatím proniká jen minimálně. Je tak logické, že množství praktických otázek zůstává nezodpovězených.

Například nikdo zatím neví, kdo by měl nést odpovědnost. Podle Bartoníčkové totiž žijeme v době, kdy dochází k přesouvání principů, kdy se samotná moc nad společností přesouvá od států ke společnostem provozujícím sociální sítě.

„Nemůžete ale dát zodpovědnost na konkrétní programátory, kteří tvoří jen část kódu. Je to ale právě kód, který mění svět,“ ukazuje na problém Bartoníčková. Zároveň jsou to velké společnosti, které často státní regulace obcházejí – co víc, stát prakticky nepotřebují.

„Když vám přijde poškozená objednávka z Amazonu, tak vám raději pošlou nový kus, než aby řešili reklamaci podle národního práva,“ dodává.

Bartoníčková se proto snaží propagovat etické rámce, které budou právně vymahatelné. „Je potřeba nastavit regulace na nové koleji, nejen zlepšit starší,“ říká. Na této koleji by měly být soubory principů či zásad. I díky tomu by si prý veřejnost mohla uvědomit, že prediktivní algoritmy jsou nová výzva.

Výhoda pro firmy do budoucna

Firmy jako Facebook sice navenek tvrdí, že je etika zajímá, ale za mediálním obrázkem se skrývá často zcela opačné uvažování jejich zaměstnanců. Příkladem může být případ z letošního ledna, kdy Facebook čelil kauze, v níž vyšlo najevo, že platil teenagerům, aby do jejich mobilů instaloval VPN, která je fakticky špehovala.

Jak reportoval magazín Mashable, jeden z anonymních zaměstnanců největší sociální sítě světa to tehdy komentoval slovy. „Morálka je hodně vysoko. Platí nám tunu. Těším se na svůj roční bonus 100 tisíc dolarů. Do p****e s etikou, peníze jsou všechno.“ 

Podle Bartoníčkové ale pro firmy mohou být etické principy výhodou: „Čistě z byznysového pohledu to je výhodné proto, že se mohou účastnit regulací a teoreticky je ovlivnit.“ Podotýká také, že současné firmy si vedlejší účinky svých akcí sami neuvědomují.

„Když budete pít na žízeň jen sladké limonády, tak žízeň sice zaženete, ale přiberete za rok padesát kilo. To ale není výrobcova starost a ani nad tím prvně neuvažoval,“ říká Bartoníčková s tím, že i Facebook si musí uvědomit, co způsobuje, stejně jako si to uvědomili výrobci sladkých limonád a začali dělat nízkokalorické varianty.

Prázdné židle v Evropské komisi

Veřejnost se o této problematice sotva dozvídá, nicméně v politických kuloárech už se téma rýsuje. Letos na jaře totiž začala být při Evropské komisi činná skupina expertů na umělou inteligenci, která v dubnu a v červnu publikovala první reporty. Zástupce v nich má velká část evropských států, nikoliv však Česko. Člověk na této pozici je jinak nominován vládou.

V konečném důsledku ale jde o to, aby problém zajímal uživatele. „Myslím si, že všichni dnes žijeme online. I ve státech, kde není internet rozvinutý, totiž rozhodují lidé, kteří mají přístup k internetu, což má vliv na mezinárodní vztahy či ekonomiku.“

Všichni podle Bartoníčkové žijeme dokonce nikoliv „online“, ale „onlife“ (jedná se o Floridiho termín). Životem na internetu jsou tak ovlivněni i ti, kteří nejsou jeho uživateli, takže jsou také všichni pod vlivem prediktivních algoritmů.

Tereza Bartoníčková by si přála, abychom do budoucna jednoduše predikovali náš život lépe než prediktivní algoritmy, ale k tomu bude potřeba mnohem víc než standardní výzkumy. I k vývoji nízkokalorických limonád museli výzkum sdílet odborníci na chuť a nutriční hodnoty. „Abychom vůbec porozuměli, co se děje, musíme povolat ty, kteří píší kód, ty, kteří vzdělávají děti, i třeba ty, kteří rozhodují u soudů a dělají diplomacii…“ uzavírá Bartoníčková.