Příspěvky či komentáře na sociálních sítích se mohou stále více jevit jako – slušně řečeno – výlev toho nejhoršího, co v lidech je. Jde o prostor velmi náchylný k osobním útokům, dezinformacím, vulgarismům, nenávisti i cílenému spamu. To je pak problematické pro osobnosti nebo značky, které na sociálních sítích vystupují, protože se s takovým obsahem nechtějí spojovat. Bývalý aktivista a manažer sociálních médií Tomáš Halász se proto rozhodl navrhnout software, který bude proti takovému obsahu bojovat automatizovaně. Po více než roce na trhu jeho startup TrollWall hlásí, že kontroluje deset milionů komentářů měsíčně.

„Komunikace značek není jen o několika výstupech v době kampaně,“ vysvětluje pro CzechCrunch Roman Čihalík, jenž v TrollWallu působí jako regionální manažer pro Česko. Firmy běžně na sítích komunikují kontinuálně a na všech platformách, kde vytváří obsah na míru a interagují se zákazníky, kteří sami se stávají jejich ambasadory. „Proto je v dnešní době mnohem více důležitá důvěra, transparentnost a otevřenost. Hodnoty, které jsou podobné mezilidským vztahům,“ pokračuje Čihalík.

Anonymita sociálních sítí na jedné straně přináší možnost svobodného projevu, ale má i stinné stránky. „Nabízí pocit, že jsem nepostižitelný a mohu napsat věci, které bych v osobním kontaktu nebyl schopen říci. Do toho ještě vstupuje neochota samotných platforem s tímto obsahem něco dělat,“ vysvětluje Čihalík. To vede ke stavu, kdy samotné značky musí o to více dbát na vlastní tzv. brand safety.

Z výzkumů totiž vyplývá, že spotřebitelé nechtějí, aby se značky spojovaly s nenávistným nebo vulgárním obsahem. Ukazuje se, že pokud s ním dlouhodobě nic nedělají, zákazníci mají tendenci jejich komunikaci nevěřit, což má vliv i na nákupní chování či třeba vývoj cen akcií. V takovém kontextu Slováka Tomáše Halásze napadla myšlenka na projekt TrollWall, který pomocí umělé inteligence obsah na sociálních sítích hlídá, detekuje a skrývá toxické komentáře – a pomáhá tak ze sítí dělat o něco příjemnější a lepší místo.

Původně Halász řídil diskuze na Facebooku pro různé stránky, kdy například po ruské invazi na Ukrajinu musel mazat stovky nenávistných komentářů. A to ručně, protože neexistovala na trhu neexistovala aplikace, která by to dělala automatizovaně, rozuměla slovenštině či češtině, a navíc by ponechávala správcům sociálních médií plnou kontrolu, aby mohli vidět, co se s komentáři děje v reálném čase.

V začátcích projektu Tomáš Halász oslovil další kamarády z různých oborů. Jedním z nich byl datový vědec Filip Strýčko, jenž dříve na univerzitě v Kodani zkoumal, jak zefektivnit systémy pracující s velkým množstvím dat a své znalosti implementoval i do systémů v rámci poradenských společností Accenture a EY. K nim se připojil Pavol Bujňák, developer a projektový manažer se zkušenostmi s řízením a implementací rozsáhlých mezinárodních IT projektů. Za vývoj umělé inteligence pak odpovídá Tomáš Koctúr, doktorand oboru a advokát etické AI.

Během prvního roku svého působení TrollWall získal i investici téměř třináct milionů korun od fondu CB Espri a na Slovensku zkontroloval přes sedm milionů komentářů, z nichž více než dva miliony toxických skryl. V současnosti již chrání přes 300 profilů včetně českých sítí. Mezi konkrétní jména patřila i prezidentská kancelář Zuzany Čaputové nebo během voleb štáb prezidenta Petra Pavla. V současnosti jde například o Letiště Praha, Českou spořitelnu, Innogy, oficiální účty Policie ČR a Armády ČR, sportovní kluby včetně pořadatele mistrovství světa v hokeji IIHF či médií jako Deník N, Respekt, nebo Český rozhlas

Slovenský projekt podporuje také na tři desítky neziskových organizací včetně Člověka v tísni, Greenpeace, Post Bellum, Romeu a Milion chvilek pro demokracii. První platící klienty má také v Polsku, Rumunsku či v německy, španělsky i anglicky mluvících zemích. TrollWall funguje jako tzv. SaaS (software as a service) produkt s měsíčním předplatným dle počtu profilů, komentářů a dalších doplňkových služeb.

„Naše dosavadní maximum je zpracování téměř pěti tisíc komentářů za hodinu, ale díky škálovatelnosti naše interní testy potvrzují, že v současné architektuře dokážeme bez omezení zpracovat více než sto tisíc komentářů za hodinu s možností navýšení dle potřeby. To vše s rychlostí odezvy na komentář v reálném čase,“ přibližuje Čihalík.

V rámci monitoringu TrollWall v současnosti zpracovává asi deset milionů komentářů měsíčně a provádí i veřejné analýzy. V Česku šlo například o sledování výskytu toxických komentářů po prosincovém útoku na Karlově univerzitě. Při analýze téměř 45 tisíc komentářů bylo asi 6 300, tedy zhruba 14 procent, nenávistných. „Je to obrovské číslo vulgárních, toxických, nenávistných až k násilí schvalujících komentářů. Reálná čísla budou bohužel větší, protože analýza nezachycuje ty komentáře, které administrátoři nebo TrollWall již odstranili,“ popisuje Čihalík.

Nabízí ale i dobré zprávy. „Stejně jako při dlouhodobé analýze slovenských facebookových diskuzí data ukazují, že velké události zvyšují počet komentářů, ale ne nutně procento nenávisti. Naše data a analýzy tuto skutečnost potvrzují i po pokusu o atentát na slovenského premiéra Roberta Fica,“ říká.

Do budoucna v TrollWallu plánují přidávat další podporované jazyky díky vlastní metodice, kdy vývoj umělé inteligence ve startupu probíhá čistě interně, tedy bez použití nástrojů jako ChatGPT od OpenAI a podobných ekvivalentů. Zároveň přidává například i podporu pro další sociální sítě jako YouTube či TikTok. „Cílem je dál expandovat s globálními ambicemi, čemuž pomůže další investice, kterou začínáme navyšovat,“ dodává Čihalík.