Člověk v barevném tričku, kterého lidské oko nepřehlédne, může být pro kameru s umělou inteligencí překvapivě těžkým oříškem. Právě na této slabině postavil berlínský umělec Simon Weckert svůj projekt Digital Camouflage. Vytvořil oblečení, jehož vzor dokáže rozhodit počítačové vidění natolik, že člověka přestane označovat jako člověka. Projekt přichází ve chvíli, kdy Berlín v srpnu testuje AI kamery pro dohled nad ulicemi. A také otevírá otázku, jak snadno lze podobné systémy zmást.

AI kamery jsou pilotní projekt berlínské policie, která od srpna na rušném náměstí Kottbusser Tor testuje dohled poháněný umělou inteligencí. A Weckert se rozhodl ukázat, jak zmatená tato technologie může být a vytvořil oblečení, které funguje jako vizuální štít.

Důležité ovšem je, že nešlo přímo o test berlínských policejních kamer. Weckert účinek oblečení předvádí na open-source systému, takže demonstrace ukazuje, že vzor dokáže zmást jeden typ AI detektoru. Nelze z ní automaticky vyvozovat, že stejně zareagují i konkrétní kamery používané berlínskou či jinou policií.

Trik nespočívá v žádné magii, ale v pochopení toho, jak vlastně počítačové vidění funguje. „Systémy AI se skládají z více vrstev a nikdy se nenaučily, co je to člověk. Naučily se, jak lidé vypadají na milionech trénovacích obrázků,“ popisuje pro magazín Dezeen autor myšlenku. „Jde o hrany, kontrasty a gradienty textur, o siluetu hlavy a ramen, proporce končetin vůči trupu… Člověk je pro stroj jen balíček vizuální statistiky, a to je přesně jeho slabina.“ 

Předchozí pokusy, jak oklamat chytré kamery, většinou spoléhaly na pevně natištěné nášivky. Jenže jakmile se člověk pootočil, látka se zkrabatila nebo kamerový systém zabral chodce z jiného úhlu, kouzlo pominulo a algoritmus člověka okamžitě rozeznal.

Foto: Simon Weckert

Speciální potisk rozbíjí statistické vzorce, podle kterých umělá inteligence poznává lidské tělo

Weckert proto přišel s řešením v podobě souvislé textury po celém povrchu oblečení. Divoce působící potisk navrhl paradoxně pomocí speciální generativní AI metody tak, aby látka pokrývala tělo bez přerušení, takže vzor pokračuje hladce i přes knoflíky a švy. Vytváří tak silný vizuální šum z jakéhokoli úhlu pohledu.

„Syté barevné přechody silně rezonují, zatímco překrývající se tvary narušují kontinuitu obrysu těla, takže detektor už nedokáže spojit jednotlivé části do jedné postavy,“ dodal Weckert.

Ačkoliv autor prezentuje projekt především jako konceptuální dílo a vizuální experiment, pro zájemce nezůstává tričko jen teoretickým exponátem na webu. Na oficiálních stránkách umělce si lze tento technologický výstřelek přímo objednat. Finální cena se i s doručením do Česka pohybují okolo 110 dolarů, což je v přepočtu zhruba 2,3 tisíce korun.

Pro Simona Weckerta nejde o první projekt týkající se surveillance technologií. Nejznámějším je dílo z roku 2020, kdy s vozíkem plným 99 chytrých telefonů procházel ulicemi Berlína a v aplikaci Google Maps tím vyvolal falešnou dopravní zácpu. Zelené ulice se v mapě proměnily na červené, přestože v realitě žádný provoz nebyl. Podobně jako u trička tak šlo o demonstraci toho, jak snadno lze algoritmický systém zmást fyzickým zásahem.