Naklonovaný hlas vylákal z banky přes dvě miliardy. Mladý Čech ze Stanfordu chce podobné podvody zastavit
Z podvodů s umělou inteligencí se stává byznys. Nástroj, na němž se podílel mladý český vědec, má tyto podvrhy odhalit dřív, než uživatele ohrozí.
Baví vás články CzechCrunche?
Vídejte je na Googlu častěji.
Dvaadvacetiletý Matyáš Boháček patří mezi výrazné mladé české vědce v oblasti AI. Umělou inteligenci zkoumá na Stanfordově univerzitě a věnoval se také odhalování falešných videí a hlasů s odborníky z Berkeley a během stáže v Googlu. A teď znalosti převádí do praxe. Technologie jeho startupu Synhawk, který vede CEO Lukáš Foral, má lidem i firmám pomoci poznat, zda hlas, video, fotka nebo faktura nejsou podvrh.
Takový nástroj podle Boháčka dnes potřebuje prakticky každý. „Vygenerovat falešné video nebo obrázek může kdokoli. Zabere to pár minut a nestojí to téměř nic. Většina AI nástrojů, na které člověk na internetu narazí, navíc nemá bezpečnostní mantinely jako modely velkých technologických firem. Tedy dovolí lidem vytvářet i obsah, který mohou zneužít,“ vysvětluje.
Podvody jsou navíc čím dál přesvědčivější. Útočníci dnes zvládnou například vytvořit kopii hlasu nic netušícího člověka a později ji zneužít při telefonickém podfuku na někoho z jeho blízkých. Získat nahrávku potřebnou k naprogramování hlasového klonu přitom není složité. „Zvednete hovor z neznámého čísla a na druhé straně je ticho,“ líčí Boháček. Člověk přirozeně začne zjišťovat, kdo volá a jestli ho slyší. „Těch deset, patnáct vteřin mluvení podvodníkům úplně stačí,“ dodává.
Kam to může vést, ukázala italská kauza z letošního února. Paolu Molesinimu, tehdejšímu předsedovi banky Fideuram ze skupiny Intesa Sanpaolo, přišla zpráva na WhatsAppu, která se tvářila, jako by ji poslal šéf celé skupiny Carlo Messina. Žádala o urychlené převody kvůli transakci v zahraničí.
Pokyn pak po telefonu „potvrdil“ známý advokát z mezinárodní kanceláře, jeho hlas ale podvodníci naklonovali pomocí AI. Z banky odešlo zhruba 95 milionů eur, převážně do Číny a Hongkongu. Víc než polovinu se podařilo zachytit, nejméně 36 milionů eur ale podle vyšetřovatelů zmizelo v kryptoměnách.
Česko bylo podle Boháčka před podvodníky ještě před dvěma lety do značné míry chráněné jazykovou bariérou, protože AI s češtinou zápasila. To už ale neplatí. „Náš jazyk dnes patří mezi ty, které modely v základu zvládají velmi dobře,“ upozorňuje. I proto si teď jeho technologii do svých bezpečnostních systémů vybral Vodafone.
Aplikace, kterou na její bázi postavil, nese název Vodafone Verify a vyjde 22. října pro iOS i Android. Uživatel do ní nasdílí podezřelý obsah, třeba odkaz na video z Instagramu, přeposlanou hlasovou zprávu z WhatsAppu, fotku nebo dokument. Místo verdiktu pravda, nebo lež dostane pravděpodobnostní výsledek s vysvětlením, jaké rizikové znaky aplikace našla. Zákazníci s vybranými tarify, jako je BezLimitu Black, a s většinou firemních tarifů ji dostanou bez příplatku. Ostatní zaplatí 59 korun měsíčně bez DPH.
Kromě falešných obličejů a hlasů má zachytit i textové podvody. Analyzuje přitom jen to, co jí uživatel sám předloží, a telefon tak na pozadí sama neprohledává. A firmy ji mohou využít třeba při posuzování žádostí o platby nebo reklamací. Od běžných detektorů se podle Boháčka liší tím, že nepoužívá zvláštní model na zvuk a jiný na video. „Stojíme na základních modelech, které umějí pracovat s různými typy obsahu,“ vysvětluje. Vzorec podvodu, který systém odhalí ve videu, tak umí využít i při analýze zvuku nebo textu.
Jak spolehlivě funguje v ostrém provozu, ale zatím nikdo nezávisle neověřil. Na červencové prezentaci projektu v Karlových Varech zaznělo, že falešná videa odhalí s úspěšností 99,8 procenta. Na jakých datech se to měřilo a jak často systém označí pravý obsah za podvrh, ale firma podle dostupných informací nezveřejnila. Sám Boháček krotí očekávání. „Nástroje, které vytváříme, nejsou stoprocentní garance nebo nějaký patent na pravdu,“ říká. Cílem je, aby se člověk zarazil a ověřil si věc jinou cestou dřív, než se nedopatřením dostane do nepříjemné situace.
Aplikace pro Vodafone je ovšem jen prvním krokem. Ambice startupu leží v infrastruktuře a během příštího roku má technologie běžet přímo v síti operátora. „Infrastruktura je místo, kde musíme být, pokud chceme komplexní řešení,“ vysvětluje dál Boháček. Lidé by pak nemuseli podezřelé hovory prověřovat sami. Jak má novinka ovšem fungovat na úrovni sítě, aby vše odpovídalo tuzemským pravidlům, je podle vědce ještě pořád tématem diskuse s Českým telekomunikačním úřadem.
Že se na deepfake ovšem může chytit opravdu každý, třeba i vědec, ví Boháček z vlastní zkušenosti. Nedávno mu totiž kamarád v autě pustil novou písničku, Boháček si ničeho nevšiml a ještě ji pochválil. Až asi po čtvrt hodině se dozvěděl, že ji celou vygenerovala umělá inteligence v aplikaci Suno. „Věděl, čemu se věnuji, tak si to na mně vyzkoušel. A i já se nachytal,“ přiznává.
