Jestli si pamatujete na systém Skynet z filmového Terminátora nebo na zápletky poslední bondovky či Mission: Impossible, nedávné oznámení společnosti Anthropic vás nepřekvapí. Tvůrce populárního jazykového modelu Claude, který šlape na paty známějšímu OpenAI, totiž vyvinul tak výkonný nástroj, že údajně dokáže sám nacházet chyby v operačních systémech a napadat je. Vlastně jde o kybernetickou zbraň, která ale prozatím zůstane v trezoru. Tak trochu.

Nástroj, o kterém je řeč, nese název Claude Mythos Preview a Anthropic ho popsal jako obecný model, který ale zatím nebude veřejně dostupný. Důvod je jednoduchý: během vývoje se prý ukázalo, že Mythos dosáhl takové úrovně v práci s kódem, že dokáže nacházet a zneužívat bezpečnostní skuliny lépe než kdokoli jiný. Nebo cokoli jiného. Za posledních několik týdnů podle oznámení společnosti model autonomně identifikoval tisíce dosud neznámých kritických chyb: „Našel je v každém větším operačním systému a v každém významném webovém prohlížeči.“

Mythos například odhalil 27 let starou zranitelnost v systému OpenBSD – operačním systému proslulém bezpečností, který pohání firewally po celém světě. Útočník skrze ni mohl vzdáleně shodit jakýkoli stroj pouhým připojením k síti. V jiném případě model našel 16 let starou chybu v knihovně FFmpeg, která se používá pro zpracování videa, a to v řádku kódu, který automatizované testy prošly opakovaně bez jediného varování. Model přitom pracoval zcela samostatně, bez lidského navádění.

Anthropic na to zareagoval spuštěním projektu Glasswing. Jde o konsorcium, do něhož přizval Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidii a Palo Alto Networks. Tedy největší technologické hráče světa. Cílem je využít Mythos Preview, potenciálně ničivou zbraň, výhradně k obraně. Partneři dostanou přístup k modelu, aby mohli skenovat vlastní systémy a záplatovat chyby dřív, než se k nim dostanou útočníci. To je totiž předpoklad většiny AI expertů: že je jen otázkou času, kdy se tyto technologie dostanou do rukou takzvaných bad actors.

Vlivný americký publicista Thomas Friedman napsal v komentáři pro deník The New York Times, že podle jeho zdrojů už aktuální zjištění řeší i americká vláda, protože mohou mít dalekosáhlé následky. A připomíná, že končí éra, kdy schopnost provádět sofistikované kyberútoky byla výsadou jen velkých států, armád a dobře financovaných kriminálních organizací.

Foto: Anthropic

Spoluzakladatelé Anthropicu Dario Amodei (CEO) a Daniela Amodei

Mythos podle něj tuto rovnováhu boří, což Friedman ilustroval, samozřejmě s nadsázkou, na příkladu z podle něj ne moc daleké budoucnosti. V té se rodiče před večeří zeptají svých dětí, jaký měly den. A dozví se, že s kamarády jen tak mimochodem vyřadily z provozu elektrickou síť. Je to svého druhu přehánění, ale i paralela symbolizující, jak rychle se schopnosti AI posouvají.

A podobně rychle roste i byznys Anthropicu. Ten vstupoval do závodů o průlom v umělé inteligenci později než OpenAI, z nějž jeho zakladatelé v čele s Dariem Amodeiem odešli. Anthropic tento týden oznámil, že jeho předpokládané roční příjmy přesáhnou 30 miliard dolarů (asi 625 miliard korun) – ovšem ještě na konci roku 2025 interní odhady uváděly devět miliard a před měsícem to bylo 14 miliard dolarů. Je zjevné, že společnost, která na rozdíl od OpenAI cílí se svým chatbotem Claude na firmy, a nikoli na retailové uživatele, velmi dynamicky roste.

Podle informací serveru The Information firma s největší pravděpodobností předstihla OpenAI, jehož takzvané anualizované příjmy se ke konci února pohybovaly okolo 25 miliard dolarů (v přepočtu 521 miliard korun). Počet firemních zákazníků utrácejících více než milion dolarů ročně se za méně než dva měsíce zdvojnásobil na více než tisíc. Společnost očekává, že příští rok už bude provozně v plusu, OpenAI totéž odhaduje až na rok 2030. Anthropic zároveň utrácí mnohem méně za trénování svých modelů.

P.S.: I s přípravou tohoto článku vypomáhal Claude od Anthropicu.