Americká vláda v pátek nařídila společnosti Anthropic, aby okamžitě zamezila přístupu k jejím nejpokročilejším modelům umělé inteligence Fable 5 a Mythos 5 všem cizincům, a to včetně těch, kteří momentálně legálně žijí na území Spojených států. Toto drastické omezení dopadá i na samotné zaměstnance Anthropicu, kteří nemají americké občanství. Vládní nařízení přitom přišlo bez bližšího upřesnění důvodů. Vzhledem k tomu, že firma nedokáže toto omezení uplatnit selektivně, vypla oba jazykové modely pro všechny uživatele po celém světě. Stalo se tak jen několik málo dní poté, co byl model Fable 5 oficiálně uvedený na trh.

Společnost ve svém oficiálním prohlášení upřesnila, že dopis s příkazem k okamžitému stažení novinky z trhu obdržela v pět hodin odpoledne washingtonského času a jediným praktickým způsobem, jak okamžitě zajistit plný soulad s tímto nařízením, bylo vypnout modely pro úplně každého uživatele. Ostatní, méně pokročilé modely z dílny Anthropicu ale zůstávají – prozatím – normálně dostupné.

Podle deníku The New York Times dorazil tento striktní zákaz z ministerstva obchodu, což listu potvrdil anonymní zdroj obeznámený s celou situací. V současné chvíli není vůbec jasné, jak dlouho mají tato omezení platit. Deník však upozorňuje, že vládní nařízení je nezvykle široké a teoreticky by mohlo zablokovat práci na těchto modelech i těm zaměstnancům Anthropicu, kteří jsou občany klíčových spojeneckých zemí, jako je Kanada nebo Velká Británie.

Že má situace okamžitý a reálný dopad na globální trh, ilustruje i zpráva agentury Reuters. Cloudová divize Amazonu AWS totiž v pátek večer uvedla, že ji Anthropic oficiálně požádal o okamžité zrušení přístupu k těmto modelům pro všechny uživatele ve všech regionech. Bývalý úředník Bílého domu Dean Ball, který se v minulosti osobně podílel na vládním akčním plánu pro umělou inteligenci, na sociální síti X poznamenal, že toto nařízení v praxi fakticky znamená, že uživatelé budou muset napříště prokazovat své státní občanství, aby mohli systémy od Anthropicu vůbec spustit.

Proč k tomu došlo, neví ani sama firma

Oficiální vládní zdůvodnění celé akce zůstává velmi mlhavé. Podle vyjádření Anthropicu totiž Washington v dopise nepojmenoval žádnou konkrétní bezpečnostní hrozbu. Firma se na základě textu pouze domnívá, že se vládní orgány obávají existence metody na obejití interních bezpečnostních pojistek, tedy takzvaného jailbreaku. Ten by mohl teoreticky umožnit zneužití modelu Fable 5 k vyhledávání nebezpečných softwarových zranitelností.

Anthropic to ale razantně rozporuje. Podstata údajného vládního obejití podle něj spočívá v pouhém nedorozumění, kdy úřady považují za nebezpečný hackerský trik to, že uživatel model pouze požádal o analýzu kódu a opravu softwarových chyb. To je přitom naprosto standardní činnost, kterou denně vykonávají počítačoví obránci po celém světě, aby naopak globální systémy před skutečnými hrozbami chránili.

„Nesouhlasíme s tím, že nález úzkého potenciálního jailbreaku by měl být legitimním důvodem ke stažení komerčního modelu, který byl bezpečný a dostupný stovkám milionů lidí,“ uvedla firma ve svém oficiálním prohlášení.

Kdyby se totiž takto přísný standard uplatnil plošně napříč celým technologickým odvětvím, podle společnosti by to fakticky zastavilo veškeré příští nasazování nových modelů u všech předních světových poskytovatelů. Zcela odlišný pohled však nabídla ředitelka pro informační technologie Pentagonu Kirsten Daviesová. Ta na sociální síti X v návaznosti na situaci stroze uvedla, že ministerstvo obrany tímto radikálním krokem zkrátka upřednostnilo národní bezpečnost před zájmy korporací.

Příliš mocné pro běžné lidi

Aby byl celý tento bezprecedentní spor srozumitelný, je dobré ve zkratce připomenout, čím Fable 5 vlastně je. Model je ve skutečnosti už od počátku výrazně přiškrcenou a omezenou verzí ještě mnohem schopnějšího softwaru Claude Mythos 5. Tento ultimátní systém mohou v současnosti využívat výhradně prověření partneři firmy z oblasti kritické infrastruktury, státní obrany a elitní kybernetické bezpečnosti, a to v rámci přísně utajovaného programu s názvem Project Glasswing.

K rozhodnutí, že se Mythos 5 nesmí za žádných okolností dostat do rukou široké veřejnosti, došlo podle serveru CNBC letos v dubnu. První interní testovací verze totiž ukázala až děsivé schopnosti při autonomním vyhledávání a zneužívání softwarových zranitelností. Model dokázal zcela samostatně a bleskově procházet gigantické zdrojové kódy, nacházet skrytá slabá místa a okamžitě navrhovat způsoby, jak jich zneužít k útoku, což překonávalo všechny dosud běžně dostupné nástroje umělé inteligence.

Právě proto byl veřejný Fable 5 od začátku vybaven mimořádně agresivními bezpečnostními filtry. V citlivých oblastech, jako je ofenzivní kyberbezpečnost, biologie, chemie nebo jaderná fyzika, model uživatelům zkrátka striktně odmítal odpovídat na otázky a rozhraní chatbota uživatele při takovém pokusu automaticky potichu přepnulo na starší a bezpečnější model Opus 4.8.

Sám Anthropic systém Mythos interně označoval za příliš mocný na to, aby ho kdy mohl bez obav vydat. To sice podle některých skeptických kritiků mohla být jen šikovná marketingová póza na zvýšení exkluzivity, nicméně experti citovaní agenturou Reuters varují, že modely třídy Mythos by v nesprávných rukou mohly dramaticky urychlit vývoj sofistikovaných kybernetických útoků. Ohroženy by byly zejména konzervativní sektory jako globální bankovnictví, které dodnes stojí na nesmírně složitých, vzájemně propojených a často i desítky let starých systémech.

Sporu předcházely neshody s Pentagonem

V tomto roce je to už podruhé, co si administrativa Donalda Trumpa vzala technologický Anthropic na mušku. Už dříve se totiž vztah firmy s federální vládou rozpadl poté, co vedení Anthropicu odmítlo povolit americké armádě používat své modely k masovému dohledu nad americkými občany a jako softwarový mozek, který by se stal přímou součástí plně autonomních zbraňových systémů.

Vláda tehdy na nekompromisní stanovisko společnosti reagovala tím, že Anthropic oficiálně zařadila na černou listinu dodavatelského řetězce, přičemž tento zákaz má vejít v platnost později v průběhu letošního roku.

Stanice BBC tuto vládní designaci popisuje jako vůbec první historický případ, kdy čistě americká technologická firma veřejně dostala cejch hrozby pro dodavatelský řetězec, což v praxi znamená, že její nástroje či služby nejsou považovány za dostatečně bezpečné pro vládní a státní účely. Historicky přitom bylo takto závažné označení striktně vyhrazeno pouze pochybným firmám z vysloveně nepřátelských cizích zemí.