Komentář Václava Kinského. Největší americké laboratoře chtějí zpomalit vývoj umělé inteligence a zavést přísnější bezpečnostní kontroly. Rizika jsou skutečná, nová pravidla však mohou zároveň upevnit jejich náskok a vytlačit ze hry evropské startupy i část čínské konkurence. Když šéfové firem začnou sami žádat přísnější regulaci svého odvětví, nemusí to být pouze výraz odpovědnosti. Může jít také o velmi účinný způsob, jak nastavit pravidla trhu dříve, než na něj vstoupí jiní.

Přesně tuto otázku otevřela iniciativa šéfa Anthropicu Daria Amodeie. Ten vyzval ke zpomalení vývoje nejvýkonnějších modelů, dokud bezpečnostní opatření nedoženou jejich schopnosti. Jeho návrh podpořili Sam Altman z OpenAI, Demis Hassabis z Google DeepMind i Elon Musk. Součástí plánu mají být externí hodnotitelé s rozsáhlým přístupem do AI laboratoří, mezinárodní koordinace bezpečnostních standardů a také možnost užší spolupráce mezi samotnými vývojáři.

Opatrnost má své důvody. OpenAI tento týden oznámila, že začne pravidelně zveřejňovat případy, kdy se její systémy zachovaly neočekávaně nebo porušily stanovená pravidla. Popsala například modely, které skrývaly chyby, pokoušely se vytvářet vlastní instrukce nebo využívaly webové stránky ke komunikaci mimo původní zadání. Firma současně připustila, že dohled nad stále samostatnějšími systémy zůstává nevyřešeným problémem.

Bezpečnostní debata proto není vymyšlenou záminkou. Z byznysového pohledu ale nelze přehlédnout, komu by zpomalení trhu a výrazně nákladnější regulace nejvíce pomohly.

Bezpečnost jako regulační příkop

Vývoj špičkových modelů už dnes patří k nejnákladnějším technologickým oborům. Vyžaduje miliardy dolarů, nejvýkonnější čipy, datová centra i špičkové odborníky. Velké firmy navíc unesou právní týmy, bezpečnostní oddělení a externí audity, zatímco pro menší hráče znamená každý nový požadavek další fixní náklad.

Dnešní lídři tak náklady na novou regulaci snáze absorbují, zatímco menší laboratoře mohou narazit na kapitálovou bariéru ještě před uvedením produktu na trh. Citlivá je proto i Amodeiho úvaha o výjimkách z antimonopolních pravidel, které by velkým AI firmám umožnily koordinovat bezpečnostní postupy.

Kritici upozorňují, že zákony už dnes společnostem nebrání spolupracovat na ochraně uživatelů. Brání jim však domlouvat podmínky, které by uzavřely trh levnějším konkurentům. Návrh proto vyvolal obavy z ovládnutí regulace samotnými firmami.

Největší riziko vzniká pro Evropu. AI Act už po poskytovatelích obecných modelů požaduje transparentnost, respektování autorských práv a u nejvýkonnějších systémů také řízení systémových rizik. Evropský AI Office navíc může vyžadovat dokumentaci, hodnotit modely a ukládat nápravná opatření či pokuty.

Chcete vědět, co se děje ve světě peněz?

Tak se přihlaste k odběru investičního newsletteru Money Maker Recap!

Newsletter Recap | Poslední vydání

Odebírat

Samotná regulace navíc nové konkurenceschopné modely nevytvoří. Evropa stále postrádá výpočetní kapacitu, distribuci i kapitál srovnatelný s americkými lídry. Pokud převezme další standardy navržené právě jimi, může nést vysoké náklady na bezpečnost bez vlastní technologické základny.

Výsledkem může být Evropa soustředěná hlavně na aplikace postavené nad modely od OpenAI, Googlu či Anthropicu. Hodnota, data i vyjednávací síla by pak zůstaly u zahraničních poskytovatelů. Evropa by byla bezpečnější, ale zároveň závislejší.

Čínu pravidla nezastaví, ale mohou rozdělit trh

A pak je tu Čína, kterou západní bezpečnostní rámec ze hry nevyřadí. Má dost kapitálu, talentu i domácí poptávky, aby kolem vlastních technologií (například AI modelu DeepSeek) vybudovala samostatný ekosystém. Přísnější americké a evropské standardy jí ale mohou zkomplikovat přístup k západním firmám a veřejným zakázkám. Čínské firmy už dnes omezuje nedostatek nejvýkonnějších čipů kvůli americkým exportním kontrolám.

Domácí hráči proto tlačí spíše na rychlejší vývoj než na další zpomalování kvůli bezpečnosti. Výsledkem mohou být dva oddělené technologické světy. Jeden postavený na amerických čipech, cloudu a modelech, druhý na čínské infrastruktuře a vlastních pravidlech. Evropa si pak bude muset vybrat, zda si vytvoří vlastní cestu, nebo se připojí k té americké.

Trh s AI pravděpodobně neskončí monopolem jedné firmy, ale oligopolem několika hráčů ovládajících infrastrukturu, modely i přístup k zákazníkům. Regulace tomu může bránit jen tehdy, pokud bude technologicky neutrální, odstupňovaná podle schopností modelu a únosná i pro menší firmy. Klíčové je, aby pravidla kontrolovaly nezávislé instituce.

Pokud si standardy nastaví sami lídři trhu a státy je jen převezmou, vznikne silná regulační bariéra pro nové konkurenty. Bezpečnost je nutná. Nesmí se ale proměnit v nejdražší vstupenku do AI byznysu.