Jak bude Claude označovat generované texty? Nálepku AI dostanou, i když jen překládá nebo opravuje

Společnost Anthropic vysvětlila, jak bude fungovat vodoznak přidávaný do generovaných textů. Reaguje tím na otázky, které tento krok vyvolal.

claude-watermark
Foto: CzechCrunch
Claude bude do vygenerovaného textu přidávat vodoznak
0Zobrazit komentáře

Baví vás CzechCrunch?

Vídejte ho na Googlu častěji.

Velké debaty vyvolala na začátku týdne společnost Anthropic, když oznámila, že začne označovat texty, které její umělá inteligence pro uživatele generuje – ovšem neřekla přesně jak. Podrobnější vysvětlení, jak bude fungovat neviditelné značení textů generovaných v aplikacích Claude, nakonec zveřejnila v pátek. Reagovala tím na vlnu spekulací a kritiky. Podle vysvětlení Anthropicu mezi textem s vodoznakem a bez něj neexistuje žádný rozdíl, který by čtenář dokázal postřehnout pouhým okem. To nicméně pro některé uživatele není to nejzásadnější.

Část debaty každopádně vycházela z představy, že vodoznak funguje jako hrubé nahrazování konkrétních písmen či znaků, podobně jako u viditelných vodoznaků na bankovkách nebo fotografiích. Realita je podle Anthropicu jiná. Model Claude generuje text slovo po slově a v řadě případů si při výběru dalšího slova může vybírat mezi několika přibližně stejně vhodnými kandidáty, aniž by to ovlivnilo význam věty – právě tato místa firma využívá k vetkání statistického vzoru do textu.

Jako příklad Anthropic uvádí větu popisující počasí, kde po slovech „bylo chladno a…“ mohou stejně dobře následovat slova „zataženo“ nebo „šedivo“. Namísto náhodného výběru rozhoduje o slovu takzvaný tajný klíč, který firma přirovnává ke sledu číslic čísla pí – vypadá nahodile, ale kdo klíč zná, dokáže zpětně ověřit, zda posloupnost slov odpovídá volbám, které by model s jeho pomocí udělal. „Rozdíl mezi textem s vodoznakem a bez něj nebude pro čtenáře rozeznatelný,“ uvedl Anthropic ve svém podrobném vysvětlení.

Proč to Anthropic dělá?

Právním základem celého kroku je článek 50 evropského AI Actu, který po poskytovatelích systémů umělé inteligence vyžaduje, aby generovaný text, zvuk, obrázky i video šlo tam, kde je to technicky proveditelné, strojově rozpoznat jako produkt AI.

Anthropic povinnost naplňuje podpisem kodexu chování k transparentnosti AI obsahu, k němuž se podle Evropské komise připojily i firmy jako Google, Meta, Microsoft, Mistral nebo OpenAI.

Pravidla od 2. srpna 2026 platí pro nově uváděné modely, pro starší systémy běžící v EU pak Evropská komise stanovila přechodné období do 2. prosince 2026.

Metoda má ale své limity, které Anthropic sám přiznává. Tam, kde existuje jen jedno správné slovo – třeba u faktických údajů nebo většiny programovacího kódu –, nemá vodoznak kde vzniknout. Stejně tak se hůř hledá v krátkých úryvcích textu nebo tam, kde Claude jen lehce opravuje gramatiku v cizím textu, protože většina slov pak pochází od člověka. Čím delší a čím více strojem napsaný text je, tím vyšší je naopak jistota, s jakou lze jeho původ určit.

Dotýká se to přitom šířeji než jen textů, které Claude napíše od nuly. Podle serveru IBTimes může neviditelnou stopu nést i dokument, který si člověk napsal sám a Claude ho jen opravil, přeložil nebo přeformátoval – typicky tiskové zprávy či pracovní texty, kterými denně prochází novináři, marketéři nebo komunikační týmy firem. I proto vysvětlení Anthropicu řadu uživatelů nepřesvědčilo a se zaváděnou novinkou nesouhlasí.

Nastartujte svou kariéru

Více na CzechCrunch Jobs

Podle serveru Business Insider od pondělí přibývaly na síti X desítky příspěvků lidí, kteří kvůli vodoznaku ruší předplatné Claude, a server sám mluvil se čtyřmi z nich, kteří zrušení potvrdili. Mezi nimi byl i americký expert na veřejnou politiku Arturo Villarroya, jenž zrušil předplatné Claude Max a přešel na nástroje Cursor a Grok 4.6, a AI konzultant z Georgie Richard Echols, kterému právě vadí, že se vodoznak objeví i u drobných úprav jeho vlastního textu.

Mezi uživateli, kteří kvůli vodoznaku zrušili předplatné, byl podle Business Insideru i český vývojář na volné noze Vladislav Rajtmajer, jenž Claude využíval pro kontrolu kódu a překlady. Obával se, že by neviditelná značka na dodaném kódu mohla u klientů vyvolat otázky ohledně autorství nebo spustit smluvní sankce. „Je to signál dívat se po čínských poskytovatelích AI a naučit se pracovat s jinými modely,“ řekl serveru Rajtmajer.

Jak funguje vodoznak, který do textu přidá Claude?

  • Princip: Model při generování textu často volí mezi několika slovy, která by významově fungovala stejně dobře. Tajný klíč Anthropicu tato místa nasměruje ke statisticky preferovaným slovům – volba zůstává náhodná, jen zdroj náhodnosti je jiný.
  • Přirovnání: Anthropic princip přirovnává ke hře jako Monopoly, kde by se místo kostek používaly číslice čísla pí – tahy hráčů by stále vypadaly náhodně, ale kdo hodnotu pí zná, dokáže zpětně poznat, že šlo právě o tento zdroj.
  • Kde vodoznak vzniká: Typicky u vět s více rovnocennými pokračováními (např. „počasí bylo chladné a bylo zataženo/šedivo“).
  • Kde vodoznak nevzniká: Tam, kde existuje jen jedna správná odpověď – např. „Paříž je hlavní město…“ může pokračovat jen slovem Francie. Podobně u přesných faktů, matematiky nebo většiny programovacího kódu.
  • Krátké a upravované texty: U krátkých úryvků nebo lehkých korektur cizího textu (např. jen gramatika a interpunkce) je slov zvolených Claude málo, vodoznak proto může být nezjistitelný nebo velmi slabý.
  • Překlady: Pokud Claude text celý přeloží, nese vodoznak, protože každé slovo si v tom případě volí model sám.
  • Rychlost a cena: Podle Anthropicu má vodoznakování na rychlost generování i cenu za token zanedbatelný dopad, protože nevytváří žádné tokeny navíc.
  • Detekce: Vlastní nástroj od Anthropicu umí odpovědět jen na otázku, jak pravděpodobně měl Claude podíl na textu – nepozná, zda zbytek psal člověk, ani neumí rozpoznat vodoznak jiné AI s vlastním klíčem.
  • Soubory/obrázky: U formátů PNG, JPG a SVG jde o jiný mechanismus – kryptograficky podepsaná metadata podle standardu C2PA, která na rozdíl od textového vodoznaku nejsou v souboru skrytá a lze je přečíst běžnými nástroji podporujícími C2PA.
  • Identifikace uživatele: Vodoznak podle Anthropicu neobsahuje žádnou informaci o konkrétním uživateli, organizaci ani konverzaci – nedá se tedy zpětně vystopovat, kdo text vytvořil.
  • Autorství a vlastnictví: Přítomnost vodoznaku podle Anthropicu nijak nemění, komu výstup patří, ani kdo za něj nese odpovědnost – jde čistě o technický indikátor pravděpodobnosti původu.

Dopad na byznys Anthropicu je zatím těžké odhadnout. V září 2025 firma uváděla 300 tisíc firemních zákazníků a od té doby toto číslo podle Business Insideru pravděpodobně výrazně vzrostlo. Ne všichni vodoznak odmítají: spoluzakladatel komunikační agentury The Narrative Company Aadit Sheth na síti X argumentoval, že by čtenáři měli mít možnost poznat, zda slova, která čtou, odrážejí vlastní myšlení dané osoby. Anthropic serveru Business Insider sdělil, že od oznámení vodoznaku nezaznamenal nárůst rušených předplatných.

Přední AI laboratoř, která soupeří především s konkurenčním ChatGPT od OpenAI, zároveň potvrdila, že v následujících měsících zveřejní zdarma dostupné rozhraní pro detekci vodoznaku, s jehož pomocí půjde ověřit pravděpodobnost, že text pochází od Claude. Nepůjde ale o důkaz v pravém slova smyslu. Nástroj podle Anthropicu nedokáže potvrdit, že text psal člověk, ani rozeznat text od jiné umělé inteligence, byť by používala vlastní vodoznak založený na jiném klíči.

Anthropic zároveň zdůrazňuje, že jde o jiný princip než u běžných AI detektorů typu Pangram, které klíč od Anthropicu nemají. Ty se řídí spíš stylistickými zvyky umělé inteligence – třeba tím, že modely podle firmy nadužívají slovo „quietly“ nebo konstrukci „tohle není X, ale Y“. Zatímco takové nástroje jen odhadují pravděpodobnost podle stylu, vodoznak lze ověřit přímo pomocí tajného klíče, což má být podstatně spolehlivější.

Metoda, kterou Anthropic použil, přitom není zcela nová. Vychází z přístupu SynthID-Text, jenž představil Google DeepMind v roce 2024, a stejnou technologii firma dlouhodobě nasazuje i v textech generovaných Gemini. Zůstává tak otevřená otázka, kterou v souvislosti s oznámením zmínil server The Register už dříve: nakolik bude vodoznak odolný vůči jednoduchým obchvatům, jako je přepsání textu vlastními slovy nebo jeho průchod přes OCR, tedy technologii, která dokáže převést text z obrázků nebo fotek na strojově čitelný text.