Hon na čarodějnice v knižním světě. Stačí podezření z AI a autor přijde o smlouvu za miliony
Stačí pár příspěvků na sítích a nakladatel stáhne román. Spisovatelé nahrávají každý úder do klávesnice, ani to je ale nemusí zachránit.
Baví vás články CzechCrunche?
Vídejte je na Googlu častěji.
Hlavní hrdinkou chystaného thrilleru Andrey Bartz je spisovatelka, která zoufale touží po úspěchu. Místo něj ale sklízí jen nevybíravou kritiku. V záchvatu zoufalství a se závistí vůči úspěšnější konkurenci se tak rozhodne pro zkratku, při jejíž představě by se leckterému autorovi zkřivil obličej. Otevře chatbot a požádá ho, aby napodobil její oblíbený thriller.
Vážně to přitom nemyslí. Text z umělé inteligence neplánuje použít a tajně doufá, že s jeho pomocí překoná autorský blok. Když AI dílo dokončí, kolem neúspěšné tvůrkyně zhasnou světla. Když přijde k sobě, je svázaná v kufru jedoucího auta. Přesně tak, jak je tomu v první kapitole díla, které chtěla pomocí umělé inteligence napodobit.
Thriller Delete Your Account má vyjít v roce 2027 a jeho autorka si dnes klade otázku, která by klidně vydala na zápletku dalšího románu. Aby příběh její knihy působil důvěryhodně, musela některé pasáže svého příběhu napsat tak, aby připomínaly výstup jazykového modelu. „Jde o přepisy, které jsem si vymyslela, i otravné marketingové materiály, které znějí jako od AI,“ vyjmenovává pro magazín Wired. Pokud je ovšem některý z detektorů označí za strojově napsané, mohl by to být pro Bartz problém.
Bartz přitom není začínající autorka, které by šlo pochybnosti snadno přičíst. Od roku 2019 vydala pět thrillerů, dostala se na bestsellerový žebříček The New York Times, práva na zfilmování jejích knih si zajistily Netflix a Hulu a jednu z nich doporučil i známý knižní klub herečky Reese Witherspoon.
Ve světě technologií je ovšem její jméno známé z jiného důvodu. Bartz byla hlavní žalobkyní v hromadné žalobě proti Anthropicu, podle níž firma stáhla z pirátských webů miliony knih chráněných autorským právem a trénovala na nich své modely. Anthropic loni souhlasil, že zaplatí 1,5 miliardy dolarů, a tak šlo o dosud největší vyrovnání kvůli autorským právům v dějinách USA.
Kontroverze, která ohrozila celý trh
Zatímco se spisovatelé bránili tomu, aby jim AI firmy braly texty, rostla jim za zády jiná hrozba. Co když z používání umělé inteligence obviní je samotné? Knižní trh to zjistil letos v březnu. Na sociálních sítích se totiž rozšířily spekulace, že hororový román Shy Girl napsala z velké části umělá inteligence, a když o nich napsal The New York Times, nakladatelství Hachette zrušilo chystané vydání v USA. A ve Velké Británii, kde už kniha vyšla, ji záhy přestalo vydávat.
Detektor Pangram, který magazín Wired označuje za poměrně spolehlivý, byť ne neomylný, označil zhruba 78 procent textu za strojově vygenerované. Autorka Mia Ballard to ovšem odmítá. Tvrdí, že do starší verze knihy, kterou vydala vlastním nákladem, zasahoval s pomocí AI její redaktor. Proti obviněním se hodlá bránit právní cestou.
V květnu se podezření dotklo i Jamira Nazira, spisovatele z karibského Trinidadu, jehož povídka The Serpent in the Grove vyhrála karibské kolo prestižní soutěže Commonwealth Short Story Prize. Uživatelé sítí X a Bluesky v ní hledali „zjevné znaky“ AI, profesor Ethan Mollick z Whartonu napsal, že ji Pangram označil za stoprocentně strojovou, a časopis Granta kvůli aféře ukončil dlouholetou dohodu o vydávání vítězných textů. Pořadatelé si proto od autorů vyžádali koncepty, poznámky a dokumenty s časovými razítky. Nazir, který podle svých slov napsal šest nebo sedm verzí příběhu, nakonec porotce přesvědčil a v létě vyhrál celou soutěž.
Hůř dopadl nigerijský debutant Jerry Falade. O jeho detektivku Call Me, I’ll Hide the Body se letos v létě přetahovalo čtrnáct amerických nakladatelů a nabídka vydavatelství Minotaur podle deníku The Guardian přesáhla dva miliony dolarů. Když jeden z redaktorů upozornil na možné stopy AI, Faladeovi agenti rukopis koncem července stáhli s tím, že už nedokážou ověřit, jak vznikal. Falade používání AI také popírá s tím, že obvinění podle něj odrážejí rasové předsudky v knižním byznysu.
Jediné obvinění stačí
Jakmile obvinění zazní, podle Bartz není cesty zpět. „Tak nějak jsem hned cítila, že to povede k honu na čarodějnice,“ vzpomíná na začátek skandálu kolem Shy Girl. Nevyhnutelný příchod AI do knižního světa podle ní povede k tomu, že kdokoli bude moct z používání AI obvinit kohokoli. Autoři se přitom zatím nemají jak bránit. „Neexistuje žádný precedens v tom, jak lidské autorství dokázat,“ upozorňuje.
Tuhle mezeru se snaží zaplnit nové nástroje. Platformy jako Workings, Blindproof, Wintertext či Human Ink slibují, že zaznamenají, jak autor píše. Některé text šifrují a opatřují ho jedinečným otiskem, jiné takto zaznamenávají rytmus psaní na klávesnici. Výsledný záznam má posloužit jako důkaz, když se někdo zeptá, jestli autor nepoužil jazykový model, ale také jako doklad původu, pokud text někdo bez uvedení zdroje stáhne do trénovacích dat.
Profesní organizace Authors Guild žádný z těchto nástrojů přímo nedoporučuje. Chce ale, aby autoři věděli o jejich existenci a mohli po nich sáhnout jako po určité pojistce. Její generální ředitelka Mary Rasenberger má však k celé myšlence výhrady. Považuje za „urážlivé“ a zároveň za „zátěž“, že by si spisovatelé měli schovávat důkazy o tom, že jejich knihy skutečně napsali sami. „Pokud prodáváte svá slova, svůj hlas, svou představivost a kreativitu, nedává použití AI smysl,“ míní.
Víc ji trápí atmosféra nedůvěry a přehnaná víra v detektory, které lze obelstít a které občas označí lidský text za strojový. Pangram sám uvádí, že se to u beletrie stává jen v 0,01 procenta případů. Authors Guild ale podle Rasenberger slyšela o „spoustě případů“, kdy lidé nahráli do Pangramu vlastní text a dozvěděli se, že ho vygenerovala AI.
Nastartujte svou kariéru
Více na CzechCrunch JobsNeprůstřelné nejsou ani nástroje, které sledují samotný proces psaní. Připouští to i spoluzakladatel a šéf Pangramu Max Spero. Jeho firma přitom nabízí vlastní nástroj, který monitoruje, jak uživatelé píší v Google Docs. Podle Spera ho řada lidí považuje za užitečný, ani sledování písemné stopy ale není dokonalým řešením. Text vygenerovaný umělou inteligencí může někdo jednoduše přepsat ručně nebo prohnat automatickým přepisovačem. Navíc ne každý píše tak, jak tyto aplikace očekávají. „Průměrný spisovatel si prostě nesedne a nenaťuká na klávesnici knihu,“ podotýká Spero. Při práci běžně střídá několik souborů, posílá si koncepty tam a zpátky a na cestách si do mobilu nahrává hlasové poznámky. Nic z toho přitom tyto nástroje nedokážou zaznamenat.
Některé programy se nezaměřují na odhalování textů vytvořených pomocí AI, ale na ochranu autorství. Platforma ObraVera například dokáže opatřit text nebo hlasovou nahrávku digitálním otiskem a časovým razítkem. Díky tomu lze doložit, „že tato slova vytvořil v tuto dobu tento člověk“. Zda autor při práci využíval AI, už ale musí uvést sám.
Autorka a expertka na knižní byznys Jane Friedman ve svém newsletteru The Bottom Line nedávno napsala, že éra AI skandálů bude nejspíš krátká, protože se detektory zlepšují a autoři už viděli, co by je čekalo, kdyby text z AI vydávali za vlastní. Agenti a nakladatelé podle ní žádné ověřování nezavedou, natož aby se shodli na společném standardu. „Shodnout se na tom bude oříšek. Pokud cokoli z toho stojí peníze navíc nebo čas navíc, zapomeňte, že by se to zavedlo,“ předpovídá. Autoři by si za klid možná i zaplatili, nemohou ale spoléhat na to, že doklad z té či oné aplikace někdo uzná.
Spisovatelé se tak zatím musí bránit na vlastní pěst. Bartz se ovšem děsí toho, jak horlivě nyní čtenáři reagují na představu, že by je mohla oklamat AI. „Slyšela jsem o lidech, kterým na Goodreads zahltili knihu negativními recenzemi, protože nějakému náhodnému člověku zněla jako AI. A ostatní se pak k lynči přidali,“ líčí.







