Umělá inteligence, jako každý nástroj, umí vykonat spoustu dobrého, ale i napáchat značnou škodu. Jedním z negativních trendů, které generativní AI uspíšila, je třeba šíření falešných pornografických snímků na sociálních sítích. Tento týden zaplavily platformu X Elona Muska, dříve Twitter, falešné sexuálně laděné obrázky americké zpěvačky Taylor Swift. Kultovní umělkyni však přispěchali na pomoc Swifties, jak se v angličtině říká jejím fanouškům, kteří se šíření snažili zastavit na vlastní pěst.

Poté, co se fingované snímky jedné z nejúspěšnějších zpěvaček současnosti ve středu na sociální síti rozšířily, je moderátoři obsahu na platformě začali mazat. Podle Wall Street Journal ale v dalších dnech stále byly k nalezení, některé s desetitisíci zhlédnutími a rozšířily se i na další sociální sítě.

Fanoušci Taylor Swift, kterou časopis Time vyhlásil osobností roku 2023, proto vzali věci do vlastních rukou a začali moderátorům X ve velkém pomáhat třeba nahlašováním účtů, jež obrázky zveřejňovaly. Ve čtvrtek byl jejich slogan „Chraňte Taylor Swift,“ na platformě jedním z trendů.

Dění si všimli i američtí politici, někteří z nich zopakovali své výzvy, aby úřady zakročily proti zneužívání umělé inteligence a přijaly zákony, které by podobné případy trestaly. K šíření fotek se vyjádřila i mluvčí Bílého domu Karine Jean-Pierre, která ho označila za „alarmující“.

Generativní umělá inteligence tvorbu falešných explicitních snímků významně zjednodušila. Netýká se to ale jen známých celebrit, jako je Taylor Swift. Stále větší problém je to například i ve školách, kde se stává novým nástrojem šikany. Američtí zákonodárci tak v souvislosti s rostoucím počtem případů v zemi nedávno navrhli zákon, který by sdílení digitálně upravených snímků opravdových lidí zakázal, napsal server NBC News.

Obrazové generátory jako DALL-E od OpenAI, Stable Diffusion od Stability AI nebo Midjourney v sobě sice mají zabudované mechanismy, které uživateli nedovolí vygenerovat závadný obsah, opatření ale stále lze obejít, jak upozornil magazín MIT Technology Review.

Nedávný výzkum Stanford Internet Observatory, laboratoře, která se zabývá zneužíváním technologií, jako jsou sociální sítě nebo AI, dokonce ukázal, že některé volně dostupné datové sady, na kterých je trénovaný třeba generátor Stable Diffusion, samy o sobě obsahují snímky zobrazující sexuální zneužívání dětí.

Pravidla sociální sítě X zakazují šíření klamavých a škodlivých médií včetně pornografických snímků bez vědomí zobrazených lidí. Firma je ale nedokáže dostatečně efektivně vymáhat, uvedla pro WSJ Renée DiResta, výzkumnice ze Stanford Internet Observatory.

Platformu X ještě pod názvem Twitter koupil na konci roku 2022 zakladatel Tesly a SpaceX Elon Musk, který začal uvolňovat pravidla ohledně moderace obsahu a propustil tisíce zaměstnanců. Týkalo se to i zhruba třiceti procent pracovníků, kteří se právě nastavováním a vymáháním pravidel zabývali. Jejich počet tak ke květnu 2023 klesl ze zhruba čtyř tisíc na 2 850.