Herečka Selena Gomez se letos nezúčastnila charitativní akce Met Gala. To ale nezabránilo fanouškovi, aby pomocí umělé inteligence vytvořil její falešný snímek v šatech, které zde rok předtím měla jiná umělkyně. Fotka se na Twitteru stala virální a získala více lajků než jakýkoliv reálný model, který se letos objevil na červeném koberci před newyorským Metropolitním muzeem, uvedl módní časopis Elle. Twitter k příspěvku přidal upozornění, že Gomez na akci nebyla. Přesto si obrázek prohlédly miliony lidí a lajk mu daly statisíce uživatelů, což naznačuje hlubší problémy související s umělou inteligencí, jako jsou potíže s rozpoznáváním vygenerovaného obsahu.

Není to poprvé, co se lidé nechali napálit obrázkem vytvořeným umělou inteligencí. V březnu se na internetu šířil falešný snímek papeže Františka v obřím péřovém kabátě nebo dramatické fotografie zachycují zatčení amerického exprezidenta Donalda Trumpa. Ani jedna z těchto věcí se ve skutečnosti nestala, ale obě se na sociálních sítích staly virálními.

Před několika dny vyšlo najevo, že lidskoprávní organizace Amnesty International (AI) využívala pro svou propagaci snímky vygenerované umělou inteligencí. Falešné fotografie připomínaly protesty, které před dvěma lety zmítaly Kolumbií. Organizace některé z nich po kritice smazala s vysvětlením, že jen chtěla chránit skutečné protestující. Podle kritiků ale podkopala důvěru ve vlastní činnost.

Na sociálních sítích se také hojně šíří hudba generovaná umělou inteligencí. Spočívá buď v tom, že systémy věrně napodobí vybraného umělce a nechají ho nazpívat cover verzi populárního hitu nebo vytvořit zcela novou skladbu či duet s dalšími interprety. Fanoušci jsou nadšeni, ale umělci se obávají, uvedl list The Guardian.

Amnesty International posted an instagram story about Colombian police human rights abuses… where all the pictures were made with AI.

Sorry but this is irresponsible beyond words. pic.twitter.com/Ip8U8ekUt4

— Taras (@Stellaratum) April 30, 2023

Minulý měsíc vydavatelství Universal Music Group (UMG) požádalo streamovací platformy, aby se rozhodly, zda chtějí stát „na straně umělců, fanoušků a lidského tvůrčího projevu“, nebo „na straně podvrhů, podvodů a odpírání umělcům náležité odměny.“

Problémem prohlášení UMG je předpoklad, že fanoušci a umělci stojí na stejné straně této debaty. Popularita písní vytvořených umělou inteligencí, kterou dokazuje i více než devět milionů zhlédnutí falešného duetu hudebníků Drakea a The Weeknda, to zpochybňuje.

Situace podle stanice CNN ukazuje novou realitu v online prostředí, tedy vzestup nástrojů umělé inteligence umožnil levněji a snadněji než kdykoliv dříve vytvářet realistické snímky, zvukové záznamy i videa. Ty budou zaplavovat sociální sítě stále častěji.

Šíření vygenerovaných snímků, zvuků či textů může vést ke znečištění informačního ekosystému. Po letech boje s dezinformacemi uživatelé budou ještě obtížněji rozlišovat a ověřovat, co je skutečné. Někteří odborníci se také obávají, že vygenerované materiály hlouběji rozdělí společnost a budou sloužit také k obtěžovaní.

Společnosti zabývající se technologiemi umělé inteligence se v současné době snaží zlepšit transparentnost toho, kdy je obsah generován počítačem. Zásady pro jeho sdílení mají i některé sociální sítě a pracuje se také na technologických řešeních, která by například vygenerovaný obrázek opatřila vodoznakem.

Podle deníku Le Monde v poslední době ubylo například falešných fotografií z francouzských demonstrací proti důchodové reformě. To však neznamená, že byly definitivně odstraněny všechny hrozby pro veřejnou diskusi, poznamenal list.

Mnoho z nedávných virálních snímků generovaných umělou inteligencí bylo vytvořeno nástrojem Midjourney, který umožňuje uživatelům vytvářet obrázky na základě krátkých pokynů. Nejnovější verze aplikace je nyní dostupná pouze pro vybrané uživatele s předplatným kvůli mimořádné poptávce a „zneužívání zkušební verze“, uvedla společnost.

Snímky, které lze vytvářet s předplacenými verzemi různých systémů umělé inteligence, jsou ale často vybroušenější, dokonalejší a bez hrubých vad, které křičí, že jde o falešnou fotku. Zatímco falešných zpravodajských snímků z francouzských ulic dočasně ubylo, ty další budou pravděpodobně zdařilejší, méně odhalitelné a mnohem klamavější, dodal Le Monde.

S přispěním ČTK