Stylový papež v péřové bundě, smějící se celebrity. Také ale Donald Trump v poutech vedený policisty. Nová verze obrazového generátoru Midjourney za pár dní od svého vydání udivuje, ale i děsí svými schopnostmi. Stejnojmenná firma, která za programem stojí, nyní zrušila neplacený přístup ke své službě. Jeho součástí sice nejnovější verze není, podle zakladatele Davida Holze se k omezení přístupu nicméně rozhodli kvůli rostoucím případům zneužití a nedostatečné výpočetní kapacitě.

Midjourney svou verzi zdarma přes komunikační platformu Discord pozastavilo už dříve v průběhu tohoto týdne. Tehdy zakladatel a ředitel David Holz uvedl, že důvodem je mimořádná poptávka uživatelů a zneužívání neplaceného zkušebního přístupu, informoval americký deník Washington Post. V oznámení na Discordu Holz dodal, že má v plánu přístup zdarma obnovit, jakmile firma v tomto ohledu zavede odpovídající opatření.

„Přístup jsme zastavili kvůli obrovskému množství lidí, kteří si vytvářejí falešné účty, aby získali obrázky zdarma,“ upřesnil důvody Holz technologickému serveru The Verge. Zakladatel Midjourney řekl, že mimořádný zájem připisuje virálnímu návodu ke zprovoznění bezplatné verze, který se nedávno začal šířit v Číně. „Stalo se to ve stejné době, kdy byl dočasný nedostatek grafických karet. Tyto dvě věci se spojily a způsobovaly výpadek služby pro placené uživatele,“ dodal Holz.

Omezení neplaceného přístupu ovšem šíření těch nejpřesvědčivější obrazů s největší pravděpodobností nezamezí. Nejvýkonnější pátá veze je totiž dostupná jen platícím uživatelům a lidé se zkušební verzí k ní tedy neměli přístup ani před nynějším opatřením.

Nová, v pořadí už pátá, verze obrazového generátoru Midjourney vyšla před pár dny a od té doby se kvůli jejím zlepšeným schopnostem objevily obrazy, které opět o něco přesvědčivěji vypadaly jako reálné fotografie. Internet obletěl například papež František v bílé péřové bundě. V souvislosti s aktuálním obviněním bývalého amerického prezidenta Donalda Trumpa v případu úplatku za mlčení pornohvězdy Stormy Daniels se ovšem začaly objevovat snímky vygenerované právě pátou verzí Midjourney, které Trumpa zobrazovaly v poutech vedeného policisty. Nic takového se ale doopravdy nestalo.

Omezení obsahu, který lze v Midjourney generovat, jsou liberálnější než u některých konkurenčních služeb, třeba u DALL-E 2 od OpenAI, ale restriktivnější než u Stable Diffusion od Stability AI. V souvislosti s rychlým vývojem generativní umělé inteligence část odborníků volá, aby tvůrci takových programů výrazně zpomalili svou práci. Konkrétně chtějí šestiměsíční pauzu ve vývoji AI, při které by se lidé v oboru dohodli na obecných pravidlech bezpečnosti a odpovědnosti.

Například Itálie také aktuálně přímo zákazala používání čím dál oblíbenějšího systému umělé inteligence ChatGPT. Podle tamního regulačního úřadu totiž narušuje osobní údaje svých uživatelů. Firmě OpenAI, která za jejím vývojem stojí, hrozí nyní vysoká pokuta, pokud nezjedná nápravu.

Making pictures of Trump getting arrested while waiting for Trump’s arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023