Ukrást někomu tvář snad nikdy nebylo tak snadné. Alespoň na pár dní. Novému nástroji od společnosti Meta stačilo napsat zavináč a připojit jméno instagramového nebo facebookového profilu kamaráda, známého nebo úplně cizího člověka. Pak už jen uživatel popsal scénu a umělá inteligence ji během několika vteřin vytvořila. Meta ale funkci po necelém týdnu provozu stáhla poté, co čelila silné vlně kritiky kvůli ochraně soukromí.

Kamarád na koni. Celebrita v pyžamu s lahví na patníku. Kolega, který se jediným příkazem promění v metalistu. Novinka z laboratoře miliardáře Marka Zuckerberga zvládla téměř cokoli, co nevyhodnotila jako škodlivé. A nepotřebovala přitom ani souhlas člověka, jehož podobu použila. Meta měla tuto možnost zakotvenou přímo ve svých podmínkách používání.  Ty umožňovaly ostatním uživatelům vytvářet pomocí AI obsah z fotografií na instagramovém profilu, aniž by o tom majitel účtu dostal jakékoli upozornění.

Nástroj s názvem Muse Image Meta představila v polovině minulého týdne. Šlo o první široce nasazený model pro generování obrázků z dílny Meta Superintelligence Labs, nové výzkumné divize zaměřené na umělou inteligenci. Tu technologický gigant vybudoval loni po rozsáhlé reorganizaci svých AI týmů a mnohamiliardové investici do startupu Scale AI.

Do jejího čela se postavil jeho zakladatel Alexandr Wang. Laboratoř má dohnat konkurenty jako OpenAI nebo Google v boji o nejvýkonnější modely a vrátit Metu mezi lídry oboru. Muse Image byl přitom vůbec prvním jejím produktem, který se dostal do rukou běžných uživatelů. Dostupný je zdarma přes aplikaci Meta AI, web meta.ai, WhatsApp ve vybraných zemích a americkým uživatelům i skrze Instagram Stories. Společnost slibovala, že má postupně dorazit i na Facebook, Messenger a do rukou inzerentů, což by v teorii znamenalo, že by se i podoba běžného uživatele mohla stát součástí něčí reklamy.

Foto: MuseAI

+5

Právě tato možnost vyvolávala vážné obavy. „Je to zjevný recept na katastrofu. Platformy jako Meta si za poslední rok vysloužily celý katalog škod způsobených neodsouhlasenými AI úpravami fotografií a je těžké pochopit, proč chce Mark Zuckerberg podporovat další podobně znepokojivé manipulace se snímky,“ shrnul problémy funkce v rozhovoru pro BBC Donald Campbell, ředitel pro advokacii v neziskové organizaci Foxglove, která se dlouhodobě věnuje právům v digitálním průmyslu.

Novinka přišla v době, kdy regulátoři podobné nástroje už sledují. Britský nezávislý státní regulátor Ofcom aktuálně prošetřuje síť X kvůli roli jejího chatbota Groka při vytváření a šíření neodsouhlasených AI upravených fotografií reálných lidí. Muse Image tak vstoupil na pole, které je pod drobnohledem. Londýnská organizace Privacy International k tomu BBC řekla, že jde o další signál toho, že AI firmy vnímají fotografie a data lidí jako surovinu, kterou lze volně využít.

Meta na kritiku zpočátku reagovala tím, že uživatelé mohli využití svého obsahu pro AI odmítnout, a to i v případě, že měli veřejný účet. Tato možnost ale byla ukrytá mimo běžná nastavení soukromí. Kdo nechtěl, aby si ostatní mohli pomocí umělé inteligence pohrávat s jeho tváří, musel v Instagramu otevřít sekci „Sdílení a opakované použití“ a ručně vypnout příslušné oprávnění.

Skepsi části uživatelů navíc posilovala dosavadní historie společnosti. V roce 2021 Meta pod tlakem žalob ukončila systém rozpoznávání obličejů, který automaticky identifikoval lidi na fotografiích. Kritici proto v nastavení Muse Image, které ve výchozím režimu umožňovalo využívat obsah uživatelů, dokud to sami nezakázali, viděli pokračování stejného přístupu.

Tlak se nakonec ukázal jako příliš silný. Necelý den po spuštění funkce, která umožňovala pomocí Muse Image označit veřejné instagramové účty a využít jejich obsah ke generování snímků, Meta možnost stáhla. Firma podle BBC přiznala, že s nastavením „minula cíl“, a funkce proto už není dostupná.

„Naším záměrem bylo nabídnout užitečný kreativní nástroj a dát lidem kontrolu nad tím, zda může být jejich veřejný obsah takto použit,“ uvedla Meta ke svému rozhodnutí funkci stáhnout. „Vyslechli jsme si zpětnou vazbu.“ Meta zároveň potvrdila, že navzdory staženému nástroji pokračuje v plánech na rozšíření AI funkcí. Další integrace mají směřovat na WhatsApp, Facebook a Messenger. Firma dále pracuje i na videomodelu.

Technologický posun pod nánosem kontroverze

Vedle kontroverzí kolem práce s cizími tvářemi Muse Image přinesl i praktičtější funkce. Dokáže třeba upravovat obrázky podle textového zadání, třeba odstranit nechtěného člověka z pozadí dovolenkové fotografie nebo ve vizualizaci ukázat, jak by v obýváku uživatele vypadala pohovka z tržiště sociální sítě Facebook Marketplace.

Technicky jde však u Muse Image o výrazný posun oproti klasickým generátorům obrázků z textu. Model nefunguje jako přímý převod promptu na obrázek, ale jako agent. Při generování si sám volá nástroje pro vyhledávání a programování, výsledek si opakovaně ověřuje a vylepšuje, případně se propojí s dalším modelem z dílny Mety, Muse Spark, se kterým sdílí některé nástroje.

Model si dokáže sám napsat a spustit programovací kód. Díky tomu umí do finálního obrázku zakomponovat například přesný graf nebo funkční QR kód. Ve spojení s modelem Muse Spark pak zvládne vytvářet i animované GIFy a vestavěný vyhledávač hlídá, aby generované obrázky odpovídaly aktuálním informacím.

Při běžném zadání vytvořit třeba porcelánovou bustu podle předlohy portrétní fotografie model odevzdal solidní a překvapivě věrohodný výsledek. Tváře lidí dnes generátory zvládají už strašidelně přesně, u oblečení a kůže ale přetrvává silně voskový, typicky AI vzhled. Bystré oko pak zpravidla najde i další klasické chyby: třeba špatně vykreslenou dopravní značku na ulici, přeostřený nápis na jinak rozmazaném pozadí nebo generický, opakující se font, který využívá ve všech nápisech na snímku.

Zajímavostí zůstává přepínač mezi rychlým a „přemýšlejícím“ režimem generování a funkce, díky které je možné sledovat postup uvažování modelu krok za krokem. Souběžně s Muse Image Meta ukázala i náhled videomodelu Muse Video, postaveného na stejném základu jako obrázkový model, tentokrát ale s podporou zvuku přímo ve videu.

Firma uvádí, že model nabízí konkurenceschopné výsledky v dodržování zadání, vizuální věrnosti a časové konzistenci, zatímco na synchronizaci zvuku s obrazem a na fyzikálně přesném zobrazení rychlého pohybu ještě pracuje.

Na rozdíl od Movie Gen, předchozího modelu firmy, který zůstal jen výzkumnou prezentací bez veřejného nasazení, by se Muse Video mělo podle Mety v dohledné době skutečně dostat k tvůrcům obsahu a do aplikací Meta AI. Zatímco obrazová funkce narazila hned v prvních dnech, zůstává otázkou, jak citlivě Meta přistoupí k ochraně soukromí u dalších nástrojů, které teprve chystá.