Generativní umělá inteligence je stále ještě v plenkách a kontroverze se jí nevyhýbají. Aktuálně způsobil poprask program Gemini od Googlu, který se při tvorbě obrázků snažil o co nejpestřejší zastoupení různých ras a etnik, jak to zamýšleli inženýři firmy. Problém ale byl v tom, že snahu projevoval i v případech, kdy to neodpovídalo realitě. Výsledkem tak byly třeba snímky s černochy v rolích amerických otců zakladatelů nebo nacistických vojáků. Google se za nesrovnalosti omluvil a službu pozastavil, neplecha už ale byla napáchána a v USA rozpoutala další vyhrocenou celospolečenskou debatu.

Firma se nastavením svého programu Gemini snažila zakročit proti nešvaru, se kterým se generativní umělá inteligence potýká tak trochu ze své podstaty: učí se na velkém objemu dat z internetu. A co je na internetu? Mimo jiné obrovské množství balastu, nepřesných, urážlivých, lživých a jinak závadných informací. Což se týká i těch vizuálních, tedy obrázků.

Stejně tak je navíc internet plný stereotypů. Jak ukázal projekt od Washington Postu, všechny výše zmíněné faktory ve výsledku přispívají k tomu, že generátory obrázků „posilují genderové a rasové předsudky, a to i přes snahy o jejich odstranění z dat, která je pohánějí,“ napsali jeho autoři.

Právě tato snaha nyní dovedla program Googlu k tomu, co mnozí označují za přehnanou korekci existujících problémů. A nepřesná byla doopravdy – nástroj totiž generoval historicky nepřesné snímky, třeba obrazy německých vojáků z nacistické éry, mezi kterými byli i černoši. Sociální sítě zaplavily i obrázky amerických otců zakladatelů, mezi nimiž byli také muži tmavé pleti – což také není pravda.

Google AI Gemini shows non-White women when asked to generate pictures of Nazi soldiers.

Follow: @AFpost pic.twitter.com/w0ML5TXO04

— AF Post (@AFpost) February 21, 2024

Google sice rychle uznal chybu a podle serveru The Verge pozastavil možnost v Gemini generovat obrázky do doby, než problém vyřeší. To už se k němu ale vyjadřoval bývalý republikánský prezidentský kandidát Vivek Ramaswamy a titulní strana plátku New York Post incident komentovala jako „History Messin’,“ tedy volně přeloženo zahrávání si s historií.

Heslo vystihuje argument, který konzervativní kritici často vznášejí směrem nejen k technologickým společnostem, jež se v rámci svého byznysu snaží napomáhat s vyrovnáním historických a současných křivd vůči rasovým, sexuálním i jiným menšinám. Citlivost některých Američanů vůči tématům, jako je rasismus, sexismus nebo práva LGBTQ+, mají mnozí za přehnanou a spoluobčany, kteří takové problémy tlačí do popředí, vnímají velmi negativně.

Jak lze systémy generativní umělé inteligence účelově naklonit na jednu či druhou politickou stranu, to minulý rok ukázal jeden americký výzkumník. Jak popsal deník New York Times, vzal již existující systém a takzvaně ho dotrénoval na ručně vybraných informacích. Program tak následně odpovídal v souladu s požadovaným ideologickým smýšlením.

Nařčení, že nadržuje progresivnímu smýšlení, a naopak upozaďuje konzervativnější, pravidelně čelí i asi nejpopulárnější program generativní umělé inteligence ChatGPT od společnosti OpenAI. Mezi nejprominentnějšími kritiky je i Elon Musk, který startup kdysi zakládal spolu s nynějším ředitelem Samem Altmanem. Dlouhodobě ale jeho programu vyčítá, že lže.

„Nebezpečí, které spočívá v trénování umělé inteligence, aby byla woke – tedy jinými slovy lživá – je smrtelné,“ uvedl Musk na Twitteru před dvěma lety. Slovo „woke“ se často pejorativně používá k popisu přístupu, který speciální pozornost věnuje rasovým předsudkům, sociálním nerovnostem či třeba sexismu. Musk i kvůli rozdílnému názoru minulý rok založil startup xAI, se kterým chce systém umělé inteligence vytvořit po svém, což nezapomněl připomenout ani nyní v souvislosti s Gemini.