Zvoní vám v kapse telefon a vy zjišťujete, že to je neznámé číslo. Jste tak trochu zvědaví, takže hovor přijmete a pak už jen stojíte s otevřenou pusou. Mluví k vám totiž prezident Spojených států amerických Joe Biden, který vás prosí, abyste si svůj hlas „pošetřili k listopadovým volbám“. Něco podobného tento týden zažilo až pětadvacet tisíc lidí v americkém státě New Hampshire, kde lidé volili v dalším kole prezidentských primárek. Jak už ale asi tušíte, hlas ve skutečnosti nepatřil Bidenovi, ale programu umělé inteligence, kterým se někdo snažil volbu ovlivnit.

„Hlasováním v úterý republikánům umožníme, aby znovu zvolili Donalda Trumpa,“ je slyšet hlas k nerozeznání od opravdového amerického prezidenta na nahrávce, na kterou upozornil server NBC News. Prokuratura v New Hampshire případ vyšetřuje jako nelegální pokus o potlačování volebního práva. Ve státě na severovýchodě USA se v úterý konaly druhé primárky před letošními prezidentskými volbami. Poprvé se letos týkaly Republikánské i Demokratické strany. Ve volbě první strany vyhrál jako před týdnem v Iowě Donald Trump, demokraté jasně zvolili právě Joe Bidena, byť to byla volba spíše symbolická.

Biden a jiní přední kandidáti jeho strany v New Hampshire na volebních lístcích totiž nebyli. Voliči je tak na ně v souladu s tamním právem dopsali. Oficiální první primárky demokratů budou letos nově až příští týden v Jižní Karolině. To se nelíbilo New Hampshiru, jehož ústava říká, že to musí být právě tento severovýchodní stát, ve kterém se první kolo musí konat.

Podle NBC News tak chtěli místní ukázat, že tuto staletou tradici i přes oficiální rozhodnutí demokratů dodrží. Ti chtějí zase přesunem prvních primárek lépe reflektovat demografické složení své voličské základny. Jižní Karolina je totiž rasově významně rozmanitější než New Hapshire. Ale zpět k falešnému hovoru s prezidentem.

NBC reports that NH voters are getting robocalls with a deepfake of Biden’s voice telling them to not vote tomorrow.

“it’s important that you save your vote for the November election.”https://t.co/LAOKRtDanK pic.twitter.com/wzm0PcaN6H

— Alex Thompson (@AlexThomp) January 22, 2024

Zatím není jasné, kdo za podvodem stojí. Falešný Bidenův hlas na konci hovoru vyzýval, aby adresáti s otázkami kontaktovali lokální demokratku Kathy Sullivan, která podle NBC News proti kolujícímu podvrhu podala stížnost. Neví se ani to, na jaké voliče přesně kampaň cílila, ale americký server upozornil, že seznamy s jejich telefonními čísly jsou za úplatu k dispozici u zprostředkovatelů dat. CNN citovala výrobce aplikace, která podobné robotické hovory blokuje, podle kterého jich mohlo být mezi pěti a pětadvaceti tisíci.

Vzhledem k rostoucím schopnostem systémů umělé inteligence učit se imitovat v podstatě kohokoliv panují v letošním volebním roce obavy, jak velký vliv budou mít případné manipulace. Obavy jsou o to větší, že během letoška podle Světového ekonomického fóra jdou k volbám více než dvě miliardy lidí v padesáti zemích. Startup OpenAI už v tomto ohledu oznámil, že zpřísní použití svých produktů tak, aby je nebylo možné používat pro předvolební kampaně.

Jak upozornil Washington Post, firma vedená Samem Altmanem také zablokovala své služby vývojářům, kteří pro demokratického prezidentského kandidáta Deana Phillipse vytvořili digitálního avatara, který fungoval i díky produktům od OpenAI.