Fake news jsou dnes čím dál častěji skloňovaným tématem, který odráží fakt, že na internetu nebo i jinde čteme ve stále větší míře informace, jež se nezakládají na pravdě nebo jsou značně zkreslené. To především u určitých skupin čtenářů vytváří pocit, že se děje nebo se stalo něco, co v jejich očích vypadá mnohem hůř, než je realita. Tento fenomén šíří dezinformační weby, ale i klasická média a další sdělovací prostředky, které mnohdy využijí nezdrojované informace.

A přesně na podobné texty je možné využít jednu z nových technologií, se kterou přišla iniciativa OpenAI, založená miliardářem a šéfem Tesly či SpaceX Elonem Muskem a Samem Altmanem z akcelerátoru Y Combinator. V rámci výzkumného procesu přišla na technologii, jež je schopna na základě velmi krátkého textu napsat umělou inteligencí konstruovaný text, který se zakládá na milionech informačních zdrojů a dokáže tak velmi věrně napodobit text člověka, navíc s velmi přesnými informacemi.

Technologie byla natolik dobrá, že se ji iniciativa OpenAI bála vypustit ve své kompletní formě, na webu tak publikovala pouze její část s tím, že se bojí, aby se nedostala do špatných rukou, především pak ke zdrojům, které by s její pomocí tvořily zmíněné fake news. OpenAI funguje jako nezisková organizace, které přislíbilo uskupení firem a podnikatelů, včetně zakladatelů Elona Muska a Sama Altmana, při jejím spuštění v roce 2015 až miliardu dolarů na budoucím financování. Byť OpenAI prozatím využilo pouze zlomek této částky.

Foto: Tesla

Elon Musk při zahájení stavby nové továrny v Číně

Elon Musk působil v OpenAI jako předseda představenstva a také poradce. V únoru minulého roku ovšem kvůli neshodám o dalším směřování celé iniciativy, možnému konfliktu ve vztahu k vývoji umělé inteligence pro Teslu a také kvůli časové vytíženosti s ohledem na vedení dvou dalších firem OpenAI opustil a nadále v ní tak nemá žádný vliv, byť ji dle webu nadále finančně podporuje, jak se ostatně zavázal už při jejím založení v roce 2015.

Musk pak během včerejšího dne znovu potvrdil svůj odchod na Twitteru právě v reakci na nově zveřejněný generátor textu:

Also, Tesla was competing for some of same people as OpenAI & I didn’t agree with some of what OpenAI team wanted to do. Add that all up & it was just better to part ways on good terms.

— Elon Musk (@elonmusk) 17. února 2019

Ve vedení OpenAI tak nadále zůstává spoluzakladatel Sam Altman, vedoucí vývoje Ilya Sutskever a technologický ředitel a bývalý CTO fintech startupu Stripe Greg Brockman. Mezi podporovateli, kteří finančně přispěli, jsou mimo výše zmíněných také spoluzakladatel pracovní sociální sítě LinkedIn Reid Hoffman, spoluzakladatel PayPalu Peter Thiel, jedna ze zakládajících členek akcelerátoru Y Combinator Jessica Livingston, ale také celé společnosti jako například Amazon, respektive jeho služba Amazon Web Services, či Microsoft.

Zpět ke zmíněné technologii generátoru textu

Technologický model GPT-2, který OpenAI vyvinula, pracuje s více než 1,5 miliardy různých parametrů, které porovnává s více než 8 miliony různých webových stránek. Funguje vcelku jednoduše: technologie dokáže generovat další slova na základě předem napsaného textu, navíc umí pochopit souvislost mezi jednotlivými slovy. Díky tomu zpracovaný text vypadá nejen reálně a je založen na relativně ověřených datech, ale i stylistikou není často prakticky rozeznatelný od člověkem napsaného textu.

Ukázka generovaného textu. V první části je člověkem napsaný zdroj a druhý je umělou inteligencí generovaný obsah.

To byl hlavní důvod, proč se nakonec OpenAI rozhodlo publikovat pouze omezenou verzi modelu, která má sloužit jen pro vědecké účely a není ji možné v aktuální formě využít pro něco jiného. Dle OpenAI by totiž bylo možné využít kompletní model mimo generování fake news také k vydávání se za cizí osobu online, tvorbu falešného obsahu na sociální sítě nebo k automatizaci produkce spamu. Naopak pomoci by mohla s jednodušším překladem mezi jazyky, rozvoji asistentů na bázi umělé inteligence či s rozpoznáváním jazyka.

Nutno dodat, že i základní verze technologie může někomu posloužit k vývoji kompletního modelu, jež může být následně využit k různým, výše zmíněným účelům. Tomu už samozřejmě OpenAI nemůže zabránit. Elon Musk, který loni z iniciativy odešel, již dříve několikrát zmiňoval, že je umělá inteligence nebezpečná a že i když se pravděpodobně nedočkáme futuristických scénářů jako z filmu Terminátor, tvorba falešného obsahu a obecně dezinformací může vést ke značnému ohrožení lidí, a to v mnoha ohledech.