Komentář Jiřího Blatného a Jiřího Svobody. Společnost OpenAI si v posledních měsících uzurpovala pozornost mnoha technologických nadšenců. Firma, kterou v roce 2015 spoluzaložil i Elon Musk, nejdřív vypustila do světa modul DALL·E 2, který dokáže věrohodně generovat umělé obrazy na základě textového popisu. Teď na scénu přišel chatový modul zvaný ChatGPT, nad jehož schopnostmi zůstává rozum stát. Zvládne totiž vymyslet text snad na jakékoliv téma, které si představíte. Není ale třeba panikařit. Ve skutečnosti je totiž spíš velmi přesvědčivou iluzí.

ChatGPT je postavený na jazykovém modelu GPT-3, který stejně jako jeho předchůdci využívá hloubkového učení. To znamená, že se jedná o důmyslný algoritmus, který přelouská stovky miliard slov z celého internetu a knih a bez dalšího lidského zásahu v jejich kombinacích hledá vzorce. Výsledkem je sada pravidel, podle níž dokáže texty následně i konstruovat. Těchto pravidel neboli parametrů je v případě GPT-3 175 miliard. Pro srovnání – celý lidský mozek má 86 miliard neuronů.

Výsledkem je skutečně nejlepší chatbot v historii, který toho zvládne opravdu hodně. Třeba programátorům dokáže po zadání napsat program nebo poradit s vychytáváním chyb v kódu. Využití najde i při sepisování smluv. Stačí zadat parametry dokumentu a navrhne vám možnou podobu. Nápomocný je i v případě, že se potřebujete inspirovat a přicházet s novými nápady, třeba na vánoční dárky, na výlety nebo potřebujete napsat srdceryvnou rozchodovou SMS.

Mistrně vám navrhne i nástin školní eseje o prvním dodatku americké ústavy, ke které se už týdny chystáte, ale nevíte, jak začít. Může to tak vypadat, že ChatGPT má vlastní vědomí a inteligenci. Jenže ve skutečnosti nechápe význam toho, co tvoří. V podstatě „jen“ kombinuje a upravuje.

Kromě toho, že ke školní eseji nedodá žádné odkazy na zdroje (neumí totiž na internetu hledat), vytvoří přesvědčivě text úplně o čemkoliv. Včetně stoprocentní lži. Je tak třeba jeho výtvory ověřovat. Na otázku, jestli je těžší kilogram peří, nebo železa, dokáže odpovědět, že správná odpověď je druhá varianta.

Přidává i na první pohled sofistikovanou argumentaci: „Železo je kov s vysokou hustotou, což znamená, že v daném objemu obsahuje velké množství hmoty. V kilogramu železa je proto mnohem více hmoty než v kilogramu peří,“ odpověděl software programátoru Lukáši Havrlantovi. Na stejnou otázku ale nereaguje vždy stejně, takže když jsme se ho na to samé zeptali v redakci CzechCrunche, odpověď už byla správná. 

Vyzkoušeli jsme si ostatně i ulehčit práci a nechat model napsat článek o startu vesmírné mise Artemis 1, která v těchto dnech krouží kolem Měsíce. Základní informace model zachytil dobře, ale v detailech udělal celou řadu faktických chyb. Náhodně kombinoval data o dalších letech Artemisu či zcela jiných raketách a programech. Není tedy těžké představit si snadnou zneužitelnost takového programu pro šíření dezinformací. Ostatně i jedna z nejpřesvědčivějších metod propagandy spočívá právě v mixování pravdivých základních informací se smyšlenými detaily.

Foto: CzechCrunch

Jedna z variant Česka budoucnosti, jak jsme ho nakreslili v DALL-E

Praktickému využití stojí v cestě i jiný háček, a to sice skutečnost, že nejnovější data, na kterých je ChatGPT trénovaný, jsou z roku 2021. Pokud byste si tedy chtěli připomenout, kdo je současný premiér Česka, program vám informaci poskytnout nedokáže.

Místo toho si ale zvládne rovnou zcela vymyslet jakéhosi Kajimíra Čížka, údajně nejdéle vládnoucího premiéra Slovenska, kterého svými dotazy vygeneroval novinář Filip Zelenka. Vymýšlení věrohodně znějícího, ale neexistujícího slovanského jména je ostatně činnost, kterou umí jazykový model ze své povahy dobře.

Co je to kreativita?

Jednoduše řečeno, pokud budete chtít po svém novém chatovém asistentovi přesné faktické informace, moc nápomocný vám alespoň zatím nebude. Pokud je ale součástí vaší práce psát jakékoliv texty rutinní povahy, které nejsou lingvisticky příliš složité, dost možná si ulehčíte hodiny ťukání do klávesnice. ChatGPT totiž dokáže napsat třeba i vzory dopisů, zákonů či e-mailových konverzací na jakékoliv zadané téma. A v jakémkoliv jazyce.

Pokud máte práci spíš kreativního rázu a například píšete blogové posty či newslettery, GPT-3 vám bude sloužit ke generování myšlenek, nápadů a připomene třeba i pohledy na věci, na které byste v daném tématu neměli zapomenout. Tak či onak si možná ulehčíte hodiny manuální práce a místo toho je využijete na produkci dalších textů.

To, co budeme jako společnost považovat za kreativu, se významově posune o něco dál, stejně jako se to už v minulosti stalo v souvislosti s jinými technologiemi. Pracovní pozici, kterou máte dnes, se možná bude říkat jinak. A budete na ní dělat jiné věci. Ale nejspíš o ni nepřijdete.

Jak ovšem podotýká Petr Koubský v Deníku N, ChatGPT představuje jen jeden bod na exponenciální technologické křivce, po které začíná umělá inteligence stoupat vzhůru, což se dá popsat i číselně. První verze GPT, kterou OpenAI vydalo v roce 2018, fungovala na základě 10 milionů parametrů. Druhá verze, jen o rok mladší, jich už posuzovala 1,5 miliardy. GPT-3, v tuto chvíli už dva roky stará, má oněch zmíněných 175 miliard. Těžko říct, co vše za pár let způsobí třeba GPT-7.

Není tak překvapením, že mnozí vědci, kteří zkoumají a tvoří umělou inteligenci, se začínají svých vynálezů obávat. Zatímco jsou modely umělé inteligence každý den vyspělejší, ve vzduchu už léta visí množina etických otázek, na které jasné odpovědi nejsou. Jak se vypořádat s umělou inteligencí, která replikuje a prohlubuje rasovou diskriminaci? Kdo byl měl držet autorská práva na texty či obrázky, které vygeneruje? Netvoří aplikace umělé inteligence jako rozpoznávání obličejů ultimátní nástroj pro autoritářské režimy a jejich udržení? 

Anebo – netvoří se až příliš mocný nástroj na to, aby ho měla plně v rukou jedna společnost? K trénování řečového modelu GPT-3 je totiž potřeba značný výpočetní výkon, který OpenAI poskytuje Microsoft přes svůj cloudový systém Azure. Jedná se také o entitu, která se v roce 2019 přetransformovala z neziskové firmy k ziskové, a lze tak očekávat, že eventuálně na svém výtvoru bude chtít vydělat. To se neděje. Zatím.