Asi není větší postavy ve světě umělé inteligence než Geoffreyho Hintona. Pětasedmdesátiletý vědec s pojmy jako neuronová síť pracoval už v sedmdesátých letech. Během své dlouhé a bohaté kariéry přišel s principem, na kterém dnes stojí známé textové a obrazové generátory a vychoval řadu dalších expertů na AI. Je tomu ale několik dní, co po více než dekádě odešel z Googlu, aby mohl svobodně mluvit o nebezpečích vývoje této technologie.

Vynálezce atomové bomby Robert Oppenheimer jednou řekl, že „když před sebou máte technologickou lahůdku, jdete a pracujete na ní. Co s ní, o tom se dohadujete až potom“. Amerického vědce s oblibou často citovala i pětasedmdesátiletá legenda světa umělé inteligence Geoffrey Hinton.

Od tak bezbřehého optimismu ovšem vědec postupně ustupoval a předminulý týden po více než dekádě skončil v Googlu, aby se mohl přidat k rostoucímu počtu expertů, kteří varují před nebezpečím programů typu ChatGPT od OpenAI. Jeho cesta od nadšeného pionýra této technologie k jejímu kritikovi jakoby ilustrovala současnou celospolečenskou debatu o AI.

Kmotrem umělé inteligence

Geoffrey Hinton, původem z Velké Británie, už při doktorandském studiu umělé inteligence na Edinburské univerzitě v sedmdesátých letech pracoval s pojmem neuronová síť. Této metodě strojového učení, která simuluje fungování lidského mozku a umožňuje stroji učit se rozpoznávat složité vzorce v datech, zasvětil celou kariéru.

Po doktorátu se přesunul do Spojených států na Carnegie Mellon University v Pittsburghu, kde ve výzkumu neuronových sítí pokračoval. Protože ale bylo v osmdesátých letech v USA financování vývoje AI úzce spojené s americkým ministerstvem obrany, Hinton zemi opustil a stále ještě v dobách studené války přesídlil do Kanady. Na rozdíl od americké armády nebyl fanouškem robotických vojáků, jak podotýkají The New York Times.

Jak čas ukázal, přesun do kanadského Toronta se vyplatil. Po dlouhých letech práce Hinton v roce 2012 se svými studenty přišel s neuronovou sítí, která dokázala analyzovat tisíce snímků a rozpoznat běžné objekty. Na tomto základu pak vznikly programy, o kterých se toho v poslední době napsalo spoustu – od textových generátorů jako ChatGPT až po ty obrazové jako Midjourney nebo Stable Diffusion.

Tou dobou se k nemalým investicím do produktů AI rozhoupávaly velké technologické firmy, Hintonův výzkum tak přitáhl jejich pozornost. Startup DNNresearch, který Hinton se svými studenty v průběhu svého výzkumu založil, v roce 2013 koupil Google. Podle serveru Wired za něj tehdy zaplatil 44 milionů dolarů.

Hintonova jízda pokračovala – v roce 2018 se se spolupracovníci dočkal zřejmě nejvyššího možného uznání. Za svůj výzkum získal Turingovu cenu, které se přezdívá Nobelova cena za informatiku.

Při Hintonově působení na akademické půdě pod ním vyrostlo i několik dalších známých postav ze světa byznysu spojeného s umělou inteligencí. Jeden příklad za všechny – Ilya Sutskever spoluzaložil startup OpenAI, který stojí za řečovým modelem GPT-4 a v současnosti je vedoucím vědeckým pracovníkem firmy.

Po vydání GPT-4 podepsaly tisíce expertů na AI petici, ve které volaly po pozastavení těchto systémů a podrobné diskusi, která by vedla k nastavení jasných pravidel vývoje a použití. O několik dní později vydala podobnou výzvu i mezinárodní vědecká společnost Asociace pro rozvoj umělé inteligence. Mezi signatáři byl i hlavní výzkumník Microsoftu Eric Horvitz. Hinton ani jednu z listin nepodepsal.

Dlouho se netajil tím, že si myslí, že schopnosti umělé inteligence se zatím ani zdaleka nerovnají těm lidským. V rozhovoru pro The New York Times po svém odchodu z Googlu nicméně připustil, že je naopak možné, že to, co se děje uvnitř, je na lepší úrovni než v lidském mozku. O tom, co přesně se v programech umělé inteligence děje, nedávno CzechCrunch mluvil se Stanislavem Fořtem, vedoucím vývoje řečových modelů ve StabilityAI.

Právě rapidní vývoj takových systémů proto podle Hintona představuje nebezpečí. „Podívejte se, jak to bylo před pěti lety – a jak je to teď,“ řekl ve zmíněném rozhovoru. „Vezměte ten rozdíl a aplikujte ho na budoucnost. Je to děsivé,“ dodal.

Konkurenční boj

Google podle Geoffreyho Hintona donedávna působil jako společnost, která je ve vývoji AI opatrná. Pak ale Microsoft na začátku roku svůj vyhledávač Bing okořenil umělou inteligencí od OpenAI a v Googlu se rozezněl hlasitý poplach – před pár dny pak firma spustila chatbota Bard. Internetové vyhledávání a s ním spojené zisky z digitální reklamy jsou totiž integrální součástí byznysu Googlu. A byť je stále jedničkou, Microsoft má vnímat jako vážné ohrožení.

Právě tento závod, který se nedávno mezi firmami rozjel, začal Hinton kritizovat. Jeho hlavní obavou je, že takové systémy svět zaplaví falešným textem, fotografiemi a videi a běžný člověk ztratí schopnost rozpoznat, co je a co není pravda. Bojí se i toho, jaký dopad tato nová technologie bude mít na pracovní trh.

Zatím se sice mluví o tom, že by to mohlo například kancelářským pracovníkům pomoct, v budoucnu je ale podle Hintona a dalších možné, že je tyto systémy zcela nahradí. Už dnes například technologická firma IBM oznámila, že hodlá téměř osm tisíc míst nahradit umělou inteligencí. „Že tyto věci budou lepší než lidé, tomu věřil málokdo, já také ne. Myslel jsem si, že je to otázka třiceti nebo čtyřiceti let. Samozřejmě, že dnes už si to nemyslím,“ uzavírá.