Šéf OpenAI jede na tygrovi a vysmívá se. I muži, který teď dostal Nobelovku, varuje Michal Pěchouček
Profesor ČVUT, investor a přední expert na umělou inteligenci v jedné osobě hodnotí Nobelovy ceny za fyziku a chemii pro průkopníky AI.
Michal Pěchouček, profesor a technologický ředitel Genu (dříve Avast)
Udílení Nobelových cen bylo letos ve znamení umělé inteligence a tak trochu i Googlu. Ne snad, že by je jedno či druhé řídilo, ale laureáti cen za fyziku a za chemii patří k naprosté špičce ve vývoji AI a shodou okolností oba založili firmy, které pak za stovky milionů dolarů koupil největší internetový vyhledávač. Jména Geoffreyho Hintona a Demise Hassabise sice širší veřejnosti možná nejsou známá, ale v oboru jsou legendy. „Toto ocenění je určitým záznamem, že společnost fenomén AI bere vážně,“ říká Michal Pěchouček, muž, v jehož profesním příběhu se také spojuje špičková věda a byznys.
Dvaapadesátiletý Pěchouček patří k průkopníkům umělé inteligence a kybernetické bezpečnosti v Česku, ještě jako profesor na ČVUT pracoval se svými studenty třeba na projektech pro americkou armádu. Následně s Martinem Rehákem založili firmu Cognitive Security, kterou v roce 2013 prodali za desítky milionů dolarů do rukou americké softwarové společnosti Cisco, a vysloužili si statut startupových a venture kapitálových pionýrů.
Pěchouček posledních pět let strávil v roli technického šéfa globální, původně české antivirové společnosti Avast, jež se po spojení s konkurentem NortonLifeLock přejmenovala na Gen. Z ní letos na jaře podobně jako její dlouholetý šéf Ondřej Vlček odešel a nyní se věnuje hlavně investování do AI startupů pro mezinárodní fond Evolution Equity Partners. Kromě toho je i sám aktivní jako investor, prostředky vložil třeba do projektu Resistant AI, za nímž stojí jeho dávný byznysový souputník Martin Rehák a který CzechCrunch nedávno zařadil mezi desítku nejnadějnějších českých startupů.
Současně s tím je ale Michal Pěchouček pořád aktivní na akademické půdě a stojí v čele Centra umělé inteligence na ČVUT. S kým jiným tedy probrat, co to znamená, že dvě Nobelovy ceny letos získali přední AI výzkumníci? Geoffrey Hinton, průkopník neuronových sítí, se stal laureátem ceny za fyziku. A Demis Hassabis, spoluzakladatel slovutné londýnské laboratoře DeepMind, dostal cenu za chemii. Jak se o ně zasloužili? Čím se od sebe liší? A co na nich viděl Google?
Nastartujte svou kariéru
Více na CzechCrunch JobsCo vám blesklo hlavou, když jste se dozvěděl, že Geoffrey Hinton dostal Nobelovku za fyziku?
On to byl hlavně John Hopfield a Geoffrey Hinton. A mně okamžitě bleskly hlavou Hopfieldovy sítě, o kterých jsem se učil, když jsem studoval na Univerzitě v Edinburghu. Tedy na stejné univerzitě, kde dřív studoval i Geoffrey Hinton. To byl můj první kontakt s umělou inteligencí.
O co jde?
Hopfieldovy sítě jsou první modely asociativních pamětí tvořené pomocí sady umělých výpočetních neuronů. On je jako fyzik navrhl a napsal o tom mnoho článků. Když jsem se o tom učil, což bylo před 30 lety, říkalo se, že to je sice zajímavá varianta, ale že bude uskutečnitelná a funkční až jednou, někdy, možná… Řešilo se, že aby to mohlo jet v opravdu velké škále, budou potřeba tak výkonné počítače, jaké se jen tak nepodaří sestavit. A podívejte, kde jsme dnes. Já si každopádně ze školy pamatuju zkratku: Hopfieldovy sítě jsou zajímavý nápad, ale pro reálné problémy nebudou fungovat.
Zároveň je fakt, že to bylo v 90. letech, kdy doznívala první AI euforie a nastupovala AI zima. Převládal směr různých expertních systémů, plánovačů, řešičů… Prostě spíš algoritmická umělá inteligence. A neuronové sítě byly naopak vnímány jako libůstka pár zvláštních lidí, na jejichž praktickou užitečnost nikdo moc nesázel.
A kromě toho vám ještě něco blesklo hlavou?
Ano, řekl jsem si: „Konečně!“ Měl jsem za to, že podobně jako Haruki Murakami čeká na Nobelovu cenu za literaturu a nejspíš ji nikdy nedostane, tak i umělé inteligenci se toto ocenění nakonec vždycky vyhne. Byl jsem překvapený, je to určitým záznamem, že společnost fenomén AI bere vážně. Za což jsem rád, protože jde o něco, co má transformativní ráz. A práce Hopfielda a Hintona transformativní je.
Michal Pěchouček, bývalý technický šéf Avastu
V čem?
Hopfield byl první, kdo neuronové sítě popsal. Po něm přišly tisíce dalších vědců a doktorandů, kteří přispěli k rozvoji neuronových sítí až k předtrénovaným generativním transformerům, tedy technologii, která stojí za velkými jazykovými modely. Ale on byl průkopník. A Hinton ukázal, jak se dají neuronové sítě vytrénovat, jak se dají naučit, jak do nich cpát pod velkou parou masy dat, což vede k tomu, že neuronové sítě se pak přepočítávají odshora dolů, ale i směrem nahoru. Právě on vymyslel, jak to dělat.
Dá se o Hintonovi s Hopfieldem hovořit jako o OGs moderního výzkumu umělé inteligence? Tedy o těch pověstných original gangsters čili pionýrech oboru?
Hopfield je spíš fyzik. Hinton je ale godfather, on je legenda. Je to průkopník hlubokého učení. Se svým týmem zkoumal, jak síť učit, aby dokázala vyjevovat složitější chování a uměla řešit sofistikovanější problémy. Ukázal, že hloubka se dá zvětšovat a že čím víc dat síť dostává k učení, tím roste i její výkon.
Geoffrey Hinton je fundamentální postava i tím, jací lidé mu prošli pod rukama (například spoluzakladatel OpenAI Ilya Sutskever nebo hlavní AI vědec Mety Yann LeCun), a to jak na univerzitě v Torontu, tak následně v Googlu…
Ano a je zásadní postavou i proto, že výrazně ovlivnil to, jak se umělá inteligence v posledních dvaceti letech dělá. Zároveň zafungoval i jako vzor pro mnoho vědců – ti teď vědí, že když pochopí, jak něco složitého funguje, mohou své poznání aplikovat nejen na univerzitě, ale i v byznysu.
On v podstatě předpověděl finanční potenciál umělé inteligence, když Google v roce 2013 koupil za stovky milionů dolarů jeho univerzitní projekt DNNresearch. Ten uměl s pomocí neuronové sítě rozpoznávat obrázky a pracovat s nimi.
Je to tak. A je pozoruhodné, jak Google, který se dnes chová jako jeden z monopolů, dokázal tehdy mohutně investovat do výzkumu. To mu umožnily právě enormní zisky z vyhledávání. Dneska se na to trochu zapomíná, ale dlouho byl hlavním motorem ve vývoji strojového učení Google a Microsoft měl sice nějaké své výzkumné aktivity, ale nehrál prim. A právě po akvizici DNNresearch byl v Googlu Hinton, který až loni z firmy odešel. A byl tam i projekt DeepMind.
A to se dostáváme k Demisi Hassabisovi, který DeepMind založil, dodnes ho vede a který pár dní po Hintonovi dostal také Nobelovku, ovšem za chemii.
Hassabis se od jiných AI vědců liší, protože nepochází z univerzitního prostředí. Není to typický akademik ani profesor jako Hinton. Býval úspěšným vývojářem počítačových her, ale hlavně založil startup DeepMind, protože ho fascinovaly kognitivní vědy. V době, kdy převládajícím trendem bylo strohé strojové učení, on nepřestal věřit složitější umělé inteligenci, kde se strojové učení doplňuje s kombinačními metodami, se simulacemi, s plánováním, s uvažováním. Proto se jeho týmu nakonec podařilo s projektem AlphaGo porazit lidského hráče ve hře Go, což je jeden z milníků vývoje AI. Už to ale bylo v barvách Googlu, který DeepMind koupil v roce 2014 a začlenil ho do své výzkumné sekce.
Jak to ale souvisí s chemií?
Hassabisovou vášní byl a je medicínský výzkum. Nejprve pomohl vyvinout systém, který z obrázků sítnice lidského oka dokáže detekovat vznikající zelený zákal deset let dopředu. To je fantastický výsledek. V podstatě ve chvíli, kdy měli v DeepMindu pohromadě systémy na různé typy náročných her, se začal víc a víc věnovat medicíně a aplikaci AI v ní.
Dalším krokem po glaukomu bylo, že se rozhodl vytrénovat umělou inteligenci tak, aby uměla modelovat strukturu skládání proteinů. Jde o velký problém, který se řeší v různých aspektech biologie. Když například navrhujete novou vakcínu, potřebujete vědět, jak se proteiny budou chovat v různých situacích. Za normálních podmínek je na něco takového potřeba ohromné množství času, musíte provádět experimenty, testovat, zkoušet. Jenže on přišel na to, jak výsledek vygenerovat v počítači. Perfektní výsledek.
Geoffrey Hinton, kterému se přezdívá kmotr umělé inteligence
Takže jde o praktickou ukázku toho, o čem se občas hovoří, totiž že umělá inteligence nám může zásadně pomoct ve výzkumu a poznání, protože urychlí procesy, které by jinak trvaly roky.
Přesně. A je to i moje osobní téma. Já jsem v něčem technopesimista a v něčem technooptimista. Jsem přesvědčen, že když AI správně zapojíme, může nám velmi akcelerovat vědecký pokrok. Jako bývalý vědec dobře vím, jak těžké je vygenerovat nápad a identifikovat, kde je ta pověstná díra příležitosti. Jsou to měsíce a roky zkoušení a mravenčí práce. Tomu může umělá inteligence opravdu hodně pomoct a DeepMind a cena pro Hassabise je toho dokladem.
Neměl jste mimochodem některé studenty, kteří odešli do DeepMindu?
Měl. Několik studentů z ČVUT a Karlovy univerzity tam působilo. Vymysleli AI systém DeepStack, tedy nástroj, který dokáže porazit člověka v pokeru. Je tam česko-slovenská stopa, kluci byli lídři týmu, který algoritmus postavil. Měli tam klíčovou roli. Vznikl, když působili na univerzitě v kanadské Albertě. Poté, co Google koupil DeepStack, ho začlenil právě pod DeepMind.
Oni už tam ale nepůsobí, že?
Už ne, teď jsou v Praze a založili tady EquiLibre Technologies, což je firma, která vyvíjí nástroje pro algoritmický trading na bázi umělé inteligence.
Jsem přesvědčen, že když AI správně zapojíme, může nám velmi akcelerovat vědecký pokrok.
A co vám blesklo hlavou u Demise Hassabise, když jste se dozvěděl, že dostal Nobelovku?
Že je skvělé, že to je z Evropy. Asi to nebyl záměr, ale DeepMind je nejhlubší stopa Evropy ve vývoji umělé inteligence, takže jsem byl hrdý. AI má v Evropě i v Česku tradici a toto je důkaz. A pak já podobně jako on hodně věřím v propojení AI a zdravotnictví.
Vezměte si, že Google, který postupně začal ztrácet na OpenAI, pověřil Hassabise řízením celé své AI divize, kam spojil jak jeho DeepMind, tak druhý velký projekt Google Brains, pod nímž působil do loňska i Geoffrey Hinton. Byl tam jasný tlak na výsledek, soutěžili s Microsoftem. Navzdory tomu teď svět Hassabise oceňuje za to, co udělal pro medicínu a na co si nechal kapacitu, i když už byl v Googlu, respektive teď v Alphabetu. Mimochodem vede i firmu Isomorphic Labs, což je startup Googlu právě pro rozvoj AI pro medicínu.
Není určitým vzkazem i to, že jak Hinton, tak Hassabis varují před potenciálním nebezpečím, které AI může znamenat pro lidstvo?
Přemýšlel jsem o tom a došlo mi, že kdyby to opravdu mělo být poselstvím, Nobelovu cenu za mír by vyhrál Stuart Russell. Je to samozřejmě nadsázka, ale Russell je slavný profesor z univerzity v Berkeley, je také jedním ze zakladatelů moderní AI a posledních deset let brojí za bezpečnou umělou inteligenci. Je zakladatelem Institutu pro bezpečnou umělou inteligenci, je velkým proponentem opatrného přístupu a jeho názory mají opravdu velký vliv.
Myslím, že u Hassabise je cena za chemii prostě a jen oceněním jeho skvělé práce. U Hintona jde o ocenění za rozvoj umělé inteligence a toho, jak ji učit. Nejde o nic víc. Oba sice podepsali mezinárodní petici varující před unáhleným rozvojem AI, ale to podepsal i Elon Musk a jeho za výkvět bezpečnosti AI nepovažuju. Každopádně Hassabis je podle mě takový zdravý skeptik a Hinton silný skeptik, co se AI týče. Ale není to kauzální jev.
Geoffrey Hinton vzešel z Torontské univerzity. Čím to je, že zrovna v Kanadě se podařilo stvořit takový AI hub? Torontská univerzita je přece v odborných kruzích velmi uznávaná.
To ale není zásluha Hintona, který je sice špičkovým vědcem, ale není lídrem, který by stavěl instituce. To je důsledek toho, že se Kanada včas rozhodla a podchytila trend. Podporovala univerzity, podporovala imigraci expertů, vyzobali ty nejlepší na trhu, nastavili pobídky pro startupy, kanadská vláda zkrátka pomohla vybudovat celý AI ekosystém. A nejde jen o Toronto, špičková AI pracoviště jsou i v Montréalu a v Edmontonu. Na Hintonovi mě víc než toto ale fascinuje, jak se nechal koupit Googlem a jak se s tím vypořádával.
V jakém smyslu?
Pozor, nemyslím to zle. My vědci máme společné dvě věci: zajímá nás budoucnost a cítíme odpovědnost za minulost. On, a já to mám stejně, cítí spoluodpovědnost za to, co umělá inteligence působí a co působit bude. Korporace jako Google je v tomto ale do určité míry omezující. Hinton je ovšem vizionář, kouká se dál. I proto z Googlu před rokem a půl odešel, aby mohl upozorňovat na rizika. A docela mě mrzí, když vidím, jak ho mnozí ze Silicon Valley i odjinud zesměšňují.
Proč?
Má velkou životní i profesní zkušenost. Lidé jako Sam Altman se mu ale vysmívají. Říkají, ať je nestresuje nějakými doomsday teoriemi. Znevažují jeho názory.
Neozývá se teď ale čím dál víc hlasů, které na nebezpečnost rychlého pokroku uvnitř OpenAI upozorňují? Z okolí Sama Altmana odchází mnoho elitních kolegů, naposledy Mira Murati…
Jenže právě na tom je vidět, jak všichni, kteří tomu nějak rozumí, sice tahají za záchrannou brzdu, ale Sam Altman jede na tygrovi dál. On zrychluje a na všechny se směje. Teď nabral miliardy dolarů a z OpenAI už je nikoli neziskovka, ale normální komerční podnik s rekordní valuací 160 miliard dolarů. Všechno mu vychází, Microsoft mu jde na ruku. On je král a vyhrává.
Vy máte z OpenAI obavu? A jsou ty jejich nové produkty opravdu tak převratné?
Jsou dobří, to se musí nechat. Na OpenAI je ale vidět, jak peníze fungují jako pohonná hmota. Microsoft do firmy nevložil miliardy jen tak, chce výsledky. A tak se Altman musí ohánět. Peníze musí pracovat a mají vliv na technologii samou. Bohužel se neinvestuje do bezpečnosti umělé inteligence ve stejném rozsahu jako do vývoje jazykových modelů. Že by třeba Microsoft řekl, že díky sázce na AI jeho valuace stoupla o bilion dolarů, a tak že věnuje sto milionů dolarů ročně na výzkum obrany proti jejímu zneužití. To se naneštěstí neděje.
Nepřehlédněte:
