Vytvořili jsme zázračný způsob, jak přimět myslet písek, říká klíčový muž světa AI. A bije na poplach
Demis Hassabis patří jako zakladatel laboratoře Google DeepMind k hlavním postavám rozvoje umělé inteligence. A říká, jak bychom ji měli regulovat.
Šéf Google DeepMind a jedna z nejzásadnějších postav světa umělé inteligence mluví o tom, co tato technologie přináší, poeticky a zároveň bez příkras. „V podstatě jsme našli způsob, jak přimět písek myslet. Je to zázrak,“ napsal Demis Hassabis ve svém rozsáhlém textu o tom, jak by lidstvo mělo k AI přistupovat. Slovy o písku, který dokáže myslet, glosuje fakt, že dnešní modely umělé inteligence běží na křemíkových čipech – a jejich schopnosti podle něj rostou tak rychle, že svět na ně není připravený. Proto přichází s konkrétním návrhem, jak by měl vypadat dohled nad AI.
Hassabisův text de facto automaticky rezonuje napříč celou technologickou společností i mimo ni. Devětačtyřicetiletý Londýňan totiž předloni získal Nobelovu cenu za chemii za rozluštění záhady skládání proteinů, a hlavně před dvanácti lety založil laboratoř DeepMind, kterou koupil Google za částku v přepočtu 12 miliard korun. Dnes na jejím výzkumu stojí klíčový model Gemini, jenž pohání celou AI ofenzivu Alphabetu, mateřské společnosti Googlu. Právě díky tomu bývá Hassabis řazen mezi spolutvůrce současného AI boomu.
Ve své eseji mluví o takzvané umělé obecné inteligenci (AGI) – systému, který by zvládal veškeré kognitivní schopnosti lidského mozku. Takovou technologii označuje za vzdálenou už jen pár let a její dopad srovnává spíše s objevem ohně nebo elektřiny než s vynálezy jako internet či mobilní telefon. „Až se v příštích desetiletích ohlédneme za touto dobou, myslím, že si uvědomíme, že jsme stáli na úpatí singularity – u ničeho menšího než úsvitu nového věku lidstva,“ píše Hassabis.
Sám říká, že na výzkumu obecné umělé inteligence pracuje celý život v přesvědčení, že při zodpovědném vývoji půjde o jednu z nejprospěšnějších technologií vůbec. Pokud se to podle něj podaří, mohla by AGI pomoci vyřešit některé z nejvýznamnějších problémů společnosti – od urychlení vývoje léků přes čistší zdroje energie až po nové materiály. Dopad přirovnává až k desetinásobku průmyslové revoluce, a to desetkrát rychlejšímu tempu.
V nejoptimističtější verzi by se svět podle Hassabise mohl dostat až do toho, čemu sám říká éra hojnosti: „Mohli bychom dokonce dosáhnout bodu, kdy zdroje přestanou být limitujícím faktorem lidského pokroku, což by vedlo k úžasné nové éře hojnosti.“ Zároveň ale varuje, že vývoj postupuje rychleji, než mu lidstvo rozumí. Svět je dnes podle něj uprostřed intenzivního komerčního i geopolitického závodu, který sice pohání pokrok, ale zároveň nechává chápání technologie pozadu za jejími schopnostmi.
Kyberbezpečnostní rizika jsou podle Hassabise patrná už dnes, s rostoucími schopnostmi modelů by ale mohla brzy přibýt i rizika jaderná a biologická. Nechybí ani obava z čím dál autonomnějších systémů schopných takzvaného rekurzivního sebezdokonalování, tedy zlepšování sebe sama bez zásahu člověka – i pro ně bude podle něj nutné vybudovat spolehlivé pojistky. Na podobná rizika přitom Hassabis upozorňuje dlouhodobě.
Nyní zakladatel laboratoře DeepMind rovnou navrhuje, jak dohled prakticky nastavit. Podle něj by americká vláda měla zřídit nový úřad, který by ještě před vypuštěním na trh testoval bezpečnost nejvyspělejších modelů. Zdůrazňuje přitom, že by nemělo jít ani o čistě odvětvovou samoregulaci, ani o klasickou byrokratickou agenturu, která by podle něj „nedokázala držet tempo, ani by neměla ty správné zdroje“.
Čas je krátký, hodina pozdní. Něco se musí udělat, a to teď.
Jako vzor uvádí FINRA, amerického regulátora finančních trhů, který funguje jako partnerství soukromého sektoru se státem: financovaný z velké části samotným odvětvím, ale s pravomocemi delegovanými od státu. Nejvyspělejší modely by se podle jeho návrhu označovaly jako „frontier“ neboli špičkové, a to podle splnění prahových hodnot na vybraných testech schopností – nikoliv podle výpočetního výkonu použitého při tréninku, jak navrhovaly dřívější plány USA a Evropské unie.
Jejich tvůrci, takzvané frontier laboratoře, by pak měli dodatečné povinnosti: zveřejňovat technické detaily, udržovat silné interní zabezpečení, prověřovat klíčové zaměstnance a vyčlenit dostatek zdrojů na bezpečnostní výzkum. Testování by se mělo zaměřit především na kybernetickou bezpečnost, biologická rizika a schopnost modelu obcházet bezpečnostní pojistky nebo klamat. Zpočátku by laboratoře své modely úřadu předkládaly dobrovolně, a to až 30 dní před vydáním, jakmile by se ale testovací protokol osvědčil, mělo by se to stát povinným – bez úspěšného testu by žádný model nesměl na americký trh.
Jak připomíná The Economist, podobný, byť ne totožný přístup navrhl začátkem měsíce v komentáři pro Financial Times šéf OpenAI Sam Altman. Oba muži se shodují na tom, že nový dohledový orgán by měl stanovovat standardy, analyzovat rizika a zajistit, aby k nejpokročilejším modelům měly přístup jen země, které se k iniciativě připojí. Zatímco Altman volá po mezinárodně koordinovaném úsilí pod vedením USA, Hassabis dává přednost tomu, aby Spojené státy jednaly jako první bez čekání na širší shodu.
Ostatní země se podle něj k pravidlům časem přidají samy, aby si udržely přístup k americké technologii a trhu, a dlouhodobě by se to mohlo týkat i Číny. Podle The Economist byly oba návrhy nedávno předloženy světovým lídrům na summitu G7 ve Francii. Hassabis zároveň přiznává, že úspěch jeho návrhu není jistý. „Žádný návrh není imunní vůči tomu, aby byl špatně provedený. Existují samozřejmě verze tohoto plánu, které by nebyly příliš užitečné,“ říká a dodává: „Čas je krátký, hodina pozdní. Viděli jsme kybernetickou hrozbu a přicházejí mnohem vážnější věci. Něco se musí udělat, a to teď.“
