Regulovat, či neregulovat? To je otázka, o které často diskutují politici s byznysmeny a mnohdy se na ní vůbec neshodnou. V případě umělé inteligence je to trochu jinak. Jeremy Rollison je přední muž Microsoftu v rámci Evropské unie, specializuje se na digitální politiky i regulační otázky a říká, že regulaci umělé inteligence vítá. Rychle však dodává, že musí mít své hranice a rychle se rozvíjející technologii nesmí v žádném případě zastavit. „Musí se dosáhnout správné rovnováhy,“ říká v rozhovoru pro CzechCrunch.

Oficiální titul Head of EU Policy přisuzuje Jeremymu Rollisonovi pozici hlavního styčného důstojníka Microsoftu v Bruselu, kde v byla v posledních letech jedním z největších technologických témat regulace umělé inteligence (AI). Také do ní Microsoft významně investuje, patří mu například značný podíl ve společnosti OpenAI stojící za ChatGPT, vyvíjí vlastní AI nástroj Copilot a podporuje i některé evropské projekty. A tak ho zajímalo, jak Evropská unie s regulací umělé inteligence naloží.

„Byl to nakonec dlouhý proces, ale je to dobrý příklad toho, jak náročné může být dosáhnout správné rovnováhy, když se technologie vyvíjejí tak rychle,“ říká Jeremy Rollison s odkazem na europarlamentem nedávno schválený AI Act, což jsou první regulatorní pravidla pro umělou inteligenci na světě. V rozhovoru vysvětluje, proč je tento krok správný, na co by si měli dát zákonodárci pozor a čím může mít Evropská unie navrch proti USA a naopak.

Často se hovoří o tom, že Evropská unie je příliš regulovaná, což brzdí rychlost inovací a technologického pokroku. Co si o tom myslíte?
Právě toto téma bylo velkou součástí debaty, která se v Bruselu kolem AI Actu vedla. Jde o to, aby se dosáhlo správné rovnováhy mezi flexibilitou pro inovace a jasnými pravidly, která zajistí v umělou inteligenci důvěru. A to se snáze řekne, ale obtížněji udělá. Když vidíme, jak se tato technologie rychle posouvá, tak si myslím, že Evropská unie zaslouží pochvalu za to, že se mnoha otázkami zabývala včas. Někdy je těžké držet krok.

Zároveň si nemyslím, že je to debata o tom, zda regulovat, nebo ne. Ostatně jsme sami důrazně volali po regulaci některých částí umělé inteligence. Klíčová je nicméně jasnost takové regulace. Mnoho společností i našich zákazníků vyjadřovalo obavy z nadměrné regulace, ale vše je teprve na začátku. Musíme sledovat, jak se bude vše zavádět do praxe, a já chci zatím v tomto ohledu zůstat optimistou.

Překvapilo vás, že EU reagovala tak rychle?
Současná Evropská komise byla v digitálním prostoru velmi aktivní a v moha oblastech postupovala rychleji, než někteří očekávali. O umělé inteligenci se v rámci EU diskutovalo už v roce 2018. Zvolil se poměrně uvážlivý přístup a myslím, že se postupovalo dobře. Pak ale přišel ChatGPT a zákonodárci se museli ujistit, že nová pravidla, která vymýšlejí, budou schopna rychle se rozvíjející technologii vůbec obsáhnout. Byl to nakonec dlouhý proces, ale je to dobrý příklad toho, jak náročné může být dosáhnout správné rovnováhy, když se technologie vyvíjejí tak rychle.

Co přesně zmiňované dosažení rovnováhy znamená? Které oblasti by podle vás měla regulace obsáhnout a které ne?
Klíčové je, aby se regulace zaměřila na vysoce rizikové scénáře, které se týkají například toho, jak mohou systémy umělé inteligence ovládat kritickou státní infrastrukturu, protože to by mohlo mít výrazné dopady na životy nás všech. To je správný přístup. Zároveň je třeba rozlišovat jednotlivé úrovně vývoje umělé inteligence, kde lidé pracující na infrastruktuře mají úplně jiné povinnosti a možnosti než lidé, kteří pak na ní staví konkrétní aplikace a služby. Chceme, aby regulace zohledňovala tyto různé úrovně. Zjednodušeně řečeno jde o to, aby se našla správná rovnováha, která zamezí nejhorším scénářům, ale zároveň ponechá prostor pro další rozvoj této technologie.

Jsou nějaké další oblasti, které by podle vás měla regulace určitě postihnout?
Vedle zmíněné kritické infrastruktury se obavy často týkají třeba biometrické identifikace a využívání těchto technologií vládami, a to je v rámci AI Actu zohledněno. Hledání rovnováhy tkví i v tom, že díky umělé inteligenci můžeme například dělat pozitivní věci v kontextu vymáhání práva, ale zároveň je potřeba zavést opatření, aby v jiné oblasti tato technologie neohrozila jiná základní lidská práva.

V současné době je také aktuální otázka týkající se takzvaných deepfakes, tedy realisticky působících upravených videí či fotografií, a to v souvislosti s volbami. Microsoft spolupracuje s dalšími společnostmi, abychom se pokusili zajistit určitou transparentnost, která přispěje ke zmírnění některých podvodných způsobů využívání umělé inteligence. Třeba aby uživatelé poznali, pokud se dívají na nějaké video s politikem, které bylo vygenerované umělou inteligencí.

Foto: Microsoft

Jeremy Rollison, šéf Microsoftu pro regulaci

Jak vypadají vaše diskuze s regulatorními orgány? Předpokládám, že spolu v různých otázkách spíše nesouhlasíte?
Je to hlavně o naslouchání, protože dialog je v tomto ohledu nesmírně důležitý. Řešení některých výzev spojených s umělou inteligencí nepřinesou samy technologické společnosti a nezvládnou to ani samy vlády. Je pro nás důležité naslouchat tvůrcům politik, abychom lépe pochopili, jaké jsou jejich obavy a jaký typ řešení chtějí vidět. Chceme společně najít řešení, díky kterému nezastavíme inovace, ale zároveň se budeme zabývat možnými riziky, která s sebou nová technologie přináší.

Samozřejmě jsou momenty, kdy se na konkrétních opatřeních nemusíme stoprocentně shodnout, ale myslím si, že se shodujeme častěji, než si mnozí myslí. Shodneme se především na tom, že umělá inteligence může být zneužita, a právě na to by se měla regulace zaměřit. A jelikož se pohybujeme v prostoru, který už je regulací tak svázaný, tak neřešíme, jestli vůbec, ale jak správně regulovat.

Probíhá tato debata i ve Spojených státech, kde bývá regulace mírnější?
Ve Spojených státech je přístup k tvorbě regulací odlišný, ale i tam debata probíhá. V loňském roce prezident Joe Biden podepsal exekutivní příkaz, který upravuje způsoby, jimiž například federální úřady a další instituce využívají technologie spojené s umělou inteligencí. Také Američané se pochopitelně zaměřují na bezpečnostní stránku věci.

Vítáme, že takové diskuze probíhají na mezinárodní úrovni, zejména mezi Spojenými státy a Evropskou unií a zeměmi G7. Je to naprosto klíčové, protože umělá inteligence je technologie, která překračuje hranice, a proto je důležité, aby byly základní přístupy mezinárodně sladěné. Nechcete, aby se jeden stát vydal zcela jiným směrem než druhý, a to jak kvůli důsledkům pro samotnou technologii, tak případně i pro daný stát.

Jaký je přístup Microsoftu v rámci regulačního prostředí? Musíte například nějak omezovat své aktivity v Evropě?
Jsem rád, že mohu říci, že zatím nic takového nepozorujeme a neřešíme. Pracujeme na tom, aby veškeré naše produkty a služby splňovaly příslušné předpisy, a naštěstí zatím nebylo příliš mnoho příkladů služeb, které by musely být omezeny nebo zavřeny. Je to nicméně rychle se měnící prostor, který budeme sledovat.

Zdá se totiž, že zatímco Evropa je poměrně pomalá ve vývoji inovací, je velmi rychlá v jejich regulaci. Na druhé straně jsou Spojené státy a mnohem větší volnost. Neznevýhodňuje to Evropu?
Evropská unie rozhodně nastavuje regulatorní standard, který se do určité míry snaží v jiných částech světa následovat. Jde o rychle se vyvíjející oblast, v níž se chtějí všichni dostat dopředu v rámci inovací. Flexibilnější regulatorní rámec to umožňuje snadněji, než když jsou pravidla příliš normativní. Daří se v tomto ohledu dosáhnout Evropě správné rovnováhy? Stále si myslím, že je brzy soudit. Navzdory titulkům v médiích je důležité připomenout, že AI Act ještě nevstoupil v platnost.

Jiné regiony upřednostnily inovace, ale také jinde se už stále více zaměřují i na některé nejrizikovější scénáře. Myslím, že Evropská unie chápe, že je potřeba nastavit taková pravidla, aby i místní hráči mohli rychle pokračovat v inovacích. Naším zájmem rozhodně není, abychom museli najímat stovky právníků, ale chceme najímat hlavně nové inženýry.

Je to hypotetická otázka, ale nechovala by se Evropská unie jinak, kdyby sama měla nějakou výraznou společnost v oblasti umělé inteligence, kterých je v USA mnoho? Zatímco USA podporují své firmy a dávají jim větší volnost, EU je hlavně reguluje.
My rozhodně podporujeme vznik dalších šampionů v oblasti umělé inteligence v Evropě. Je důležité mít na paměti, že mohou mít různé formy. V rámci technologie umělé inteligence je řada vrstev, nejde jen o samotné aplikace a služby, ale také infrastrukturu, která je neméně klíčová. Už teď existují příklady opravdu zajímavých evropských společností, které vyvíjejí základní modely umělé inteligence. Ostatně Microsoft například nedávno investoval do francouzského startupu Mistral.

Podporujeme i řadu dalších společností, protože umělá inteligence vyžaduje partnerství. Je jen málo firem na světě, které to zvládnou samy. Čím větší rozmanitost na trhu bude a čím více hráčů, tím bude větší výběr, a to je vždy dobré pro zákazníky a také pro ekonomiku. Proto podporujeme, aby se objevovali další významní hráči také v Evropě, a myslím, že Evropská unie není proti. Je ale potřeba naslouchat, co takové nově vznikající firmy potřebují, kde mají překážky růstu a jak si mohou vzájemně pomoci.

Je něco konkrétního, co může Evropa udělat více, aby v této oblasti lépe konkurovala Spojeným státům?
Myslím, že by prospělo trochu více dialogu s těmi, kteří jsou na špici vývoje. V Bruselu jsou lidé někdy příliš vzdálení od míst, kde se samotné inovace odehrávají. Pro mě je vždy osvěžující dostat se mimo Brusel a navštívit hlavní města po celé Evropě, kde často vidíte kolem umělé inteligence velké nadšení. V Evropě je spousta talentu a bylo by zklamání, kdybychom o něj z jakéhokoli důvodu přišli. Evropská unie by proto měla s předními společnostmi více debatovat, aby lépe pochopila, jakým překážkám čelí a co může udělat pro to, aby mohly být jejich produkty úspěšně v globálním měřítku.