Inteligentní roboti a chytří asistenti s hlasem jako z oscarového filmu… Občas to vypadá, že žijeme ve světě z pera hollywoodských scenáristů. „Když jsem v roce 2009 vyučovala právní aspekty ovládání přístrojů lidským mozkem, brain-computer interfaces, měli mě na univerzitě za blázna,“ říká pro CzechCrunch právnička Alžběta Solarczyk Krausová, která zkoumá technologie z právního pohledu. Od zmíněného roku ale uběhl nějaký čas a to, co se zdálo šílené, je teď realitou. Umělá inteligence v ní kromě pozitiv skrývá i problémy, jak podle právničky ukazuje i její oblíbený žánr: science fiction.

Umělá inteligence nás podle Solarczyk Krausové „nutí zamýšlet se nad tím, v jaké společnosti chceme žít“. Zamyslela se i Evropská unie, jejíž členské státy na konci května finálně potvrdily nová pravidla pro fungování AI v podobě Aktu o umělé inteligenci. Ten rozděluje technologii do několika kategorií podle rizika použití. Mezi těmi, které přímo zakazuje, jsou třeba systémy určené k podprahové manipulaci nebo biometrickému třídění lidí podle genderu, sexuální orientace či politického přesvědčení.

Solarczyk Krausová byla blízko vyjednáváním o Aktu o AI. Byla členkou Expertní skupiny pro odpovědnost a nové technologie při Evropské komisi nebo expertkou za Česko při vyjednávání návrhu doporučení na etiku umělé inteligence UNESCO. Zákon se v Evropě řešil od roku 2021, tedy i během českého předsednictví v roce 2022. Nyní je hotovo pod dohledem Belgie.

K zemi Beneluxu má Solarczyk Krausová blízko. Působila na tamní Katolické univerzitě v Lovani a zůstala tam i poté, když si na dálku dělala doktorát na Masarykově univerzitě v Brně. Z Belgie se přesunula do Izraele a ze zahraničních zkušeností teď těží. Jeden příklad za všechny: ovládá devět jazyků a ve třech z nich – angličtině, holandštině a hebrejštině – přednáší.

Nedávno se navíc z akademické půdy vrhla i do byznysového světa, když si, jak říká, splnila sen založením poradenské firmy Respectful AI. Chce v ní společnostem i jednotlivcům zajistit, že se jim z umělé inteligence nezamotá hlava. V rozhovoru pro CzechCrunch vypráví i o tom, jaké ponaučení pro dnešek plyne z dávných sci-fi knih Isaaca Asimova nebo jaké bylo setkání s prvním kyborgem na světě, jehož příběh navíc tak trochu souvisí s Českem.

Nedávno společnost OpenAI narazila, když hlas modelu její umělé inteligence nápadně připomínal hlas herečky Scarlett Johansson z filmu Her. Viděla jste ten snímek?
Žánr sci-fi mám moc ráda, ale ten jsem zrovna neviděla.

Jaký konkrétní film nebo knihu máte ráda?
Fascinuje mě seriál Black Mirror. Jeho tvůrci ukazují, jak je možné technologie využít i zneužít. A hodně mě formovala kniha Roboti a Androidi, což je soubor povídek, které vykreslují různé scénáře související s umělou inteligencí. Jedním z nich je, že se vloží lidský mozek do robota. O tom jsem mimochodem psala svou disertační práci: právní aspekty robotů s biologickým mozkem. Také Dvěstěletý člověk Isaaca Asimova je naprosto úžasný. Ptá se tam na podstatu lidství. Robot v knize získá hodně peněz, nechá si vyměnit součástky za biologické orgány a chce být uznán za člověka. To ale lidé odmítnou. Za člověka je uznán až v momentě, když si dobrovolně poškodí mozek a začne umírat. Takže je to smrtelnost, která nás odlišuje od strojů.

Roboti s lidskými mozky, to zní také jako sci-fi. Byť je pravda, že technologie napojené na člověka jsou stále běžnější.
Technologie robotů s biologickými částmi se vyvíjí už od roku 1999, kdy první experiment propojil nervovou soustavu mihule mořské s robotem. Dnes už máme roboty, kteří mají mozek z krysích neuronů, a lze udělat i to, že vnoříte lidský mozek do robota. Většinou to funguje tak, že vezmete kmenové buňky z pokožky a vytvoříte z nich lidské neurony. Takovému výzkumu se hodně věnují ve Spojených státech. Já jsem se s ním seznámila díky lidem z Technionu, Izraelského technologického institutu, který je hned vedle Haifské univerzity, kde jsem se v rámci studia zabývala i takzvanými brain-computer interfaces, kdy snímáte mozek člověka a pomocí toho ovládáte přístroje.

Čili technologie na způsob mozkových čipů od Neuralinku Elona Muska a dalších firem?
Přesně tak. Když jsem v roce 2009 vyučovala právní aspekty brain-computer interfaces, měli mě na univerzitě za blázna. Jsou známé experimenty, kdy se propojil člověk s opicí, opici se vypnula část mozku, která ovládá ocas, a člověk napojený na její nervovou soustavu ovládal její ocas. Nebo opici napojili na robotickou paži a ona se s ní naučila loupat banán. Dnes už je to ale velmi aktuální a lidé navrhují nová lidská práva související třeba s monitorováním mozku: právo na kognitivní svobodu, tedy neovlivňování mentálních procesů, právo na soukromí myšlenek, právo na mentální integritu, čili zákaz ovládání mozkových implantátů z vnějšku, a právo na psychologickou kontinuitu, tedy na to, aby vám někdo nemazal a nevkládal vzpomínky. Dokážeme dnes totiž z člověka udělat flash disk, ideální pro špiony.

Do toho jsem se také setkala s profesorem Kevinem Warwickem, který je prvním kyborgem na světě. Nechal si nejprve voperovat RFID čip (technologie, na které fungují třeba bezkontaktní platby – pozn. red.) do ruky, a když chodil po univerzitě, otevíral si dveře a podobně. Pak si nechal udělat vývod z ruky napojený na robotickou paži. Nakonec se nechala operovat i jeho žena Irena, která je mimochodem z Česka, takže polovinu času trávili v Praze na Žižkově, polovinu ve Velké Británii. Tím, že byli s manželkou propojeni různými implantáty, zažívali hrozně zvláštní pocity. Když třeba Kevin pohnul rukou, Ireně v té její prý několikrát škublo.

Vidím, že bychom se o robotice mohli bavit dlouho. Jak u vás zájem o taková témata začal?
Odmala mě zajímala věda, lidská mysl a poznání. Věci, které nemají hmotnou formu. Byla jsem snílek. Rodiče mě ale nasměrovali na studium práv, abych se dostala i do praktické roviny. V rámci studia jsem si mohla vybrat zaměření a zvolila jsem komunikační a informační technologie. O science fiction a o posouvání hranic už jsme mluvili, AI tak byla přirozená volba.

Na druhou stranu se toho ale i tak trochu bojím. Jak se říká, s velkou mocí přichází velká odpovědnost. Bohužel sice vidíme překotný vývoj AI, ale vedle toho sledujeme, že se jako lidstvo nevyvíjíme dostatečně rychle morálně. Dokážeme technicky více než eticky a morálně. Navíc tím, jak je AI rozšířená, je odpovědnost nutná nejen u pár vyvolených, ale u nás všech. Pokud chcete zjistit charakter člověka, dejte mu do rukou umělou inteligenci.

Vy aktuálně máte profesně takové dvě polohy, protože kromě akademické práce jste se nedávno pustila i do byznysových vod.
Myslím, že podnikatelská a akademická sféra by si měly pomáhat. A dlouhodobě jsem nějaký byznys založit chtěla, takže startup Respectful AI je takový splněný sen. Cílem je pomáhat jednotlivcům i firmám k tomu, aby si z té technologie vzali to nejdůležitější a aby s ní pracovali zodpovědně a s respektem. Firmy dnes zjišťují, že se na ně toho valí tolik, že vlastně neví, co potřebují. Zjišťují, že si v určitých odvětvích musí vytvořit etický kodex, samozřejmě se zajímají i o zefektivnění pracovních procesů. Jsou to třeba advokátní kanceláře, finančnictví, bankovnictví, marketing.

Je pravda, že AI jde rychle dopředu a že to, co systémy neuměly před pár měsíci, teď zvládají levou zadní. Snaží se na to reagovat i právo. EU v tomto ohledu nedávno finálně schválila Akt o umělé inteligenci. Jak se z právního pohledu reguluje technologie, která se vyvíjí takovým tempem?
Je to výzva. Právu v souvislosti s umělou inteligencí se věnuji od roku 2006 a zjišťuji, že se právníci v tomto ohledu musí opírat o konkrétní stěžejní principy, které budou mít dlouhodobou platnost. Ty jsou i v Aktu o umělé inteligenci Evropské unie, i když se nařízení v průběhu vyjednávání hodně měnilo. A jeho detaily se budou měnit i dál. Evropská komise si například ponechala pravomoci operativně měnit, jak definuje vysoce rizikové systémy. A celé to zaobaluje přístup založený na riziku. Čím rizikovější použití, tím větší regulace.

Regulace je také postavená na etickém výzkumu. V právní filozofii se často bavíme o tom, jestli je etika základem práva. Někdo naopak namítá, že třeba technické normy žádnou etiku nemají. U AI ale vidíme, že nás nutí zamýšlet se nad tím, v jaké společnosti chceme žít, a nutí nás rozhodovat se, co je a co není správné. Což je v době, kdy jsme schopni vytvořit digitální kopii zemřelého, důležité. Pro někoho to je super idea, pro druhého zase něco děsivého. Proto vzniku Aktu o AI předcházela široká etická debata o tom, jaké principy v něm budou zakotvené.

Které to tedy jsou?
Je to zejména transparentnost, systémy také musejí být stavěné tak, aby byl v jejich středu stále člověk. Což je mimochodem úplně odlišná filozofie, než kterou ohledně AI razí Čína. Říkají tomu koncept harmonické umělé inteligence. Člověk musí žít v harmonii s AI a jednat tak, aby nepoškozoval systém jako celek. Odráží se v tom kulturní odlišnosti. Čína staví blaho společnosti nad blaho jednotlivce. Naše kultura staví blaho jednotlivce nad to společné.

Základ Aktu o AI, jehož první návrh představila Evropská komise v létě 2021, je tedy stejný, ale EU si nechala místo pro případné úpravy. Co se měnilo?
Velké spory byly o rozsahu zakázaných praktik. Je to například použití biometriky v reálném čase, nově je tam také samostatná kapitola týkající se generativní umělé inteligence a základních modelů. To byla obrovská změna, kterou Evropský parlament představil 14. června 2023 v návaznosti na nástup modelů, jako je ChatGPT od OpenAI a dalších. V tu chvíli bylo jasné, že lidé začnou umělou inteligenci používat v daleko větší míře, než se předpokládalo.

Zároveň se ukázalo, že velké modely s sebou nesou rizika, o kterých jsme dříve vůbec nepřemýšleli. Itálie například na nějakou dobu zakázala ChatGPT s ohledem na ochranu soukromí. Člověk totiž neměl kontrolu nad tím, jestli se systém neučí na něm. Objevily se i případy, kdy se údaje od jednoho uživatele objevily jinému. Protože se AI učí na informacích z internetu a používá vlastně všechno, co najde, další problém je ochrana duševního vlastnictví. V EU sice máme výjimku, která umožňuje vytěžování textů a dat pro učení AI, nicméně u velkých systémů se zvažovalo, že by každá firma musela dodat kompletní seznam všech materiálů, na kterých se jejich systémy učily. Od toho se nakonec ustoupilo a firmy musejí dodávat pouze obecnější informace.

Řekla jste, že přístup k regulaci umělé inteligence odráží vidění světa. Bavili jsme se o rozdílu mezi Západem a Čínou, co ale Evropa versus Spojené státy americké?
USA mají na rozdíl od nás mnohem angažovanější občanskou společnost a je pravda, že EU je regulatorní velmoc. Na druhou stranu, když se podíváme na Spojené státy, se kterými se často spojuje svoboda a seberegulace, situace je tam také složitá. Není to sice navenek tolik vidět, protože zákony o umělé inteligenci zatím existují a liší se hlavně na na úrovni jednotlivých států.

Americký prezident nicméně už vloni vydal výkonné nařízení. Dále také Blueprint for an AI Bill of Rights neboli Návrh listiny práv umělé inteligence, který stojí na pěti principech podobných těm ve zmíněném aktu Evropské unie: zachování bezpečnosti, nediskriminaci, ochraně soukromí, právo na vysvětlení a lidskou alternativu. Na Spojených státech je ale hlavně vidět, s jakými problémy se budeme brzy potýkat i tady, viz epizoda s OpenAI a Scarlett Johansson. Takový spor totiž Akt o umělé inteligenci nepokrývá. Regulace této technologie v Evropě jím teprve začíná, přijde celá řada dalších předpisů.

Spousta předpisů má v názvu princip odpovědnosti nebo jej zmiňuje. Zároveň firmy jako OpenAI, Google či Microsoft za sebou mají nějakou kontroverzi. Obecně je otázkou, jak moc (ne)zodpovědně postupují při trénování svých modelů. Co s tím?
Zákonodárci si nedokáží představit všechny situace. Právo se snaží být univerzální a nadčasové, ale nedokáže předpovídat všechny konkrétní případy. Veškeré předpovědi nejprve říkaly, že AI nahradí manuálně pracující lidi. Teď se ale ukazuje, že zejména ta generativní mnohem více zasáhne lidi pracující hlavou.

Nemyslím si však, že firmy, o kterých se tu bavíme, chtějí škodit. Žene je nadšení zjistit, co vše je možné. Jsou také ve velké nejistotě, protože vyvíjejí něco úplně nového. A musí se vyrovnat s následky, ať už s těmi bombastickými, nebo velmi negativními. Jediný incident, třeba nějaká politická kauza, může vnímání technologie posunout jinam. Je super umět číst náladu společnosti a podle ní dělat politická rozhodnutí. Ale to zároveň znamená, že dokážeme ovlivňovat volby. Zase jsme u toho, že se neustále pohybujeme na hraně.

Různé přístupy nejen k technologiím a nejen k právním aspektům jste sbírala třeba v Belgii nebo v Izraeli. Co vám to dalo?
Když jsem v roce 2007 dostudovala, nastoupila jsem na vědecký ústav v Belgii na Katolické univerzitě v Lovani. A byl to šok. Měli tam extrémně praktický, suchý přístup k vědě… absolutně založený na datech, málo lidský. Myslím, že v Česku je věda lidem blíž. V Lovani jsem působila rok a čtvrt, pak jsem v Belgii zůstala z osobních důvodů a vzdáleně jsem studovala doktorské studium na Masarykově univerzitě v Brně.

Z Belgie jsem šla do Izraele, kde jsem byla nejprve dva a půl roku, pak jsem se tam po pauze vrátila na další rok. Studovala jsem tam mezinárodní právo duševního vlastnictví a patentové právo, což bylo úžasné. Izraelský přístup je zase jiný: mají tam obrovskou touhu po znalostech. Nebojí se ptát, pořád se spolu hádají. Ale v dobrém. Daleko lépe jsem se tam naučila vnímat lidskou povahu. Hodně z Izraelců muselo bojovat za to, kde žijí, a jsou tak v úzkém kontaktu se svým lidstvím a s touhou po poznatcích. V Izraeli jsem se také naučila správně ptát a hlavně nepřestávat se ptát. Když si myslíte, že už máte odpověď, vždy jsou ještě další úrovně, než se dostanete k té skutečné pravdě.