Označení generativních systémů jako ChatGPT tak, aby bylo jasné, že byl obsah z nich pramenící vytvořen umělou inteligencí, zákaz využívání nástrojů umělé inteligence pro rozpoznávání emocí například v případě prosazování práva a vznik speciálního úřadu, který bude na dodržování nových pravidel dohlížet. To vše ve středu zaznělo ze strany poslanců Evropského parlamentu, kteří schválili návrh směrnic pro fungování umělé inteligence (AI). Mohlo by tak jít o první regulaci tohoto druhu v historii lidstva. Její finální verzi bude parlament ještě projednávat s členskými zeměmi EU.

Asi největší spor se v Evropském parlamentu (EP) vedl o používání umělé inteligence k biometrickému sledování v reálném čase, tedy užití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci se obávají zneužití AI v této oblasti autoritativními režimy. „Tady se střetává otázka soukromí a bezpečnosti,“ řekla novinářům ve Štrasburku místopředsedkyně EP Dita Charanzová. „Systém rozpoznávání obličejů potřebujeme využít například při únosech dětí nebo hrozbě teroristických útoků,“ dodala.

Podle Charanzové unijní pravidla nastavením mantinelů v umělé inteligenci také dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“. Podle české místopředsedkyně Evropského parlamentu bylo zároveň při vytváření těchto pravidel cílem zvýšit důvěru spotřebitelů v tyto systémy. Unijní pravidla pro regulaci vznikala zhruba dva roky, postupně byla rozšířena, například o pravidla pro ChatGPT.

Návrh pravidel přijatý tento týden europoslanci také určuje takzvaně vysoce riziková odvětví, ve kterých budou pro umělou inteligenci platit přísnější pravidla. Jsou jimi například soudnictví či některé oblasti školství. Ve školství se má podle europoslance Marcela Kolaji omezení týkat například takzvaného e-proctoringu, pomocí něhož mohou školy kontrolovat, zda studenti nepodvádějí při zkouškách online. Za vysoce rizikové považuje EP i používání umělé inteligence k ovlivňování voličů.

Umělá inteligence totiž dokáže být tak přesvědčivá, že běžný uživatel internetu ani nepozná, že s ní hovoří. Právě proto unijní pravidla zahrnují povinnost transparentnosti, tedy aby uživatel poznal, že jde o systém umělé inteligence. Úplně zakázány mají pak být nástroje AI využívané k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz ale neplatí pro lékařské a výzkumné účely.

Nová pravidla také zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy, které automaticky třídí občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.

Poskytovatelé základních modelů AI se také budou muset registrovat do databáze EU. Rovněž budou muset zveřejnit souhrn dat chráněných autorským právem, na kterých se jejich systémy učily. EP podporuje i takzvané regulační pískoviště zřízené veřejnými orgány, kde lze AI před jejím uvedením do provozu testovat. Akt o umělé inteligenci přináší také pravidla pro programy typu ChatGPT. Jejich provozovatelé se budou muset registrovat do databáze, ve které mimo jiné uvedou, odkud čerpají data, ze kterých se program učí.

S přispěním ČTK