Představení Bílé knihy o umělé inteligenci

Předsedkyně nové Komise Ursula von der Leyen ve svých politických vodítkách načrtla vytvoření evropského legislativního návrhu k AI v rámci prvních 100 dní působení Komise. V únoru 2020 byla představena právně nezávazná Bílá kniha o umělé inteligenci, ve které Komise zatím představila pouze svou vizi regulatorního rámce pro oblast AI. Na tuto vizi by měl posléze na přelomu 2020/2021 navazovat již závazný regulatorní rámec.

Špičkové technologie a důvěra

Komise se chce zaměřit na budování špičkové technologie a důvěru v AI. V rámci špičkového výzkumu chce Komise podpořit aktivity vedoucí k rozvoji a zavádění této technologie ve spolupráci všech členských států. V souvislosti s důvěrou se chce Komise v rámci plánované regulace zaměřit na tzv. vysoce rizikové aplikace umělé inteligence. To mohou být aplikace AI v sektorech, kde hrozí významná rizika, či v případech, že užití aplikací konkrétním způsobem může být v daném sektoru rizikové. Příklady takových aplikací si lze představit např. v oblasti autonomních vozidel, jaderných elektráren a energetiky obecně či v oblasti klíčové infrastruktury – dodávkách energií, pitné vody, kybernetické bezpečnosti klíčových sítí. Kromě toho Komise navrhuje označit za některé vysoce rizikové aplikace i takové, které nespadají do těchto kategorií. Příkladem mohou být aplikace pomáhající s tříděním či výběrem uchazečů v personalistice, u kterých hrozí riziko, že budou rozhodovat zaujatě.

Evropská komise má v plánu vytvořit seznam odvětví, ve kterých bude využití AI považováno za rizikové. Dále také navrhuje právní požadavky, které by měly splňovat aplikace AI představující vysoké riziko. Je mezi nimi např. požadavek na soulad trénovacích dat s evropskými hodnotami či povinnost informovat uživatele, že jednají se systémem AI. Právní požadavky vycházejí ze zprávy Expertní skupiny, která se zabývala etickými pokyny pro důvěryhodnou umělou inteligenci.

Dobrovolné označování

V Bílé knize Komise navrhuje také tzv. předběžné posouzení shody pro vysoce rizikové aplikace. Formu tohoto předběžného posouzení ponechává Komise na delší diskuzi. Nízkorizikové aplikace by mohly být podrobeny dobrovolnému systému označování. U označených produktů a služeb by pak uživatelé měli jistotu, že jsou bezpečné a důvěryhodné.

ČR jako modelová země

Česká republika je v problematice umělé inteligence aktivní a rychle reaguje na iniciativy Komise. V roce 2019 vytvořila ČR na návrh Evropské komise Národní strategii umělé inteligence (NAIS), ve které předestřela svůj plán stát se do roku 2022 modelovou zemí v automatizaci i díky vybudování centra excelence zaměřeného na AI. Centrum excelence zaměřené na téma umělé inteligence pro bezpečnější společnost je budováno ve spolupráci ČVUT, Univerzity Karlovy a Masarykovy univerzity. Zároveň by ČR ráda zařadila téma umělé inteligence i do priorit v rámci českého předsednictví v Radě v roce 2022.

Na oblast plánované regulace nahlíží ČR tradičně liberální perspektivou, která podporuje spíše prostor pro inovace v oblasti AI a je z hlediska regulace opatrnější. ČR však vítá etické principy a téma umělé inteligence zaměřené na člověka a bedlivě sleduje veškerý vývoj v oblasti.