Umělá inteligence v EU – oprávněné obavy či příležitost?

Umělá inteligence (AI) bývá často vyobrazována jako vzdálené sci-fi, nebo jako výzva pro zaběhlý světový pořádek. Nové technologie však v praxi nepředstavují pouze rizika, ale také příležitosti. Aplikace a systémy poháněné AI mohou do našich životů přinést mnoho výhod. Počínaje kvalitnější a dostupnější zdravotní péčí, bezpečnější a čistší dopravou, přes efektivnější výrobu až po levnější a udržitelnější energie. Přístup Evropské unie (EU) k umělé inteligenci staví do centra pozornosti člověka, který má nad takovými aplikacemi a systémy vykonávat dozor, čímž se snaží budovat důvěru v přijetí nových technologií a povzbudit podniky k jejich rozvoji a zavádění.

V únoru 2020 byla Evropskou komisí představena právně nezávazná Bílá kniha o umělé inteligenci1, na kterou navázala obsáhlá veřejná konzultace s více než 1200 příspěvky, jejímž závěrem bylo zjištění, že zájem o zavádění AI do praxe je skutečný a potenciál aplikací AI se ukázal jako obrovský. A to v tak rozmanitých oblastech, jako jsou právě zdraví, doprava, energetika, zemědělství, móda, cestovní ruch i (kybernetická) bezpečnost.

Po roce usilovné práce představila Evropská komise 21. dubna 2021 očekávaný balíček iniciativ k umělé inteligenci „AI balíček“, který má za cíl zejména definovat budoucí přístup Evropské unie k AI a obsahuje mimo jiné i aktualizovaný Koordinovaný plán k AI a návrh nařízení, které zavádí jednotná pravidla pro AI na vnitřním trhu EU. Komise navrhuje využít příležitostí, které umělá inteligence nabízí, a plánuje investovat prostřednictvím programů Digitální Evropa a Horizont Evropa do AI přibližně 1 miliardu EUR ročně. Cílem Koordinovaného plánu je navýšit unijní, národní a soukromé investice až na 20 mld. EUR ročně. Nedílnou součástí aktualizovaného plánu je také podpora odborných digitálních dovedností a vzdělávání AI expertů podpořením vysokoškolských magisterských programů.

Návrh regulace vychází z rizikovosti aplikací AI technologií, dělí je do 4 kategorií podle míry ohrožení lidských práv a stanovuje, ve kterých případech není možné AI systémy v EU vůbec použít. Účelem nařízení je zaměřit se zejména na tzv. vysoce rizikové aplikace AI technologií (například v oblasti výchovy, vzdělávání, zaměstnanosti, soudnictví) a definovat pro ně jasná pravidla používání. Část návrhu nařízení poté zavádí tzv. regulatorních sandboxes, ve kterých je možné testovat inovativní aplikace AI, což je ze strany Komise důležitým podpůrným signálem zejména pro start-upy a malé a střední podniky. Součástí AI balíčku je také návrh nařízení o strojních výrobcích, které má zohlednit bezpečnostní rizika spojená s nově vznikajícími digitálními technologiemi.

Umělá inteligence již dávno není hudbou budoucnosti, ale setkáváme se s ní všichni dennodenně. Vedle strašení a stigmatizace bychom tak měli využít potenciál AI a přistoupit k ní rozvážně a koordinovaně na úrovni EU se zapojením všech stakeholderů. „AI balíček“ EU je dobrým začátkem k debatě o tom, jaký by náš přístup k umělé inteligenci měl být.

Článek vznikl s podporou kolegů z Úřadu vlády, kterým děkujeme za spolupráci.

1 O bílé knize jsme informovali v našem článku: https://digikoalice.cz/bila-kniha-o-umele-inteligenci/.