Evropa brzdí v zavádění nejpřísnějších pravidel pro umělou inteligenci. Přestože systémy AI částečně rozhodují o přijetí na školy, řídí dodávky energií nebo skenují obličeje na letištích, evropští poslanci schválili odklad povinných kontrol až na konec roku 2027. Vyhověli tak tlaku technologických gigantů i startupů.
Evropští poslanci podpořili odklad přísných pravidel pro systémy umělé inteligence s vysokým rizikem až na konec roku rok 2027. Jde o systémy, které mohou významně ohrozit zdraví, bezpečnost nebo základní práva občanů. Pro odklad hlasovalo 569 zástupců, proti bylo 45.
Testy studentů i bezpečnost dopravy
Systémy AI s vysokým rizikem jsou například ty, které řídí provoz silnic, dodávky vody, plynu nebo elektřiny. V oblasti vzdělávání se jedná o nástroje AI, které hodnotí testy studentů u přijímacího řízení na střední a vysoké školy. Patří sem i nástroje, které umí rozpoznávat obličeje z kamerových systémů, případně systémy pro kontrolu pasů a hodnocení rizikovosti cestujících.
Výrobci těchto systémů – firmy jako Microsoft, Google, ale i české startupy – musí pode nových pravidel pro používání umělé inteligence před uvedením na trh splnit následující kritéria:
- vysokou kvalitu dat (data musí být objektivní)
- lidský dohled (člověk musí mít vždy možnost systém vypnout nebo přehlasovat)
- transparentnost (musí být jasné, jak systém funguje a proč dospěl k výsledku)
- kyberbezpečnost (systémy musí být odolné proti útokům hackerů)
Proč se to odkládá?
Průmysl argumentuje, že jsou nová pravidla tak složitá, že by jejich okamžité zavedení zastavilo vývoj umělé inteligence v Evropě. Proto se má termín posunout na prosinec 2027, aby se firmy stihly připravit. Původně měla být norma účinná od letošního srpna.
U systémů umělé inteligence, na které se vztahují stávající právní předpisy EU o bezpečnosti výrobků, jako jsou zdravotnické prostředky a rádiová zařízení, se má lhůta posunout až na srpen 2028. „Firmy potřebují jasně vědět, zda jejich systémy představují vysoké riziko, nebo nikoli,“ vysvětlila poslankyně Arba Kokalariová (EPP/Švédsko). Zdůraznila potřebu jasnějších a předvídatelnějších pravidel.
Pozor na práva jednotlivců
Zástupci občanské společnosti zůstávají opatrní. Organizace EDRi varovala, že ačkoli se některá z digitálních pravidel přehodnocují, rizika přetrvávají. Skupina dodala, že zjednodušení by mělo digitální práva jednotlivců posílit, nikoli je oslabit.
Evropští zákonodárci zároveň podpořili zákaz aplikací, které dokážou pomocí nástrojů umělé inteligence „svlékat“ fotografie skutečných lidí bez jejich souhlasu. „Jedná se o obrovské vítězství pro práva žen a ochranu dětí,“ uvedla Kim van Sparrentaková (Zelení/Nizozemsko).
Vlády unijních zemí zaujaly podobný přístup. Rada EU rovněž podpořila odložení pravidel pro vysoce rizikové nástroje umělé inteligence. Nyní začnou jednání mezi evropskými institucemi, jež určí konečnou podobu pravidel.
