Pravidla pro umělou inteligenci i cesta k bezpečnému digitálnímu prostoru se dostaly do centra pozornosti Unie. Největší výzvou pro vývoj AI v Evropě bude najít dostatek energie. Tvrdí to irský europoslanec Michael McNamara v rozhovoru pro EU Perspectives.
„Problémem je absence harmonizovaných norem,“ prohlásil poslanec Evropského parlamentu Michael McNamara (Renew/Irsko), který je zpravodajem dokumentu o regulaci umělé inteligence. Její zjednodušení navrhla Evropská komise. Schvalování klíčových změn se podle něj může zpozdit. Nyní probíhají jednání mezi zástupci parlamentu, Komise a členských zemí.
Evropský parlament nedávno podpořil zákaz aplikací, které vytvářejí nahé fotografie uživatelů bez jejich vědomí. Kdy začnou nová pravidla platit a co musí platformy udělat, aby splnily všechny požadavky?
Návrh spočívá v zákazu nekonsenzuálního používání těchto systémů a jeho klasifikaci jako zakázané praktiky podle zákona o umělé inteligenci. Účinnost nastane během několika týdnů od zveřejnění v úředním věstníku, pravděpodobně kolem poloviny roku 2026.
Zákaz se vztahuje na používání aplikací bez souhlasu jejich uživatelů. Používání takových nástrojů se souhlasem bude stále povoleno. Poskytovatelé nabízející tyto služby musí tento souhlas prokázat a ověřit. Bude to jejich odpovědnost, i když je to technicky obtížné.
Podpořili jste odložení povinností pro vysoce rizikové systémy v oblasti umělé inteligence na přelom let 2027 a 2028. Co dnes v pravidlech chybí?
Klíčovým problémem je absence harmonizovaných norem. Bez nich neexistuje jasný způsob, jak by firmy mohly prokázat soulad s požadavky na vysoce rizikové systémy. Nemůžeme si dovolit nemít tyto normy zavedeny. Až začnou platit, společnosti budou moci říct: toto jsou kritéria stanovená nezávislými orgány a my je splňujeme.
Regulace má zajistit bezpečnost
Co bude odklad pravidel v praxi znamenat? Co by měly firmy v tomto mezidobí udělat?
V současné době neexistuje žádný specifický regulační rámec, který by se vztahoval na tyto vysoce rizikové systémy. Je to podobné situaci, která panuje v jurisdikcích, jako jsou Spojené státy, Kanada nebo Spojené království.
Průmysl často argumentuje tím, že zavedení pravidel v Evropě může být škodlivé pro konkurenceschopnost, pokud jiné regiony nemají ekvivalentní požadavky. Regulace však existuje proto, aby zajistila spolehlivost, bezpečnost a ochranu systémů umělé inteligence, zejména ve vysoce rizikových oblastech.
Již nyní vidíme problémy, které se objevují v různých odvětvích po celém světě. Tomu se Evropa snaží vyhnout. Většina systémů umělé inteligence nebude dotčena, pouze ty s nejvýznamnějším potenciálním dopadem.
Mohlo by vás zajímat
Návrh nových pravidel vstupuje do třístranných jednání mezi Komisí, parlamentem a Radou EU. Kde očekáváte největší třecí plochy?
Mezi Evropským parlamentem a Radou panuje značná konvergence. Rozdíly spočívají především ve formulaci pravidel. Jedním z obtížnějších bodů budou návrhy týkající se toho, jak se s určitými systémy v rámci regulačního rámce zachází. Zejména jde o návrh přesunout některé z nich do jiné regulační kategorie. Někteří to prezentují jako zjednodušení, ale jiní – včetně Komise – mají výhrady. Věřím, že nalezneme kompromis přijatelný pro všechny strany.
Prosazují některé členské státy další zjednodušení nařízení o umělé inteligenci?
Mezi členskými státy existují odlišné postoje. Některé vlády podporují změny, které by zabránily překrývání pravidel mezi nařízením o umělé inteligenci a stávající legislativou pro rádiová zařízení nebo hračky. To byl také silný požadavek ze strany průmyslu.
Některé státy ale nabádají k opatrnosti a poukazují na to, že existuje rozdíl mezi zjednodušením a deregulací.
Nařízení o umělé inteligenci Komise navrhla v roce 2022, ještě před rychlým vývojem systémů umělé inteligence v posledních letech. Budou nová pravidla stále vhodná pro oblast AI?
Nemyslím si, že v krátkodobém horizontu budeme potřebovat zcela nová pravidla. Rámec umožňuje změny prostřednictvím delegované legislativy. To znamená, že definice, jako například to, co se považuje za vysoce rizikovou oblast umělé inteligence, lze v průběhu času aktualizovat.
Větší výzvou pro oblast umělé inteligence mohou být dostatečné zdroje. Vývoj těchto nástrojů vyžaduje hodně energie. To je něco, co bude muset Evropa v budoucnu vyřešit. Zejména vzhledem k situaci v Perském zálivu a energetické závislosti mnoha členských států Unie na fosilních zdrojích.
