Evropský zákon o umělé inteligenci řadí i běžné firemní nástroje – třeba AI pro výběr zaměstnanců nebo práci s lékařskými snímky – mezi vysoce rizikové. To znamená drahou certifikaci a složitou administrativu, kterou si malé firmy často nebudou moct dovolit. Česká vláda proto tlačí na zmírnění pravidel.
Náměstek ministra průmyslu a obchodu Jan Kavalírek, který též zastává pozici vládního zmocněnce pro AI, uvedl, že Česko patří mezi nejaktivnější zastánce liberalizace podmínek. Podobný postoj má také Polsko, Švédsko či Finsko.
„Chceme kompletní výjimky pro používání umělé inteligence ve výzkumu a vývoji od základního až po aplikaci v průmyslu. Také chceme odklad účinnosti,“ řekl Kavalírek během vystoupení na konferenci Právo a digitalizace, kterou pořádaly Ekonomický deník a Česká justice.
To není vše, co by české ministerstvo průmyslu a obchodu chtělo změnit. Kavalírek zmínil také proškrtání přílohy III, která příliš obsáhle jmenuje rizikové oblasti, v nichž umělá inteligence (AI) podléhá nejpřísnější regulaci. Zmínil také jednodušší posouzení shody a certifikaci AI v zemích Evropské unie.
Regulace podle rizikovosti
Ivo Janda, partner advokátní kanceláře White & Case, ve svém vystoupení upozornil, že evropský AI Act má formu nařízení. Je tedy přímo aplikovatelný v Česku. „Nařízení je ve své podstatě velmi technické. Reaguje na vývoj, který v oblasti AI nastal. Umělá inteligence, tedy ChatGPT, se objevil před třemi lety. Až do přijetí tohoto nařízení jsme zde fungovali v právním vakuu,“ upozornil Ivo Janda.
AI Act podle Jandy pracuje s principem rizikovosti. „To znamená, že jsou AI systémy posuzovány podle rizika. Od toho se odvíjí definice práv a povinností v jednotlivých kategoriích,“ zmínil Janda. Varoval, že může nastat zmatek, pokud nebudou národní regulační orgány schopny najít společnou řeč s Evropskou komisí. Ta se chce do kontroly dodržování nové legislativy také zapojit.
Přítomní zástupci soukromého sektoru varují: Schválená regulace je příliš tuhá a v praxi ochromí vznik nových firem zaměřených na využití AI v praxi. Naopak velké a zavedené IT firmy se s tím vypořádají lépe. Ondřej Kramoliš, Senior Legal Counsel ve společnosti Gen Digital, upozornil, že posouzení nového modelu „vysoce rizikové“ AI bude stát stovky tisíc eur. Za vysoce rizikové se přitom považují třeba AI řešení v oblasti personalistiky.
Mohlo by vás zajímat
Bič na deepfake videa
Podobně byl skeptický také Lukáš Loun, zakladatel a ředitel firmy Maia Labs. Jedná se o startup, který se zaměřil na využití AI ve zdravotnictví, konkrétně u výsledku endoskopických vyšetření. Podle Lounova názoru je regulace umělé inteligence příliš přísná a omezí vznik nových firem. Ty si totiž budou muset najímat konzultanty, bez jejichž pomoci se s regulací nedokážou vypořádat. Loun dodal, že začínajícím firmám by pomohly granty či vouchery, které by tyto regulatorní náklady pokryly.
Na druhou stranu Ondřej Kramoliš zmínil také přínosy evropské legislativy. „Je určitě lepší, že se té iniciativy chopila Evropská unie, než kdybychom to nechali na jednotlivých členských státech. Pro firmy, které chtějí působit na celoevropském trhu, by práce v 27 různých režimech byla neřešitelná,“ řekl Kramoliš. Za pozitiva považuje také prevenci nezodpovědného využívání AI a s tím související vyšší důvěru veřejnosti.
Na jeho slova navázal Ivo Janda. „To je vlastně společné pro všechny digitální regulace posledních let. Myšlenka je taková, že by regulace měla fungovat prevenčně. AI Act popisuje, co je zakázáno, které modely se používat nesmějí. To je případ social scoringu nebo deepfake videí, což je teď velkým problémem,“ řekl Janda. Podle Jandy bychom neměli zapomínat ani na to, že AI Act se nevztahuje pouze na evropské firmy, ale také na americké nebo čínské podniky vstupující na evropský trh.
Český zákon v přípravě
Jan Kavalírek ve svém vystoupení připomněl, že ministerstvo průmyslu a obchodu připravilo zákon o umělé inteligenci. Ten se nyní nachází ve fázi připomínkového řízení a vypořádávání připomínek. „Máme velkou radost toho, že se nám podařilo udržet to v minimalistické adaptaci evropské legislativy. To je pro nás naprosto klíčové, že nechceme přidávat další zbytečnou administrativu nebo regulaci,“ zmínil Kavalírek.
Bylo tedy rozumné připravit zákon ve chvíli, kde se otevírá reálná šance zmírnit evropský AI Act? „Za mě je to naprosto v souladu. Poskytovatelé AI systémů se musí připravovat na evropské nařízení. Taky je možné, že se zmírnění nepodaří prosadit. Proto děláme maximum pro to, abychom co nejrychleji vytvořili podmínky pro AI v Česku,“ doplnil Kavalírek.
Evropská komise má takzvaný omnibus – tedy zjednodušení legislativy – oznámit v polovině listopadu. To je však teprve začátek, následovat bude schvalování v Evropském parlamentu a takzvaný trialog. „Doufám, že úpravy evropského nařízení budou hotové dřív, než schválíme náš zákon,“ doplnil Kavalírek. To by otevřelo cestu k úpravám zákona během projednávání ve Sněmovně.
Byznysový přínos pro Česko
Poslední účastník panelové debaty o legislativě v oblasti AI, Luboš Král z Centra umělé inteligence ČVUT, zmínil přibývající české firmy, které v novém oboru uspěly. „Když řeknu konkrétně, tak například v oblasti rozpoznávání vozidel má firma eyedea systémy, které jsou jedničkou na trhu. Další příklad je Resistant AI, která se zaměřuje na odhalování nepoctivého jednání bankovních klientů,“ zmínil Luboš Král.
Podle jeho názoru však Česko nikdy nebude konkurenceschopné u „velkých“ řešení, jako je OpenAI a jeho ChatGPT. „Nemáme zdroje, ať už finanční nebo jiné, které umožní tu firmu dostat na burzu a uspět. Šanci máme ve specializovaných menších modelech, které řeší konkrétní úlohy,“ řekl Luboš Král. Více se dočtete v rozhovoru s Lubošem Králem, který vyšel na Ekonomickém deníku ZDE.
Ekonomický deník a Česká justice děkují partnerům konference, kterými jsou Vodafone Česká republika, advokátní kanceláře White & Case a Matzner & Vítek a společnost OpenSSL.
