Evropská komise otevírá novou kapitolu regulace umělé inteligence. Předsedkyně Komise Ursula von der Leyenová ve středečním projevu o stavu Evropské unie oznámila snahu zpomalit tempo vývoje nejpokročilejších AI modelů. Představují podle ní bezpečnostní riziko.
Tímto krokem nastolila citlivou otázku, jak chránit Evropu před riziky umělé inteligence, a přitom nezbrzdit inovace, na nichž bude záviset její budoucí konkurenceschopnost. „Evropa dnes opravdu nemá problém s tím, že by inovovala příliš rychle. Spíš naopak,“ reaguje viceprezidentka Svazu průmyslu a dopravy Milena Jabůrková.
Hrozby pokročilých modelů
„Vyvíjené modely umožní hackerské útoky na úrovni, kterou jsme nikdy nepovažovali za možnou. A brzy budou v rukou protivníků, kteří vidí svět zcela jinak než my,“ varovala von der Leyenová. O tempu vývoje chce jednat přímo s největšími AI laboratořemi. Evropská unie chce zároveň spolupracovat s Kanadou, Velkou Británií a dalšími partnery na hodnocení a ověřování modelů, systémech včasného varování a bezpečnosti AI.
Šéfka Evropské komise ve svém projevu připomněla incident Hugging Face. Šlo o případ z letošního července, kdy autonomní AI modely společnosti OpenAI během interního testování schopností kybernetické bezpečnosti unikly z testovacího prostředí. Agenti s pokročilými hackerskými schopnostmi překonali bezpečnostní izolaci, aniž by k tomu měli přímý lidský pokyn.
Za necelých třináct hodin postoupili od spuštění kódu v jediném procesu k administrátorskému a hostitelskému přístupu napříč více clustery. Spustili kód na 41 serverech, získali přístup k interním datům, stáhli čtyři soukromé repozitáře se zdrojovým kódem.
Do incidentu se zapojilo 1200 agentů. Jen zlomek z nich pomyslel na to, že by na únik upozornil člověka. Nakonec to neudělal žádný. Případ podle von der Leyenové jasně upozorňuje na rizika spojená se sebezdokonalujícími modely umělé inteligence. „Incidenty, kdy AI agenti uniknou ze svého prostředí nebo někam vloží škodlivý kód, jsou jen jedním z příkladů,“ uvedla v projevu.
Evropa chce brzdit AI, kterou sama nevyvíjí
Podle expertů na umělou inteligenci je důležité, aby EU dokázala reagovat na rizika. Její reálné schopnosti proti překotnému vývoji technologie zasáhnout, ale vyvolávají pochybnosti. „Ve světě, kde jazykové modely jsou provozovány a vyvíjeny mimo EU, je z mého pohledu snaha o regulaci technologického vývoje trochu zcestná,“ říká partner advokátní kanceláře Sedlakova Legal a specialista na právo informačních technologií Jiří Hradský.
Podle něj sice Evropská unie může být pro okolní svět významným vzorem v regulaci technologií, její schopnost ovlivnit samotný technologický závod je ale mnohem omezenější. „Otázka regulace tady hraje až druhé housle, protože je v celém AI ekosystému nasypáno hrozné množství peněz,“ upozorňuje advokát.
Problém podle Hradského spočívá také v rychlosti, s jakou se AI vyvíjí. Legislativní procesy nemohou držet krok s technologickými změnami. „Bohužel, i zde platí mé oblíbené přísloví, že právo reguluje věci včerejška, zatímco my a AI žijeme v zítřku,“ pokračuje.
Regulujme rizika, ne rychlost inovací
Milena Jabůrková ze Svazu průmyslu připomíná, že EU už rozsáhlou regulaci umělé inteligence má. „Máme AI Act, který je postavený na principu regulace podle míry rizika a jehož pravidla se teprve zavádějí do praxe. Nejdřív bychom měli nechat fungovat to, co jsme přijali, a zjistit, kde jsou skutečné mezery,“ vyzývá Jabůrková k regulatorní střídmosti. Zároveň ovšem kvituje snahu von der Leyenové mluvit o bezpečnosti přímo se společnostmi, které AI vyvíjejí.
„Určitě dává smysl, aby Komise mluvila s předními AI laboratořemi o bezpečnosti nejpokročilejších modelů a aby průmysl přebíral odpovědnost za jejich bezpečný vývoj,“ míní Jabůrková.
Ostatně v samotném průmyslu by slova Leyenové mohla padnout na úrodnou půdu. Přicházejí totiž v době, kdy se k podobné debatě začínají připojovat i samotní šéfové předních AI laboratoří. V posledních dnech se objevila neobvyklá shoda mezi částí technologického průmyslu, že tempo vývoje takzvaných frontier modelů může být rychlejší než schopnost zajistit jejich bezpečnost. K opatrnosti vyzvali mimo jiné šéf Anthropic Dario Amodei, Sam Altman z OpenAI nebo Demis Hassabis z Google DeepMind.
Avšak regulace by neměla znamenat, že Evropa zastaví inovace. „Regulujme rizika, ne rychlost inovací. Bezpečnost a inovace nejsou protiklady. Evropa musí umět obojí – chránit před skutečnými riziky a zároveň zůstat místem, kde nové technologie vznikají, rostou a dostávají se do praxe,“ podotýká Jabůrková.
Musíme zůstat ve hře
Zatímco u nejpokročilejších modelů chce von der Leyenová diskutovat o zpomalení, v jiné části projevu naopak mluvila velmi naléhavě o nutnosti evropský AI ekosystém podpořit. „Evropa bude potřebovat své vlastní kapacity – zejména k ochraně naší národní bezpečnosti. Musíme zůstat ve hře. Protože to má zásadní význam pro naši nezávislost,“ řekla šéfka Evropské komise.
Slíbila, že komise brzy představí návrhy, jak toho dosáhnout efektivně a s co nejnižšími náklady. Podle Jabůrkové bude muset Evropa pořádně šlápnou na plyn, aby měla podpora vůbec smysl. „Tady nejde o kosmetické navýšení. Bez computingu není AI. A bez AI bude stále těžší udržet konkurenceschopný průmysl, výzkum i bezpečnost,“ zdůraznila viceprezidentka Svazu průmyslu a dopravy.
Připomněla, že Evropa má velmi dobrý výzkum a vědu.“ Teď potřebujeme zvládnout to, co nám často dělá problém: dostat dobrý evropský výzkum rychleji do reálných aplikací, firem a průmyslu a umět ho škálovat,“ pokračovala Jabůrková. Evropa podle ní potřebuje celý technologický ekosystém – cloud, supercomputing, čipy, AI, kyberbezpečnost i kvantové technologie.
Evropa nechce být závislá
Debata se tím posouvá k evropské technologické suverenitě. Právě ta tvoří základ pro bezpečnost unie ve světě, kde se konflikty přesouvají z bitevních polí do kybernetického prostoru.
Podle Jiřího Hradského by se proto mohla EU více zaměřit na pravidla související s uložením a využitím dat pouze na EU úrovni. I tato snaha ale naráží na limity ekonomické reality. „Mám obavu, že něco takového by nás ještě více uzavřelo v celé bublině AI vývoje, kde, přiznejme si, Evropa nehraje tu nejdůležitější roli,“ podotýká advokát.
Jabůrková radí, aby si Evropa především pojistila schopnost změnit dodavatele, pokud se kritická závislost stane bezpečnostním nebo ekonomickým problémem. Současně ale musí mít přístup k nejlepším technologiím bez ohledu na to, kde vznikly. „Evropa nemůže a nemusí všechno vyvíjet a vyrábět sama. Musí ale vědět, kde si závislost může dovolit a kde už představuje bezpečnostní nebo ekonomické riziko,“ míní Jabůrková.
Největší riziko? Evropa může sama sebe vyhnat mimo hru
Praktická otázka proto zní, jak evropské výpočetní kapacity vybudovat. Podle Jabůrkové musí EU především urychlit budování AI Gigafactories a kapacit EuroHPC, zjednodušit povolovací procesy a zajistit dostatek dostupné energie.
Veřejné peníze podle ní mohou sehrát zásadní roli, ale neměly by nahrazovat soukromý kapitál. „Jejich úkolem má být přitáhnout mnohem větší soukromé investice, ne je nahrazovat.“
Právě tady se dostává evropská strategie do největšího napětí. Na jedné straně EU chce být bezpečnostním a regulačním lídrem v oblasti AI. Na straně druhé potřebuje přilákat obrovské investice do výpočetní infrastruktury a vytvořit podmínky, aby zde nové AI firmy skutečně vznikaly.
Jabůrková proto na rozdíl od von der Leyenové volá po zjednodušení digitální regulace. Evropa potřebuje mnohem odvážněji zjednodušovat digitální regulaci, odstranit duplicity a především dát firmám právní jistotu,“ zdůrazňuje. Není totiž podle ní reálné, aby Evropa jednou rukou lákala špičkové technologické investice a na druhé straně vytvářela nejistotu a bariéry pro ty, kteří v ní mají investovat.
Evropa tak stojí před obtížným úkolem. Musí současně řešit bezpečnost stále autonomnějších AI systémů, zachovat možnost kontroly nad strategickými technologiemi a zároveň zabránit tomu, aby se kvůli regulaci stala pro technologické investice méně atraktivní než USA nebo jiné části světa.
Ukazuje se tak, že von der Leyenová ve svém projevu vyslala dva protichůdné signály. Právě to, zda se Evropské unii nakonec podaří najít rovnováhu mezi těmito dvěma cíli, nakonec rozhodne o tom, zda se z evropské AI politiky stane nástroj skutečné technologické suverenity, nebo další vrstva regulace nad technologiemi, jejichž vývoj už probíhá jinde.
