Nejsou to ani tři roky, co nástroj umělé inteligence ChatGPT doslova ohromil svět. Nedlouho na to přišli i jeho následovníci a – nejen – zákonodárci Evropské unie si začali rychle uvědomovat, že nové AI modely vyžadují také nová pravidla a regulace. Pokud možno „šitá na míru” právě na ně.
Jenže po dvou a půl letech se snaha o nastavení jasných mantinelů a pravidel, k jejichž dodržování by se zavázaly samy firmy, proměnila v masivní lobbistickou bitvu, do které se zapojila i americká administrativa a která aktuálně končí v blamáži. Evropská komise totiž prošvihla zákonný termín 2. května pro její dokončení.
V obsáhlé analýze na to upozorňuje vlivný bruselský web Politico. A to s tím, že unie tak promeškala ve snaze zkrotit nejrizikovější modely umělé inteligence klíčový milník. Podle Politica jde přitom o přímý důsledek intenzivního lobbingu ze strany Washingtonu.
Chaotická geopolitika
Politico se v této souvislosti odvolává na neveřejný dopis americké vlády Evropské komisi z konce dubna, který má redakce k dispozici. Administrativa Donalda Trumpa v něm mimo jiné uvedla, že návrh má jisté „nedostatky” a zopakovala i obavy, které v poslední době vyslovovaly zejména americké technologické společnosti.
„Jde o nejnovější odpor Trumpovy administrativy vůči snahám EU stát se super regulátorem technologií a navazuje na útoky proti zákonům EU o sociálních médiích a digitální konkurenci,” konstatoval web s odkazem například na takzvaný Akt o digitálních trzích (DMA).
Mohlo by vás zajímat
Právě na jeho základě nedávno udělila Evropská unie masivní pokutu ve výši 500 milionů eur americkému Applu a 200 milionů pak pro společnost Meta, a to za porušení antimonopolních pravidel. Šlo vůbec o první sankce vyplývající z nové legislativy.
V souvislosti s aktuálním zpožděním v definici nového „herního plánu” pak Politico konstatuje, že tato pravidla jsou ve skutečnosti pouze provizorní „záplatou” poté, co evropští zákonodárci nedokázali vyřešit některá z nejpalčivějších témat při vyjednávání důležitého zákona o AI z zkraje loňského roku.
Ten totiž stanoví, že pravidla stojí pouze na dobrovolné bázi. To přitom vyústilo ve složité a citlivé vyjednávání mezi samotnou EU a technologickým byznysem o to, jak přijít s čímkoliv smysluplným, co by zároveň bylo akceptovatelné pro obě strany. Politio v této souvislosti mluví o celém procesu jako o tančení na tenkém ledě.
Web v této souvislosti shrnuje, jak se původní čistě technický proces postupně změnil v chaotickou geopolitickou a lobbistickou bitvu. A také nastiňuje, co bude dál.
Jaká je ambice Evropské komise?
Brusel se snaží nastavit pro nejpokročilejší modely AI jako ChatGPT nebo Gemini jasné mantinely. Na takzvaném kodexu zásad umělé inteligence pracuje od loňského září skupina třinácti komisí pověřených akademiků.
Politico připomíná, že tato iniciativa byla inspirována právě raketovým vzestupem ChatGPT na konci roku 2022. Náhlá popularita chatbotu, který uměl generovat text, kód a nyní i obrázky a video, přitom narušila zmíněnou přípravu samotného zákona o AI v EU.
Při představení návrhu této normy v roce 2021 totiž nebyla generativní AI vůbec brána v potaz. „Lidé říkali: nebudeme čekat dalších pět let na regulaci, takže se pokusíme generativní AI do zákona natlačit,“ cituje Politico Audrey Herblin-Stoopovou, hlavní lobbistku francouzské konkurence OpenAI, tedy společnosti Mistral.
Evropští zákonodárci se nakonec rozhodli do zákona zahrnout specifické povinnosti pro takzvané „AI obecného určení”, což je pojem, který zahrnuje i generativní modely jako právě ChatGPT od OpenAI nebo Gemini od Googlu. Konečný text pravidel pak ale ponechal na praktických kodexech, které by tato pravidla rozpracovaly do detailu.
Jaké jsou hlavní principy kodexu?
Mezi zmíněnými třinácti experty je například významný kanadský vědec Yoshua Bengio přezdívaný „kmotr AI“ nebo bývalá europoslankyně Marietje Schaakeová. Celý tým přitom musel „rozlousknout” několik složitých témat, konstatuje Politico.
Podle posledního návrhu by se signatáři například zavázali zveřejňovat relevantní informace o svých modelech vůči úřadům a zákazníkům, včetně dat použitých pro trénink. A také vypracovat politiku dodržování autorského práva. Právě kvůli jeho možnému porušování při „učení” modelů AI jsou technologické společnosti často terčem kritiky.
Vývojářské firmy představující „systémová rizika“ by pak měly podléhat dalším povinnostem, které by měly tato rizika zmírnit.
Příprava regulace přitom vyvolala obrovský zájem – ke třem postupně zveřejněným návrhům se vyjádřilo zhruba tisíc zainteresovaných míst, od členských států EU, zákonodárců, předních AI firem, držitelů práv, médií až po neziskové organizace, vypočítává bruselský web.
Co na kodexu nejvíce vadí?
Americké technologické firmy jako Meta a Google – a jejich lobbistické skupiny, připomíná Politico – opakovaně varovaly, že navržený kodex jde mnohem dál, než bylo dohodnuto v rámci samotného zákona o AI.
Například prezident Microsoftu Brad Smith nedávno řekl, že „kodex může být užitečný“, zároveň ale varoval, že „pokud spolu soupeří příliš mnoho věcí, není to nutně ku prospěchu.“ Firmy tvrdí, že i kvůli tomu byl původně avizovaný termín na začátku května zmeškán.
„Měsíce se ztratily debatami, které šly za rámec dohodnutého rozsahu zákona o AI, včetně návrhů výslovně odmítnutých zákonodárci EU,“ řekl pro Politico třeba Boniface de Champris z lobbistické skupiny CCIA.
Web ale jedním dechem dodává, že zmíněná kritika velkých technologických firem nikterak „neobměkčila” digitální aktivisty, držitele autorských práv a koneckonců ani evropské zákonodárce.
„Musíme zajistit, aby kodex nebyl navržen především k uspokojení poskytovatelů AI modelů,“ řekl k tomu italský sociálnědemokratický poslanec Brando Benifei, hlavní vyjednavač parlamentu pro zákon o AI. Politico jeho vyjádření označilo za jasný signál, že evropský parlament nechce jakkoliv „vyměklý“ nebo okleštěný kodex.
Web pak konstatuje, že během příprav kodexu se objevila obvinění, že americké technologické firmy používaly neférové lobbistické praktiky. „Ohromné množství firemního lobbingu se snaží oslabit nejen unijní legislativu o AI, ale také DMA a DSA,“ uvedla Ella Jakubowska, šéfka politiky z organizace European Digital Rights.
Například citovaná společnost CCIA kritiku odmítla a uvedla, že poskytovatelé AI modelů jsou sice „hlavním předmětem kodexu“, ale tvoří jen pět procent z tisíce zúčastněných stran.
Jaký je postoj americké vlády?
Zatímco k zákonu o digitálních službách (DSA) a Aktu o digitálních trzích (DMA) se americká administrativa vyjadřovala veřejně, u kodexu pravidel pro generickou umělou inteligenci tak otevřená není.
O to silnější je ale její postoj v zákulisí, informuje Politico. Ostatně americká mise při EU zaslala Evropské komisi připomínky ke zmíněnému třetímu návrhu kodexu, v nichž zopakovala řadu námitek již vyjádřených americkými technologickými firmami či lobbistickými skupinami. „Některé prvky kodexu se v zákoně o AI vůbec nevyskytují,“ cituje web z tohoto dopisu.
Mise v tomto směru navázala na aktuální obrat Evropské komise směrem k podpoře AI inovací a uvedla, že kodex je třeba „zlepšit, aby lépe umožňoval inovace v oblasti AI.“
Co bude dál?
Úspěch celé iniciativy bude záviset na tom, zda se k ní připojí hlavní AI firmy, tedy Meta, Google, OpenAI, Anthropic nebo zmíněná francouzská Mistral.
Komise tak musí v praxi najít způsob, jak přijít s dokumentem, který bude na jedné straně odpovídat jejím vlastním cílům, ale zároveň bude dostatečně přijatelný pro Big Tech i Trumpovu administrativu.
V této souvislosti je klíčová i další věc – komise totiž sice opakovaně zdůrazňuje, že kodex je skutečně dobrovolným nástrojem, nicméně zejména v poslední době zároveň hrozí, že pro ty, kteří se k němu nepřipojí, to může být ve výsledku daleko složitější.
Signatáři totiž budou „mít větší důvěru” ze strany Úřadu pro AI při Evropské komisi a v důsledku tak i „nižší administrativní zátěž,“ uvedl k tomu například mluvčí Komise Thomas Regnier.
Benifei pak rovněž uvedl, že „úkolem je také zajistit, aby povinnosti vyplývající z kodexu byly nějakým způsobem použitelné i pro ty, kteří ho nepodepíší.“
Každopádně platí, že podle časového harmonogramu stanoveného už přijatým zákonem o AI budou muset poskytovatelé nejkomplexnějších modelů umělé inteligence dodržovat nové povinnosti – ať už stanovené kodexem, nebo jinak – nejpozději do 2. srpna letošního roku.
