Americká společnost Anthropic měla vysvětlit, jaký bude mít zákaz vývozu jejích modelů umělé inteligence dopady na evropské uživatele. Společnost do debaty s evropskými poslanci vyslala zaměstnance, který ve firmě pracoval pouhé tři měsíce.
Donny Greenberg odpovídal na dotazy poslanců výboru pro vnitřní trh a ochranu spotřebitelů jako ‚člen technického personálu‘ v týmu Anthropic. Odborník, který prošel firmami Meta, IBM a Google, nastoupil do firmy, která vyvíjí nástroje umělé inteligence, v dubnu. Jeho specializace je technická. Otázky, které chtěli znát evropští poslanci, ale spadají do okruhu politiky a celkové strategie firmy.
Předsedkyně výboru Anna Cavazziniová (Zelení/Německo) a europoslanec Reinier Van Lanschot (Zelení/Nizozemsko) uvedli, že by dali přednost někomu, kdo by měl vyšší postavení ve firemní hierarchii, aby mohl zasvěceně odpovídat na dotazy poslanců.
Zklamání a nedůvěra
Většina poslanců sdílí obavy, které jdou daleko za technické specifikace. „Je to trochu zklamání, že se v této výměně názorů nemůžeme dotknout politické stránky, protože si myslím, že právě v tom spočívá velká část podstaty toho, co musíme společně řešit,“ řekl van Lanschot.
Ve Spojených státech je Anthropic registrovaná jako veřejně prospěšná společnost. Znamená to, že musí vážit veřejné zájmy vedle zájmů akcionářů, vysvětlil na úvod Greenberg. „Naším cílem je zajistit, aby svět bezpečně prošel vývojem nástrojů umělé inteligence. Proto zveřejňujeme náš výzkum o tom, v jakých případech jsou tyto systémy nebezpečné,“ řekl.
Greenberg zdůraznil význam iniciativy Project Glasswing. Jedná se o koalici vytvořenou společností Anthropic, aby umožnila důvěryhodným týmům pro kybernetickou bezpečnost přístup k nejnovějším modelům umělé inteligence před jejich zveřejněním.
Trump zasahuje
Agentura Evropské unie pro kybernetickou bezpečnost (ENISA) byla první evropskou agenturou, která se v červnu k projektu připojila společně s více než 150 dalšími organizacemi ve více než 15 zemích.
Poslanec Brando Benifei (S&D/Itálie), parlamentní zpravodaj pro nařízení o umělé inteligenci, poukázal na to, že společnost Anthropic dovolila evropským organizacím připojit se k projektu Glasswing s tím, že bude evropským partnerům říkat vše, co potřebují vědět.
V červnu ale americká administrativa Donalda Trumpa pozastavila přístup, který dostala právě ENISA. Byl obnoven až poté, co Brusel lobboval ve Washingtonu. „Proto potřebujeme mít větší digitální suverenitu,“ argumentoval Benifei. 12. června pak vydala americká vláda příkaz ke kontrole vývozu nejnovějších modelů umělé inteligence od Anthropicu – Fable 5 a Mythos 5.
Mohlo by vás zajímat
Poslanec Dirk Gotink (EPP/Nizozemsko) chtěl vědět, „co se mezitím změnilo, pokud jde o samotný program“. A také, jak Anthropic plánuje „zavádět novější modely bez tohoto druhu cirkusu“, který způsobil americký prezident.
Dva týdny do konce
„Úzce jsme spolupracovali s partnery ve vládě Spojených států, abychom přezkoumali a otestovali naše ochranná opatření na tomto modelu a ujistili mnoho zúčastněných stran, veřejných i soukromých, o robustnosti našich ochranných opatření. Ale aby bylo jasné, to bylo pouze u našich modelů třídy Fable. U modelů třídy Mythos, které jsou pozoruhodné pro kybernetické možnosti dvojího použití, nedošlo k žádné konkrétní změně,“ odpověděl Greenberg. Doplnil, že firma pracuje na tom, aby k podobným zmatkům v budoucnu nedocházelo.
Evropská komise měla na schůzi zástupkyni Lucillu Sioliovou, ředitelku Úřadu EU pro umělou inteligenci. Ta hovořila o právních možnostech Unie. „Mějte na paměti, že velmi brzy, 2. srpna, se začnou uplatňovat donucovací pravomoci Úřadu pro umělou inteligenci podle nařízení o umělé inteligenci. Pomohou zajistit, aby tyto modely, až budou nasazeny v Evropské unii, byly bezpečné,“ uvedla.
