Nástroje umělé inteligence selhávají v potírání kremelské dezinformační kampaně a ignorují unijní zákazy. Většina systémů na přímý dotaz bez problémů generuje zprávy z ruských státních médií. Vývojáři AI modelů čelí kritice, že se vyhýbají odpovědnosti a nedostatečně potírají ruskou propagandu. V sázce je podle expertů právo veřejnosti na ověřené a nezkreslené informace.
Když požádáte chatbota o přehled zpráv, může vám nenápadně předložit kremelskou propagandu. Nové evropské šetření odhalilo, že modely ChatGPT, Claude a Grok nabízejí obsah ruských médií, který je v rámci evropského bloku zakázán.
Komise: Situaci pozorně sledujeme
Evropská služba pro vnější činnost (ESVČ), v jejímž čele stojí vysoká představitelka Unie pro zahraniční věci a bezpečnostní politiku Kaja Kallasová, této záležitosti věnuje pozornost.
„Služba sleduje vývoj v oblasti umělé inteligence. Roli, kterou hraje při šíření nezákonných či nepravdivých informací, a také při potírání takového obsahu,“ uvedl pro EU Perspectives mluvčí Evropské komise.
Úřad je rovněž „v kontaktu s poskytovateli AI v rámci trvalého úsilí o sledování tohoto vývoje“. Cílem je zavést vhodná protiopatření k odhalování zahraniční manipulace s informacemi a vměšování.
Obcházení sankcí
Ruská média jako Sputnik a RT, které evropské úřady obviňují z toho, že slouží jako nástroje kremelské dezinformační kampani, Unie po ruské invazi na Ukrajinu zakázala. Podle organizace Reportéři bez hranic (RSF) však modely ChatGPT, Claude a Grok (chatbot integrovaný do platformy X) na přímý dotaz souhlasily s tím, že sankce obejdou. A obsah zakázaných médií zprostředkují.
„Chatboti poskytli komplexní přehled mezinárodních zpráv, uvedli titulky a sdíleli odkazy i textová prohlášení, aniž by systematicky upozorňovali na to, že se na dotyčná média vztahují evropské sankce,“ uvedla nevládní RSF po testování, které provedla v červnu a srpnu.
Bereme to vážně
Společnost OpenAI v reakci na dotaz RSF uvedla, že zjištění bere vážně a hodlá předložená zjištění podrobněji prozkoumat. Po počátečním zdráhání a opakovaných žádostech odpověděly na testovací otázky také modely Vibe (dříve Le Chat) od společnosti Mistral a Gemini od Googlu. Pouze Meta AI odmítla vyhovět s odkazem na sankce EU, což podle RSF dokazuje, že „chatbot může být v souladu s pravidly“.
„Za těchto okolností evropské sankce neplní svůj účel,“ uvedl vedoucí oddělení technologií a žurnalistiky v organizaci RSF Vincent Berthier. Francouzská nevládní organizace vyzvala Brusel, aby zahájil vyšetřování s cílem zjistit, do jaké míry společnost OpenAI neplní svou povinnost předcházet systémovým rizikům spojeným s dezinformacemi v rámci služby ChatGPT. Zároveň doufá v zahájení řízení pro porušení unijního práva i vůči ostatním chatbotům.
Regulační šedá zóna
Chatboty lze využít jako účinné nástroje k obcházení sankcí EU. Především zneužitím slabin ve způsobu, jakým získávají informace z internetu. „Naše šetření dokládá potřebu regulace chatbotů založených na umělé inteligenci ještě před jejich nasazením. V opačném případě zůstanou následné sankce spíše symbolické než účinné,“ varoval Berthier.
Evropská komise potvrdila, že služba ChatGPT spadá do působnosti nařízení o digitálních službách (DSA). Organizace RSF i proto vyzvala Komisi, aby okamžitě zahájila vyšetřování. Mluvčí Komise ale upozornil, že regulaci nepodléhá konkrétní obsah, ale samotné platformy. Podle RSF by vyšetřování Komise mělo určit, zda OpenAI plní svou povinnost předcházet systémovým rizikům spojeným s šířením dezinformací prostřednictvím služby ChatGPT.
„Pokud jde o ostatní chatboty, jejich zjevné obcházení sankcí uvalených na ruská státní média by mělo vést k zahájení řízení pro porušení evropského práva. V sázce je právo občanů na kvalitní informace z různých zdrojů,“ zdůraznil Berthier.
