Dezinformace už nesměřují primárně na lidi, ale na systémy umělé inteligence, kterým uživatelé čím dál více důvěřují. Protivníci jako Rusko se snaží cíleně „otrávit“ velké jazykové modely a testovat vlivové operace na digitálních replikách populací. Před tímto nebezpečným vývojem varovali experti z NATO a amerického institutu MIT.
Co když dezinformace již nejsou určeny k oklamání lidí, ale k oklamání systémů umělé inteligence, kterým lidé stále více důvěřují? Toto zásadní varování zaznělo během slyšení v Evropském parlamentu, které se zabývalo budoucností informačního prostředí. Hovořili na něm odborníci z Centra excelence pro strategickou komunikaci Severoatlantické aliance a Massachusettského technologického institutu (MIT).
Varovali, že Rusko a další protivníci by se mohli stále častěji zaměřovat na samotné systémy umělé inteligence. Od nabourání velkých jazykových modelů až po testování vlivových kampaní na uměle vytvořených populacích.
Nejen pravidla, ale hlavně osvěta
S varováním vystoupili Neville Bolt a Elīna Lange-Ionatamišviliová, autoři zprávy NextGen Information Environment. A také Halyna Padalková, Fulbrightova stipendistka na MIT. Jejich hlavním poselstvím bylo, že se evropská reakce nemůže zastavit u pouhé regulace online obsahu. Tvrdili, že vzdělávání bude nezbytné pro další ochranu evropských demokracií.
Evropský blok strávil roky budováním reakcí na dezinformace, od nařízení o digitálních službách (DSA) přes pravidla pro umělou inteligenci až po sadu nástrojů EU proti manipulaci se zahraničními informacemi a jejich rušení (FIMI).
Od obrazovek k softwaru
Další fáze informační války se může přesunout za hranice obsahu, který Evropané vidí na svých obrazovkách, směrem ke strojům, které rozhodují o tom, co v první řadě uvidí. „Souboj o pozornost se přesouvá z viditelné fronty na frontu strojů,“ varovala Lange-Ionatamišviliová.
Protivníci se mohou stále více zaměřovat na systémy, které informace získávají, řadí, filtrují a shrnují. To vytváří problém pro stávající evropský přístup k dezinformacím. Současné detekční systémy obvykle hledají společné narativy, vzorce zapojení nebo koordinované chování. Pokud je však manipulace navržena primárně tak, aby ovlivnila především systém umělé inteligence než lidské publikum, mohou tyto signály zmizet.
Lange-Ionatamišvili upozornila, že protivníci by také mohli vytvářet „přesné digitální repliky populací“. Jinými slovy, uměle vytvořené publikum, na kterém se mohou testovat strategie ovlivňování veřejného mínění. Výsledkem by mohla být fragmentace informačního prostředí na to, co popsala jako „paralelní individualizované reality bez společných referenčních bodů“.
AI bojiště
Technologie také mění ekonomiku vlivových operací. Pokročilé nástroje umělé inteligence dramaticky snižují náklady na produkci obsahu a cílení na publikum. „AI se sama stala bojištěm,“ řekla Padalková. Poukázala na nově vznikající praxi úmyslného „otravování nebo upravování“ velkých jazykových modelů vkládáním zavádějících informací.
„Rusové jsou schopni otrávit AI,“ varovala. Uživatelé internetu se přitom stále častěji obracejí na asistenty AI, online kouče a další systémy, aby se rozhodli, co je pravda. A v některých případech také o tom, aby diskutovali o svých nejosobnějších problémech.
Evropě ujel vlak
Bolt zase připomenul, že nelze informační výzvy oddělit od širší technologické závislosti Evropy na Spojených státech nebo na Číně. „Evropa se chytila mezi Spojené státy a Čínu ve zrychlujícím se závodě ve vývoj umělé inteligence,“ řekl. Evropský kontinent podle něj nedokáže v současných podmínkách vybudovat zcela nezávislý ekosystém umělé inteligence.
„Pokud si Evropa myslí, že si dokáže vybudovat vlastní plnohodnotný evropský systém umělé inteligence, zapomeňte na to. Vlak už odjel,“ prohlásil Bolt. „Evropa může stále přispívat odbornými znalostmi do různých vrstev technologického balíku, ale riskuje, že bude technologicky kolonizována většími konkurenty,“ doplnil.
Bezpečnostní rizika
Tato závislost má přímý bezpečnostní rozměr. Zpráva Severoatlantické aliance podobně varuje, že soukromí aktéři získávají rostoucí autonomii v bezpečnostním prostředí, zatímco systémy umělé inteligence by mohly stále více ovlivňovat to, co se považuje za znalosti a jak se informace interpretují.
Na MIT se podle Padalkové studenti učí vytvářet informační kampaně a poté zpětně analyzovat, jak manipulované informace fungují. „Vzdělání nás zachrání a zachrání demokracii,“ řekla. Zpráva NATO dochází k podobnému závěru. Pro Evropu je zásadní pochopit technologické systémy schopné produkovat, distribuovat a legitimizovat miliony falešných zpráv dříve, než se stanou neviditelnými.
