Experti na umělou inteligenci společně s evropskými zákonodárci varují před narůstajícím rizikem zneužití nástrojů umělé inteligence v politice. Manipulace demokratických voleb se už stala smutnou realitou, lidstvo zažívá éru digitálního feudalismu.
Odborníci a evropští zákonodárci varují, že generativní umělá inteligence (Gen AI), ke které se řadí například populární nástroje ChatGPT nebo Gemini, se stala reálnou hrozbou pro demokratickou politiku. Vyplývá to z veřejného slyšení Evropského parlamentu, které se konalo 18. července.
Zákonodárci, analytici a zástupci neziskového sektoru varovali, že se AI stala ústředním nástrojem pro šíření dezinformací s negativními dopady na formování veřejného mínění. Odborníci vysvětlili, jak nástroje AI zkreslují informace, podkopávají důvěru v demokratické instituce a mění veřejné mínění v dosud bezprecedentním rozsahu i rychlosti.
Informační válka
Jedním z expertů, který hovořil o negativních dopadech AI, byl generál izraelských ozbrojených sil ve výslužbě Rami Ben Efraim. V roce 2023 založil startup Planet 9, který se v jeho strategické poradenské společnosti BNF Group se sídlem v Singapuru zabýval kybernetickou bezpečností. Vysvětlil, jakým způsobem AI urychlila geopolitické dezinformace.
„Zatímco se zvyšují rozpočty na obranu a vojenské síly zpřísňují kontrolu hranic, digitální prostor zůstává nechráněný,“ řekl. Nástroje umělé inteligence, jako jsou deepfakes a uměle vytvořené osobnosti, se staly zbraněmi některých států. „Čínský prezident Si Ťin-pching nedávno prohlásil, že se z informační války stalo hlavní bojiště,“ připomenul Ben Efraim. „Čína a Rusko mají k tomu potřebné schopnosti,“ varoval.
Zdůraznil potřebu větší viditelnosti a transparentnosti. Ben Efraim vyzval rovněž k pečlivému zkoumání algoritmů platforem a systémů AI, přičemž citoval důkazy o systémové zaujatosti velkých jazykových modelů (LLM).
Mohlo by vás zajímat
Dopady AI budou stále větší
Gnerál varoval před budoucím dopadem umělé inteligence. Teenager v roce 2035 už bude pravděpodobně komunikovat prostřednictvím asistentů umělé inteligence. Budoucí mladé generace začnou posuzovat svět skrze optiku velkých jazykových modelů (LLM).
V souvislosti s nedávnými prezidentskými volbami ve Spojených státech řekl: „Měli jsme za úkol prozkoumat, zda významný LLM nenápadně manipuluje politickým obsahem. Vrátili jsme se se znepokojivou odpovědí: ano, LLM je zaujatý a systematicky znevýhodňuje republikánské osobnosti – nejen Trumpa, ale všechny republikány.“
Stará hra, nové zbraně
Nástroje manipulace se stále vyvíjejí. Před rostoucími riziky používání AI varuje také slovenská nezisková organizace MEMO 98 s téměř 25letou zkušeností analýzy předvolebního chování tradičních i sociálních médií.
Její výkonný ředitel Rasťo Kužel vyprávěl osobní příběh z roku 1999. Jako mediální analytik sledující volby zachytil článek důvěryhodných místních novin, se stejným rozvržením jako obvykle, ale s klíčovým rozdílem: změněný obsah chválil úřadujícího prezidenta. Mezi veřejností kolovalo půl milionu falešných výtisků. „To bylo moje první setkání s dezinformacemi. Dnes generativní AI umožňuje stejnou taktiku, ale rychleji, levněji a s mnohem větší přesností,“ vysvětlil Kužel.
Varoval, že syntetické napodobování hlasu a propaganda generovaná umělou inteligencí jsou běžnou záležitostí. Má to podloženo analýzou více než 800 000 příspěvky na sociálních médiích ze Slovenska a Česka. Výsledky ukázaly rozšířenou dezinformaci generovanou umělou inteligencí, která se zaměřuje na žurnalistiku a většinou levicový aktivismus v otázkách, jako je rostoucí přítomnost žen v politice.
Kuželův závěr je nekompromisní: „V roce 2024 zažilo více než 80 % zemí se svobodnými volbami manipulaci související s umělou inteligencí. Generativní umělá inteligence je oficiálně součástí nástrojů pro manipulaci voleb.“
Dezinformační byznys
Slyšení v Evropském parlamentu ilustrovalo, jak finanční a algoritmické pobídky od hostitelských platforem podpořily využívání umělé inteligence. Victoire Riová, výkonná ředitelka organizace What to Fix (nezisková organizace zabývající se technologickou politikou se zaměřením na integritu internetu), argumentovala, že právní předpisy EU, jako je zákon o digitálních službách (DSA) a zákon o digitálních trzích (DMA), nejsou v souladu s tím, kam se platformy vyvinuly.
„Za posledních pět let se toho hodně změnilo,“ řekla s tím, že sociální platformy zpeněžují obsah bez souhlasu tvůrců a také bez kontroly rozdělují autorské honoráře. Varovala před nárůstem monetizace sociálních médií a před novými reklamními modely.
Nejnovější problémy by měla řešit přísnější regulace. „Formou připravovaného zákona o digitální spravedlnosti musíme zakročit proti automatizačním farmám tím, že prodej neautentických automatizačních produktů a služeb prohlásíme za nelegální. Zároveň musí existovat pevný dohled nad monetizačními službami. Potřebujeme zaručit životaschopnost produkce autentického obsahu,“ uvedla.
Chatbot jako partner
Polský konzultant a analytik Grzegorz Lewicki varoval před hlubšími kulturními a psychologickými dopady generativní AI. „Dnešní teenageři si vytvářejí emocionální vazby s chatboty. Chatboty považují nejen za okno do internetu, ale za partnery, za někoho, komu mohou důvěřovat,“ uvedl.
Tyto systémy nejsou neutrální, argumentoval. Jejich ideologické nastavení může formovat myšlení uživatelů. Majitelé systémů, poháněni politickými cíli nebo obchodními zájmy, mohou tyto profily využít k ovlivňování. Popsal fenomén „mrtvého internetu“, kdy farmy botů vytvářejí falešné dialogy, které napodobují konsensus. „Když lidé vidí, že ostatní souhlasí, mají tendenci souhlasit také,“ upozornil na další negativní dopady zneužití nástrojů AI.
Rozšíření dezinformací, monetizace internetu a interakce řízené stroji dále narušují důvěru veřejnosti k informacím a médiím. „Stejně jako ve středověku se rozlišování mezi falešným a skutečným stává méně důležitým. Lidé hledají zážitky, které potvrzují jejich hodnoty. Vstupujeme do jakéhosi digitálního feudalismu,“ řekl.
Řešením může být regulace nastavení AI, zákaz používání pro uživatele mladší 15 let, posilování offline služeb a nástrojů pro digitální gramotnost. Zásadní je také důsledné prosazování stávající legislativy.
Poslanci Evropského parlamentu následně diskutovali o zákazu umělé inteligence v chatbotech, jako je Grok od společnosti X, nebo o tom, zda lze umělou inteligenci využít k detekci nelegálního obsahu.
