Nevhodné snímky vytvořené pomocí umělé inteligence zasáhly už 46 poslankyní Evropského parlamentu včetně rakouské političky Leny Schillingové. V rozhovoru pro EU Perspectives varovala, že unijní zákaz aplikací generujících sexualizované deepfakes nesmí zůstat jen na papíře. Chce, aby Brusel zasáhl celý dodavatelský řetězec digitálního zneužívání – od vývojářů a velkých platforem jako Google, Meta či X až po reklamní systémy a platební brány.
Jeden z podvržených nahých snímků Leny Schillingové vznikl úpravou záběrů z její tiskové konference o klimatu. Rakouská evropská poslankyně za stranu Zelených nyní chce, aby Evropa tvrdě zasáhla byznys stojící za takovými obrázky tam, kde to nejvíce bolí. U peněz. Od 2. prosince nicméně začíná v evropském bloku platit zákaz aplikací, které vytvářejí falešné nahé snímky. „Zákaz, který existuje jen na papíře, nikomu nepomůže,“ varovala v rozhovoru pro EU Perspectives.
Schillingová není ve svém tvrdém přístupu k šíření falešných fotografií a videí se sexuální tematikou rozhodně jediná. Experti z think-tanku Agora Digitale Transformation našli na webových stránkách, které zprostředkovávají sexualizované deepfakes, 46 žen z Evropského parlamentu.
33krát vyšší riziko než u mužů
To znamená, že se to týká jedné ze šesti poslankyň. Podle studie je pravděpodobnost, že se ženy v parlamentu stanou obětí této sexuální manipulace, 33krát vyšší než u mužů. Falešné erotické snímky pohánějí lukrativní byznys, který stojí na aplikacích, reklamách a platebních službách. Obětem přitom nezbývá většinou nic jiného, než se snažit tento druh útoků vyřešit po vlastní ose.
Od 2. prosince jsou v Unii zakázány aplikace vytvářející falešné nahé snímky. Podle čeho poznáme, že zákaz funguje? A bude to stačit k omezení tohoto typu zneužívání?
Zákaz na papíře nikomu nepomůže. Od prosince tyto nástroje nesmějí fungovat. Musíme vidět, že jejich počet klesá. A také, že společnosti, které je nadále nabízejí, budou čelit reálným následkům. Musíme jít po celém řetězci. Po těch, kteří tyto nástroje vyvíjejí, šíří snímky a vydělávají na sexuálním zneužívání. Ženy v tom nemohou zůstat samy.
Pokud některé členské státy do 2. prosince nezřídí národní úřady pro umělou inteligenci, jak může Unie tento zákaz efektivně vymáhat?
Pro nepřipravenost neexistuje žádná omluva. Členské státy měly na přípravu implementace Nařízení o umělé inteligenci (AI Act) dostatek času. Lhůta pro určení národních orgánů již uplynula. Evropská komise má navíc na základě Nařízení o digitálních službách (DSA) pravomoc vymáhat pravidla u největších platforem. A musí ji využít. Firmy musí hned od prvního dne vědět, že porušení zákona bude mít závažné následky.
Otázka odpovědnosti
Jakou odpovědnost by měly nést online platformy, jako jsou Google, Meta nebo X, když lidé prostřednictvím jejich služeb vytvářejí nebo šíří tento materiál?
Musíme se zaměřit na celý řetězec odpovědnosti, včetně společností, které tyto nástroje vyvíjejí, a platforem, které je šíří, propagují a profitují z nich. To znamená zajistit dostupné mechanismy pro nahlašování, rychlé zásahy proti nezákonnému obsahu. Účinná ochranná opatření a skutečné postihy v případech, kdy technologické společnosti neplní své povinnosti.
Vyzvala jste k tomu, aby byl průmysl stojící za sexualizovanými deepfaky zbaven možnosti vydělávat peníze. Jak toho může evropský blok dosáhnout?
Musíme přestat vnímat tento problém jako něco, co lze vyřešit pouhým mazáním jednotlivých snímků. Za tímto zneužíváním stojí celý technologický průmysl. Musíme zajistit, aby zneužívání žen přestalo být ziskovým obchodním modelem.
To obnáší důsledné uplatňování Nařízení o umělé inteligenci (AI Act) vůči zakázaným systémům, aplikaci Nařízení o digitálních službách (DSA) na platformy, které umožňují šíření nezákonného obsahu nebo neřeší systémová rizika. A také vyvíjení tlaku na širší infrastrukturu, díky níž tyto služby vydělávají peníze. Musíme zastavit tok peněz do tohoto odvětví. A to i v oblasti reklamy a platebních služeb. Zneužívání nesmí být obchodním modelem.
Co byste na základě vlastní zkušenosti poradila ostatním obětem, pokud se jim něco takového stane?
Z vlastní zkušenosti vím, jaké to je vidět své vlastní nahé snímky, které jste nikdy nepořídila. Pokud se vám něco takového stane, vězte, že v tom nejste sama. Pokud je to pro vás bezpečné, zajistěte si důkazy o daném obsahu a uložte si příslušné odkazy. Požádejte o pomoc někoho blízkého. Nahlaste obsah dané platformě a v případě potřeby se obraťte na policii nebo na organizaci poskytující podporu.
V současné době stále příliš velká část zátěže dopadá na samotné oběti. Očekává se od nich, že budou neustále řešit jednotlivé výskyty obsahu, jako v nějaké nekonečné hře na „zatloukání krtků“.
Musí pak kontaktovat každou platformu zvlášť, procházet složitými procesy nahlašování a bojovat za odstranění obsahu. To vše často v situaci, kdy se zároveň musí vyrovnávat s osobními dopady tohoto zneužívání. Měla jsem štěstí, že mě podporuje tým, ale mnoho žen na to zůstává samo.
Nechci, aby ženy zůstávaly samy na řešení následků toho, že jim někdo jiný rozvrátil život. Potřebujeme jasná a dostupná kontaktní místa, úřady s dostatečným zázemím. Rychlejší a účinnější postupy pro odstranění následků a lepší podporu pro oběti. Rovněž je třeba zajistit, aby se unijní pravidla důsledně uplatňovala ve všech členských státech.
