Evropa stupňuje tlak na miliardáře Elona Muska a jeho technologické impérium. Důvodem je chatbot Grok propojený se sociální sítí X, který pomocí nástrojů umělé inteligence generuje sexuálně explicitní a sugestivní snímky dospělých i nezletilých. Mluvčí Komise Thomas Régnier varoval, že se může jednat o porušení evropských pravidel.
Unie začíná brát stále více vážně sexuálně znepokojivé a sugestivní deepfakes, které vytvořil chatbot Grok společnosti xAI pomocí nástrojů umělé inteligence a které v posledních týdnech zaplavily sociální síť X. Umělé vytvořené obrázky ukazují sexuálně vyzývavé fotografie nezletilých i dospělých. Vygenerovat je může každý – stačí model umělé inteligence označit v komentáři a vygeneruje zdánlivě explicitní fotku bez toho, aniž by k tomu vyobrazená osoba dala souhlas.
Mluvčí Evropské komise Thomas Régnier v pondělí zdůraznil, že se nejedná pouze o drobný nedostatek amerického chatbota, který dovoluje upravovat obrázky. Jde podle něj o potenciální porušení evropských pravidel pro digitální sektor.
„To není pikantní. To je nelegální,“ řekl s poukazem na název nástroje pro úpravu fotografií Régnier. Zdůraznil, že falešný sexuálně explicitní obsah nemá v Evropě místo.
Mohlo by vás zajímat
Stížnosti neziskového sektoru i odborníků
Na problematické funkce chatbota Elona Muska si už stěžovala řada neziskových a občanských skupin. Nesouhlasí s tím, že jde pouze o záměr amerického miliardáře vyvolat mediální zájem a kritiku.
Musk v posledních letech opakovaně vyvolává kontroverze. Loni na akci amerického úřadu pro efektivitu vlády mával motorovou pilou nebo při inauguraci Donalda Trumpa v lednu loňského roku provedl gesto připomínající hitlerovský pozdrav.
Unie zintenzivňuje kontrolu
Stížnosti z různých členských států Unie vedly k zásahům národních regulačních orgánů. Signalizuje to, že výstupy umělé inteligence z dílny společnosti Elona Muska považují evropské státy za zásadní problém.
Ve Francii vláda loni v listopadu zahájila šetření proti nástroji Grok za výroky popírající holocaust. Ministři příspěvky označili za „zjevně nelegální“ podle francouzského i evropského práva. Další země rovněž požadují vysvětlení nebo dodržování předpisů od společnosti xAI, který chatbota provozuje.
Komise připustila, že výstupy Groku mohou potenciálně porušovat nařízení o digitálních službách (DSA), základního právního rámce, který upravuje chování a odpovědnost za nelegální obsah u velkých online platforem. Ty jsou povinny zabránit, odstranit nebo omezit přístup k nezákonnému digitálnímu materiálu.
V případě porušení pravidel jim hrozí pokuty až do výše šesti procent jejich globálního obratu. Evropské regulační orgány považují produkci a šíření sexuálně explicitních deepfakes, zejména těch, které se týkají nezletilých, za závažný problém, nikoli za náhodné opomenutí.
Rizika generativní AI
Kontroverze kolem Muskova chatbota ukazuje na širší rizika používání nástrojů umělé inteligence v Evropě. Zatímco nařízení o AI je stále ve fázi implementace, unijní instituce upozorňují na rychlý rozvoj nástrojů AI a jejich potenciálně škodlivé výstupy. Muskův Grok už byl loni v červenci kritizován například za to, že chválil nacistického vůdce Adolfa Hitlera a psal antisemitské příspěvky. Společnost xAI je musela ze sítě X smazat.
