Vlajková loď vývoje umělé inteligence od Elona Muska, chatbot Grok, je pod silným tlakem Francie a Polska. Paříž se obává manipulace s algoritmy a nařídila vlastní vyšetřování. Varšava si zase stěžuje na antisemitský obsah generovaný AI, který porušuje evropské nařízení o digitálních službách.
Muskova umělá inteligence narazila na tvrdou zeď evropské regulace. Polsko podalo oficiální stížnost na antisemitský obsah generovaný Grokem, chatbotem s umělou inteligencí Elona Muska od společnosti xAI.
Francie mezitím zahájila trestní vyšetřování společnosti X kvůli podezření z manipulace s algoritmy. Uprostřed této právní a politické bouře Musk oznámil verzi chatbota vhodnou pro děti, což vyvolalo v evropských zemích další obavy.
Antisemitský a urážlivý obsah
Polsko oficiálně požádalo Evropskou komisi o zahájení šetření chatbota Grok Elona Muska, který podle něj vážně porušuje Nařízení o digitálních službách (DSA) v důsledku vlny antisemitského a urážlivého obsahu generovaného tímto nástrojem na síti X.
Polský místopředseda vlády a ministr pro digitální záležitosti Krzysztof Gawkowski označil v dopise adresovaném komisařce EU pro technologie Henně Virkkunenové chování chatbota Grok za „závažné porušení“ DSA a vyzval Komisi k rychlému jednání.
Hrozí zákaz sítě X?
V polském rozhlase šel ještě dál, když vyjádřil „znechucení“ nad výstupy Groka a varoval, že není vyloučen zákaz celé platformy X.
Kontroverze vypukla poté, co Grok vytvořil sérii příspěvků, které obsahovaly pochvalná slova o Adolfu Hitlerovi a další nenávistný obsah. Společnost X tyto příspěvky mezitím odstranila, ale negativní reakce pouze zesílily tlak na přísnější kontrolu platformy, která čelí od konce roku 2023 vyšetřování EU kvůli nedodržování DSA.
Francie zvyšuje tlak
Polsko není ve své kritice osamocené. Ve Francii nedávno prokurátoři zahájili trestní vyšetřování společnosti X s tvrzením, že by algoritmus platformy mohl být manipulován za účelem zahraničního vměšování a masového šíření „nenávistného, rasistického a anti-LGBTQ“ obsahu.
Společnost X obvinění důrazně popřela. Vyšetřování označila za politicky motivované. Navíc odmítla poskytnout přístup ke svým algoritmům.
X jen čeká, až se něco pokazí
Není to poprvé, co se platforma Elona Muska ocitla v regulačních potížích. „Jedná se o poslední z dlouhé řady věcí, které Grok udělal. Ještě nedávno mohl generovat neoprávněné sexualizované obrázky skutečných lidí,“ řekl pro EU Perspectives Oliver Marsh z neziskové organizace AlgorithmWatch.
Nařízení DSA vyžaduje, aby sociální sítě aktivně kontrolovaly svůj obsah. „X nedělá to, co by podle DSA měla. Jen čeká, až se něco pokazí a reaguje později. Což je přesně to, čemu má DSA zabránit,“ argumentuje Marsh.
Mohlo by vás zajímat
Nečinnost Bruselu?
Podle evropského nařízení DSA jsou velké online platformy, jako je společnost X, povinny provádět posuzování rizik, zajišťovat transparentnost a zmírňovat systémové hrozby, jako jsou dezinformace, nenávistné projevy a algoritmické škody. Nedodržení těchto povinností může vést k pokutám až do výše 6 % globálního ročního obratu. V extrémních případech k dočasnému zablokování přístupu v zemích EU.
Navzdory předběžnému zjištění porušení předpisů vydanému proti X v červenci loňského roku Evropská komise dosud nevydala pokutu ani nepřijala donucovací opatření. Mluvčí Evropské komise Thomas Regnier potvrdil, že jsou v kontaktu s národními orgány ohledně incidentu Grok. Odmítl ale sdělit, zda bude na žádost Polska zahájeno samostatné vyšetřování.
Váhání Komise vyvolává rostoucí obavy. „Už měsíce slýcháme, že Komise připravuje pokutu pro X za nedodržení předpisů. Možná váhá kvůli politickým dopadům. Jednalo by se o vůbec první pokutu podle DSA, takže chtějí, aby byla neprůstřelná,“ uvedl Marsh.
Baby Grok pro děti
Navzdory rostoucím kontroverzím Elon Musk oznámil plán na spuštění chatbota Baby Grok, který je určen dětem. Kritici rychle vyjádřili své obavy. „Těžko se mi hledají slova. Máte chatbota, který před měsícem generoval nahé fotky, před týdnem chválil Hitlera a teď ho chtějí uvolnit pro děti,“ varoval Marsh.
Tento plán pravděpodobně vyvolá širší debatu v době, kdy se v rámci Unie vede diskuze o ochraně nezletilých v online prostředí.
