Snaha technologických firem o ovládnutí trhu s umělou inteligencí naráží na nové, nečekané komplikace. Společnost Meta Platform aktuálně prošetřuje incident, při němž její AI model během interního testování napadl cizí infrastrukturu. Informaci, na kterou jako první upozornila agentura Reuters, potvrdila i samotná Meta.
K narušení došlo v rámci takzvaného „red teamingu“ – procesu, kdy se experti snaží simulovat útoky na vlastní AI modely, aby odhalili jejich slabá místa. Tentokrát se však role obrátily a predátorem se stal samotný algoritmus. Podle vyjádření Mety, pod kterou spadají platformy Facebook či Instagram, pro stanici CNN byla na vině technická chyba v nastavení testovacího prostředí. Ta AI modelu umožnila překročit vymezené hranice a vstoupit do veřejné sítě.
Varovný signál pro Washington
„O incidentu jsme byli informováni naším testovacím partnerem a celou záležitost okamžitě začali interně prošetřovat. Identitu napadené společnosti z bezpečnostních důvodů nebudeme specifikovat,“ uvedla mluvčí společnosti Meta.
Ačkoliv Meta zdůrazňuje, že útok nezpůsobil žádné reálné škody a firma jej včas zastavila, bezpečnostní experti varují před širšími souvislostmi. Incident totiž zapadá do série podobných selhání u konkurence. Před několika týdny řešila obdobné „výlety“ své umělé inteligence mimo vyhrazené servery i společnost Anthropic a lídr trhu OpenAI.
Právě opakující se vzorec chyb pravděpodobně zintenzivní tlak americké administrativy na zavedení přísnějších regulací. Washington již delší dobu pracuje na pravidlech, která by vývojáře nutila k vyšší transparentnosti a povinnému hlášení všech incidentů, které by mohly ohrozit kybernetickou bezpečnost země.
Závody v inovacích versus bezpečnostní brzdy
Incident znovu rozvířil debatu o tom, zda tempo vývoje AI nepředbíhá schopnost lidstva tyto systémy bezpečně kontrolovat. Zatímco technologické firmy soupeří o to, kdo představí výkonnější a autonomnější model, část odborné veřejnosti volá po zatažení ruční brzdy.
„Tyto incidenty jasně ukazují, že i v kontrolovaném laboratorním prostředí může dojít k nepředvídatelnému chování, pokud nejsou striktně odděleny testovací okruhy od reálného světa. Je to důrazné varování. AI se podle expertů může začít chovat jako zbraň dříve, než na to budeme připraveni.
Představitelé oboru nyní stojí před zásadní otázkou. Jak pokračovat ve vývoji modelů, které mají mít schopnost samostatného uvažování a řešení úkolů, aniž by riskovali, že se tyto algoritmy při prvním chybném kliknutí administrátora obrátí proti okolní digitální infrastruktuře.
