Umělá inteligence a autonomní zbraňové systémy se v konfliktech na Ukrajině a v Pásmu Gazy staly běžnou realitou. Izraelská armáda se při vyhledávání cílů pro letecké údery spoléhala na databázi systému Lavender, zatímco na ukrajinském bojišti se testují autonomní roje dronů. Přestože technologie schopné zabíjet bez lidské kontroly zažívají masivní rozmach, mezinárodní právo na ně nepamatuje.
V Gaze a na Ukrajině již umělá inteligence rozhoduje o tom, koho zabít. Celosvětová pravidla pro omezení nástrojů umělé inteligence ve zbraňových systémech ale stále neexistují.
Nebezpečný trend
Například izraelský systém Lavender už využívá umělou inteligenci „k navrhování lidských a jiných cílů v Gaze bez smysluplného přezkumu, což přispívá k devastujícím humanitárním důsledkům“, řekla EU Perspectives Elizabeth Minorová neziskové organizace Stop Killer Robots.
Podle ní nový systém označuje podezřelé členy teroristických organizací Hamás a Palestinského islámského džihádu. Izraelský levicový internetový magazín +972 Magazine napsal, že se izraelská armáda během prvních týdnů války po útocích Hamásu v říjnu 2023, kdy zabili její příslušníci při útoku na Izrael 1195 lidí (810 civilistů, včetně 36 dětí, a 380 příslušníků bezpečnostních sil) a dalších 251 lidí bylo uneseno do Pásma Gazy jako rukojmí, téměř výhradně spoléhala na databázi systému Lavender.
Nejasné použití
Měl označit až 37 tisíc Palestinců jako podezřelé ozbrojené příslušníky hnutí Hamás a Palestinského islámského džihádu. Jejich domovy systém vybral jako potenciální cíle pro letecké údery. „Způsob, jakým se umělá inteligence používá, a její souvislost s dopady na civilní obyvatelstvo jsou často nejasné. To je velmi znepokojivé a samo o sobě to představuje obrovský problém,“ uvedla Minorová.
Vlády a soukromé společnosti mohou vyvíjet, testovat a nasazovat autonomní zbraně téměř bez omezení. Žádná závazná mezinárodní pravidla v současné době neexistují.
Francie a Německo patří mezi členské státy Unie, které v současné době vyvíjejí nebo se chystají zavést umělou inteligenci a autonomii do zbraňových systémů a vojenských nástrojů obrany, varovala.
Tvrdí, že evropské instituce musí tento nedostatek urychleně napravit. Evropský obranný fond sice autonomní zbraňové systémy nepovoluje, ale to nestačí k jejich úplné regulaci, uvedla Minorová.
Zákaz umělé inteligence ve vojenství
Od roku 2012 usiluje mezinárodní koalice nevládních organizací Stop Killer Robots o uzavření nové mezinárodní smlouvy, která by autonomní zbraňové systémy zakázala a regulovala. Zástupci neziskových organizací tvrdí, že autonomní zbraně představují rostoucí hrozbu pro lidstvo.
Výkonná ředitelka Stop Killer Robots Nicole van Rooijenová varovala, že tempo změn předčilo schopnost světa na tuto hrozbu reagovat. „To, co se kdysi jevilo jako vzdálená dystopická budoucnost, se rychle stalo současnou realitou,“ řekla.
Umělá inteligence a autonomní zbraně se v ozbrojených konfliktech začánají používat ve stále větším měřítku bez jakékoliv regulace. „Naší hlavní obavou je, že k tomu dochází dříve, než začnou platit konkrétní pravidla, která zajistí, že při použití síly bude vždy existovat smysluplná lidská kontrola. A že rozhodnutí o životě a smrti nebudou činit stroje,“ vysvětlila Minorová.
Nutná lidská kontrola
Podle ní je nezbytné, aby jakýkoliv systém, které může provádět útoky na lidi, byl pod kontrolou lidské obsluhy, která bude určovat, na co tyto systémy mohu zaútočit. „Státy se musí dohodnout na nových právně závazných pravidlech na mezinárodní úrovni,“ požaduje Minorová.
Na konferenci Úmluvy o některých konvenčních zbraních v sídle OSN v Ženevě členské státy vyjednávají o právně závazném dokumentu týkajícího se autonomních zbraní. „Země EU, včetně Belgie, Dánska, Finska, Francie, Německa, Itálie a Švédska, se vyjádřily, že jsou připraveny přistoupit k jednání,“ řekla Minorová. Varuje ale, že se čas krátí. „Naší největší obavou je, že země tuto příležitost promarní, přitom řešení problému je stále naléhavější,“ uvedla.
Technologie ve válkách
Rusko a Ukrajina rovněž požívají běhěm konfliktu autonomní zbraňové systémy. „Jak Ukrajina, tak Rusko usilují o větší využití autonomních systémů. Zprávy naznačují, že některé z nich dokážou autonomně identifikovat a napadat cíle. Používají se také roje dronů,“ upřesnila Minorová. O rozsahu nasazení nejmodernějších technologií se ale podle odborníků pouze spekuluje.
„Nevíme, v jakém režimu nebo jakým způsobem se mnoho z těchto systémů používá. V současné době neexistují zprávy o jejich rozšířeném používání ani o konkrétních souvislostech se zabíjením civilistů,“ uvedla.
Mezinárodní výbor Červeného kříže (ICRC) od roku 2015 naléhavě vyzývá státy, aby stanovily mezinárodně dohodnuté limity pro autonomní zbraňové systémy s cílem zajistit ochranu civilistů a dodržování mezinárodního humanitárního práva.
