Používání systému biometrické identifikace v reálném čase získá jasná pravidla. Počítá s tím legislativa, kterou minulý týden schválil Senát. Podmínky pro systém, který už nyní funguje na pražském Letišti Václava Havla, jsou však podle kritiků mírnější, než požaduje evropský Akt o umělé inteligenci. Otevírá se tak prostor pro žaloby. Ministerstvo vnitra to odmítá. Česká úprava je podle něj v souladu s tou unijní.
Využívání systémů umělé inteligence pro vzdálenou biometrickou identifikaci — tedy systémů napojených na kamery, které dokážou podle obličejových a jiných charakteristik v reálném čase rozpoznat konkrétní osobu — je v evropském Aktu o umělé inteligenci přesně podmíněné.
Konkrétně stanovuje, že by systém měl být nasazen pouze „k potvrzení totožnosti konkrétní fyzické osoby. A měl by být omezen na to, co je nezbytně nutné“. Každé použití by navíc mělo „podléhat výslovnému a konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu“.
Třecí plochy mezi unijními institucemi
Jde o kompromisní znění. V průběhu trialogů, tedy jednání mezi Evropskou komisí, Radou a Evropským parlamentem, šlo o jednu z třecích ploch. Evropský parlament totiž usiloval o úplný zákaz.
Český stát se přesto uchýlil ještě k mírnější variantě. V novele zákona o policii, kterou tento týden schválil Senát, vyžaduje povolení soudu pro „kategorie fyzických osob, které mají být zařazovány do referenční databáze izolovaného systému“. Spravující orgán pak zařazení konkrétních osob nahlašuje pouze pověřenci, nikoliv soudu.
Mohlo by vás zajímat
Europoslankyně: Česko obchází evropská pravidla
To je podle europoslankyně Markéty Gregorové (Piráti/Greens/EFA) v rozporu s evropským předpisem. „Akt o umělé inteligenci velmi důrazně trvá na tom, že použití takto invazivních technologií musí být přesně vymezeno — co do času, místa i konkrétních osob. Každé použití by mělo být individuálně posouzeno soudem, včetně toho, zda je zásah opravdu nezbytný a přiměřený,“ popsala. A to současná podoba zákona, které ještě zbývá podpis prezidenta, podle ní obchází.
„Umožňuje široké a dlouhodobé sledování lidí na základě velmi vágních kritérií a bez skutečné soudní kontroly každého jednotlivého zásahu. To podle mého názoru není v souladu s duchem, ani literou aktu o umělé inteligenci. A výrazně to oslabuje ochranu základních práv,“ říká Gregorová. Upozorňuje, že ona pro evropskou legislativu v minulém funkčním období ruku nezvedla — právě v obavě z toho, že si při schválené formulaci najdou členské státy kličky, jak obejít pojistky proti zneužití.
Právník: Hrozí žaloby či sankce
Jan Vobořil, právník z neziskové organizace Iuridicum Remedium, jí dává za pravdu: „Aktuálně navrhovaná změna zákona o zpracování osobních údajů odporuje znění Nařízení o umělé inteligenci.“ Výsledkem by podle něj mohly být žaloby. Evropské právo totiž podle platné judikatury stojí nad národním a má přímou účinnost. Dodržování se tak může dovolávat i jedinec.
„Provoz systému způsobem navrhovaným vnitrem bude nezákonný i pokud český zákon bude dávat tomuto systému zelenou. To povede k právnímu chaosu. Otevírá se tak prostor jak pro sankce na základě AI actu, ale třeba i GDPR, tak pro individuální žaloby proti státu. Může to mít třeba i dopad do trestních řízení, kde by byly použité důkazy zajištěné takto nezákonným způsobem. Obávám se, že se to policii i vnitru vrátí jak bumerang,“ dodává.
Vobořil upozorňuje, že biometrické sledování je v evropském zákoně, který dělí typy užití AI podle rizikovosti, v nejpřísnější kategorii takzvaných zakázaných praktik. Na rozdíl od ostatních existuje výjimka, která využití umožňuje. Ale za přísných podmínek. „Kromě omezení toho, na jaké osoby lze systém ‚nasadit‘, je klíčovou podmínkou povolování každého využití systému soudem,“ popisuje Vobořil. Z textu nařízení a jeho recitálů je přitom podle něj zjevné, že každým využitím se míní zařazení konkrétní osoby do referenční databáze — tedy ne celých skupin.
Vnitro nesouhlasí: Úprava je v pořádku
Ministerstvo vnitra, které zákon navrhlo, oponuje. Soudí, že česká úprava je v pořádku. „Stejně jako nařízení o umělé inteligenci také český zákon požaduje, aby systém identifikoval určitou osobu nebo osoby pouze na základě povolení soudu,“ uvedl mluvčí resortu Ondřej Krátoška. Stejně tak podle něj česká úprava přímo specifikuje, že použití systému musí být omezené na to, co je nezbytně nutné.
„Požadavek, aby soud schvaloval každé jednotlivé zobrazení obličeje, které bude systém vyhledávat, se v textu nařízení o umělé inteligenci nevyskytuje,“ říká. A dodává, že by ani neměl smysl. Pokud už soud v trestním řízení rozhodl, že obžalovaného je třeba zatknout za účelem vazby, není podle něj nutné, aby jiný soud rozhodoval o tom, že takového člověka může policie rozeznat pomocí kamer.
Krátoška poukazuje také na to, že užití systému bude kontrolovat pověřenec pro ochranu osobních údajů, který má pravomoc jednotlivé osoby z referenční databáze vyřadit. To podle něj představuje dostatečnou záruku ochrany osobních údajů. „Důležitou zárukou je, že systém bude izolovaný. Tedy nebude schopen rozeznat někoho jiného než osoby definované v rozhodnutí soudu, kterým se povoluje činnost systému. Nikdo jiný nesmí být zařazen do referenční databáze systému,“ dodává mluvčí.
Individuální povolování by zahltilo soudy
Podobně mluví i senátor Pavel Fischer, předseda senátního výboru pro zahraniční věci, obranu a bezpečnost, který měl legislativu v horní komoře na starost: „Výhrady proti tomuto zákonu jsem zaznamenal. Na druhou stranu jsem přesvědčen, že nemůžeme od Policie ČR požadovat, aby jezdila na koních v době, kdy lidé posílají zprávy rychlostí světla. Občané ČR dnes žijí online. Tam se přestěhoval i zločin. Proto je nezbytné policii svěřit v důvodných případech pravomoci, aby zajistila bezpečnost. To platí například u prostor letiště Praha.“
Individuální povolování soudem by podle něj mělo i rizika. „Předpokládám, že má být analogií na podmínku nasazování odposlechů. Avšak v tomto případě by to natolik zatížilo soudní systém, že bychom mohli dosáhnout nikoli zvýšení bezpečnosti, ale paralyzovali bychom systém justice,“ dodal.
Čínský scénář? Nijak nereálné
Navzdory bezpečnostním mechanismům Vobořil míní, že právní úprava má rizika. Především to, že se použití metod rozpoznávání tváří stane rutinním. „Jak ukazují zkušenosti ze zahraničí, právě rutinní využívání takových systémů vede k chybám, které není schopna korigovat lidská obsluha, s negativními dopady na konkrétní lidi,“ říká Vobořil.
Čeká přitom, že systém v budoucnu nebude omezený jen na pražské letiště. „Už z toho, že původně návrh nebyl omezen jen na letiště a toto omezení se tam dostalo až po kritických připomínkách například Úřadu pro ochranu osobních údajů, zmocněnkyně pro lidská práva nebo vicepremiéra pro digitalizaci i z formulace důvodové zprávy, je zjevné, že vnitro počítá s rozšiřováním využívání těchto systémů i na další místa v budoucnu. Nějakou dystopickou vizi čínského střihu tak nepovažuji za nereálnou, pokud nebudeme trvat na dodržování přísných pravidel,“ myslí si.
O pozitivním dopadu na bezpečnost má pochyby. „Zajímali se poslanci nebo senátoři, jaké jsou výsledky plošného sledování letiště tímto systémem v sedmi letech od jeho spuštění? Předložila policie nějaké statistiky, koho jí tento systém vlastně pomohl odhalit?“ ptá se.
„Nám bylo řečeno, že žádné takové statistiky ani neexistují. Maximálně jsou schopni sdělit počet nalezených shod, což o bezpečnostním přínosu neříká zhola nic. Nevzpomínám si, že by kdy bylo v ČR mediálně prezentováno dopadení jakéhokoli pachatele skutečně závažné kriminality pomocí tohoto systému. Ačkoli nepochybuji, že by v případě nějakého výrazného úspěchu toho byla plná média i důvodová zpráva k tomuto návrhu zákona,“ dodává Vobořil.
