Úřad na ochranu osobních údajů (ÚOOÚ) se ostře vymezil proti novému nastavení pravidel používání speciálního kamerového systému na pražském Letišti Václava Havla. Ten umí jako jediný v republice dálkově rozpoznávat obličeje cestujících v reálném čase a porovnávat je s policejními databázemi. A vzhledem k tomu, že přitom využívá i umělou inteligenci, spadá nově pod působnost speciální evropské legislativy – takzvanému aktu o umělé inteligenci.
Ta má od začátku příštího roku v členských zemích jasně vymezit mantinely jejího používání a zpřísnit ochranu soukromí. Jenže způsob, jakým chce české ministerstvo vnitra zajistit její „překlopení” do tuzemského právního řádu, vyvolává o odborníků na oblast lidských práv a ochrany osobních údajů vážné obavy.
Oficiálně má totiž postavení státu zmírnit a naopak posílit práva dotčených osob, ale v případě citlivých kamer na pražském mezinárodním letišti to může v praxi být přesně naopak. Podle ÚOOÚ dokonce tak, že by mohl hrozit až „čínský scénář”, tedy nadměrné sledování lidí a neoprávněné zásahy do jejich soukromí.
Vyplývá to ze znění stanovisek jednotlivých ministerstev a dalších úřadů nebo institucí z meziresortního připomínkového řízení k rozsáhlému legislativnímu návrhu resortu vedeného šéfem STAN Vítem Rakušanem, které Ekonomický deník prostudoval.
„Obecně lze vyjádřit obavu, zda předložený návrh v některých svých aspektech jdoucích nad nezbytné evropským právem vyžadované minimum nepovede k čínskému modelu, tedy k masivnímu nasazení kamerových systémů se systémem na rozpoznávání tváří a jejich následnému masovému vytěžování, a to za využití AI, což věc činí násobně více rizikovou,” uvádějí doslova zástupci úřadu.
Připomínají přitom, že Čína patří mezi nejvíce „policejní” státy světa.
„Čínská lidová republika si tento systém bezpečnostních kamer logicky chválí, avšak z hlediska obecných lidskoprávních principů dochází k porušení práv na soukromí a politické a sociální svobody jednotlivců. V této souvislosti lze, jak upozorňuje NÚKIB, připomenout, že nabídka kamer, které již nyní využívá veřejný sektor, je velmi často právě čínské provenience a existuje jisté riziko zadních vrátek,” upozorňuje pak ÚOOÚ.
Návrh mimo jiné počítá s tím, že systém bude smět být použit po souhlasu vrchního soudu, a to buď u konkrétních lidí, ale i u obecně popsaných skupin osob podezřelých z předem definovaných trestných činů. A právě v tom je podle kritiků návrhu jeden z jeho háčků – soud totiž v takových případech nemá rozhodovat o jedinci, ale o větší skupině lidí.
„Gumová ustanovení předloženého návrhu, navíc bez zabezpečení dostatečné kontroly, v praxi umožní hypertrofii používání navržených systémů a velmi tím zvýší riziko nadměrného zásahu do práv podezřelých, a i potenciálně podezřelých osob ve smyslu takzvaného rybaření,” upozorňuje úřad s tím represivní prostředky tak bude možné nasadit fakticky bezprocesně.
„Což eliminuje možnost, aby osoby, vůči nimž mají být tyto prostředky použity, měly garantovány svá ústavní práva,” doplňují zástupci úřadu.
Podle nich je obecná definice skupin podezřelých a s tím související paušální soudní povolení nepřijatelné. Úřad navíc připomíná, že samotný evropský akt o umělé inteligenci (AIA) stanoví, že soud musí povolit každé jednotlivé nasazení systému.
„Neobstojí přitom argument, že se jedná pouze o podezřelé ze závažných trestných činů. U nasazení jiných prostředků i tam soudce rozhoduje o konkrétním člověku. Soud má posuzovat konkrétní účel nasazení na konkrétního člověka, na konkrétním místě a v konkrétním čase,” shrnuje Úřad na ochranu osobních údajů.
Velmi podobně pak argumentuje i úřad vládní zmocněnkyně pro lidská práva Kláry Laurenčíkové Šimáčkové: „Zatímco u jiných případů vydává soudce písemné povolení k použití pro konkrétní fyzickou osobu, u předem určených kategorií osob soudce povoluje pouze zahájení činnosti systému, ne ale už jeho využívání vůči konkrétním osobám. To považuji za problematické.”
Připomíná přitom, že soud v takovém případě sice může adekvátně posoudit místo nasazení systému, ale čas a osobní rozsah pak už musí nechat na pozdějším zvážení provozovatele kamer, tedy na policii. To podle ní koliduje jednak se zásadou předvídatelnosti, ale také se zákonným požadavkem na respektování soukromí.
Podle zmocněnkyně není z návrhu vůbec zřejmé, jak jeho autoři posuzují nezbytnost, přiměřenost a rizikovost zpracování osobních dat.
„Důvodová zpráva odkazuje na to, že návrh zavádí pravidla pro existující využívání neodkladné vzdálené biometriky. Nicméně skutečnost, že takové systémy jsou již dnes využívány, nijak negarantuje jejich soulad s ochranou osobních údajů, a není důvodem neposuzovat jejich nezbytnost, přiměřenost a rizikovost. Zpřísnění podmínek pro užívání těchto technologií nařízením o umělé inteligenci se vztahuje stejně tak na existující systémy jako na ty budoucí,” připomíná Laurenčíková Šimáčková.
I ona proto navrhuje – stejně jako úřad ochránců osobních údajů – aby soud musel vždy rozhodovat o nasazení kamer schopných rozpoznávat biometriku cestujících v reálném čase pro konkrétní osobu, v konkrétní době, na konkrétním místě a nezávisle na tom, jestli jde o jakékoliv předem definované kategorie osob.
Nová úprava je součástí obsáhlejších změn zákona o policie a několika dalších norem, která souvisí s implementací evropských norem. Ty se kromě harmonizace pravidel pro využítí umělé inteligence a nastavení jasných mantinelů pro využívání vzdálené biometrické identifikace lidí týkají také mezinárodní spolupráce donucovacích státních složek nebo ochrany osobních údajů. Platnost nové legislativy má být k začátku ledna příštího roku.
Systém rozpoznávání obličejů na ruzyňském letišti získal koncem března tradiční anticenu Velkého bratra jako letošní Úřední slídil roku.
„Oceněním chceme znovu upozornit na problematický přístup vedení Policie ČR k využívání nových technologií; jeví se totiž jako systémový a měl by zajímat jak regulační orgány, tak vládu a zákonodárce,” uvedli k tomu zástupci pořadatele soutěže, tedy organizace Iuridicum Remedium.
Tomáš Svoboda
