Řada unijních zemí včetně Česka posouvá hranice toho, nakolik sledovat své občany. V posledních měsících umožnily Rakousko, Maďarsko, Řecko, Lucembursko i Česká republika používání nových technologií – od rozpoznávání obličejů v reálném čase na letištích až po spyware, který umí prolomit šifrované zprávy.
Úřady v zemích EU tvrdí, že stále rozšířenější nasazení bezpečnostních kamer a dalších technologií pro sledování občanů je nezbytné pro zajištění prevence kriminality a dalších bezpečnostních hrozeb včetně terorismu. Občanská sdružení ale varují, že trend všudypřítomného high-tech dozoru se v Evropě stane novou realitou. Může však být v přímém rozporu se zákony EU na ochranu soukromí.
EU vs. národní pravidla
Debatu vyvolává nařízení Evropské unie o umělé inteligenci, které vstoupilo v platnost 1. srpna 2024. Přelomová legislativa výslovně zakazuje biometrický dohled v reálném čase ve veřejných prostorech. Povoluje jej pouze pro úzce definované výjimky pro policejní účely. V posledních měsících nicméně několik členských států přijalo či testovalo opatření, která tyto limity překračují nebo přímo porušují.
„Použití rozpoznávání obličeje v reálném čase v tomto kontextu porušuje článek 5 nařízení o umělé inteligenci, který jednoznačně zakazuje takové praktiky ve veřejných prostorech z důvodu rizika hromadného sledování a škodlivého dopadu na základní práva,“ zdůraznila lidskoprávní skupina LibertiesEU.
Nejvýraznějším příkladem porušení unijní legislativy bylo dubnové rozhodnutí maďarské vlády zakázat pochod sexuálních menšin LGBT+ Pride v Budapešti a udělit povolení policii používat rozpoznávání obličejů v reálném čase k identifikaci jeho účastníků.
Rakousko: Spyware a více kamer
Maďarsko ale není jediné. V červenci rakouská dolní komora parlamentu schválila návrh zákona týkající se používání spywaru, který dokáže infiltrovat šifrované aplikace pro zasílání zpráv, jako jsou aplikace WhatsApp a Signal. Návrh reagoval na tragickou střelbu ve škole v Grazu v červnu 2024.
Úřady tvrdí, že opatření je časově omezené na tři měsíce a zaměřené na terorismus nebo činnosti ohrožující ústavu. Kritici však vidí nebezpečný precedens pro lidská práva a poukazují na možné technické důsledky.
Mohlo by vás zajímat
Neziskové organizace jsou proti
Více než 50 organizací ze 16 zemí už vyzvalo rakouské zákonodárce, aby zamítli návrh legislativy, kterou zástupci neziskového sektoru označili za „historický krok zpět pro IT bezpečnost“. Varují, že neexistuje žádný software, který dokáže monitorovat pouze aplikace pro komunikaci, aniž by současně neposkytoval plný přístup k celému smartphonu.
Využíváním zranitelných míst v operačních systémech se stát podle nich stává hackerem a vytváří další systémové bezpečnostní hrozby.
Rakousko se také chystá rozšířit svou síť veřejného kamerového dohledu. V současné době jsou kamery funkční pouze na 20 místech, ale podle nového plánu by úřady mohly monitorovat stovky lokalit. Dosud bylo sledování omezeno na místa, kde už došlo k závažným útokům. Nová pravidla ale policii umožní sledovat oblasti, o nichž se domnívá, že se mohou stát terčem útoků v budoucnu.
Lucembursko rozšiřuje digitální monitorování
Lucembursko se připojilo k rostoucímu seznamu evropských zemí, které rozšiřují digitální sledování. V červnu oznámilo plány na rozšíření používání spywaru pro sledování mobilní komunikace. Dříve se mohl tento nástroj používat jen v případech, které se týkaly ohrožení bezpečnosti státu nebo terorismu.
Podle navrhovaného zákona může výt používán při vyšetřování padělání měny, únosů, vykořisťování dětí, obchodování s lidmi a dětské pornografie. Úředníci tvrdí, že rozšíření je nutné, aby policie držela krok s novými kriminálními a bezpečnostními hrozbami.
Námořní sledování v Řecku
Řecké centrum pro obranné inovace už zahájilo předběžné konzultace k novému projektu: systému námořního a podvodního sledování, který má chránit kriticky důležitá zařízení a monitorovat klíčové námořní oblasti.
Využívá pokročilé senzory, námořní infrastrukturu a umělou inteligenci ke zpracování dat v reálném čase. Má identifikovat lodě, ponorky, bezpilotní plavidla, potápěče a další potenciální hrozby. Pozorovatelé varují, že může být nasazen k přímému sledování plavidel zapojených do nelegální imigrace a obchodování s lidmi.
Česko a rozpoznávání obličejů
V tuzemsku byl systém pro automatické rozpoznávání obličejů na pražském letišti Václava Havla šest měsíců využíván v rozporu s pravidly nařízení EU o umělé inteligenci. Policie ho vypnula až 1. srpna.
Nevládní organizace Iuridicum Remedium (IuRe) dlouhodobě upozorňuje, že biometrický identifikační systém letiště porušuje unijní právo. Jeho odstavení podle IuRe potvrdilo, „že biometrický dohled fungoval na letišti po dobu šesti měsíců v rozporu s evropským právem“. O dalším osudu automatického rozpoznávání obličejů na pražském letišti rozhodne Vrchní soud v Praze.
Technické nedostatky a zaujatost
Kromě právních sporů odborníci zdůrazňují, že samotné technologie pro sledování a identifikaci lidí představují závažná rizika. Systémy rozpoznávání obličejů, jak poznamenává AlgorithmWatch, jsou náchylné k falešným pozitivním výsledkům i při vysoké deklarované přesnosti.
„I když rozpoznávání obličejů dokáže identifikovat obličej s 99% přesností, samotný počet obličejů dostupných v policejních databázích povede k falešným pozitivním výsledkům,“ uvedla nezisková organizace AlgorithmWatch. K chybám už došlo například v Londýně nebo Buenos Aires.
Dalším rizikem je diskriminace. Organizace varuje, že systémy rozhodují na základě dat, která nejsou nestranná. Netransparentnost těchto „černých skříněk“ AI systémů ztěžuje dohled, zejména když policie odmítá zveřejnit technické podrobnosti o nástrojích, které používá.
Mezi dvěma ohni
Evropa se nachází na křižovatce mezi zárukami v oblasti umělé inteligence a tlakem na národní pravomoci států mít možnost sledovat své občany. Hrozí riziko, že se nové technologie stanou nástroji každodenní kontroly. Což ohrožuje zásady soukromí a svobody, které má EU chránit.
Další rozhodnutí na evropské úrovni určí, zda se sledování stane normou se všemi riziky, anebo zůstane zachován princip, že mimořádné pravomoci mají být použity jen výjimečně.
