Umělá inteligence, kvantové počítače a bezpečnost dat se stále více propojují. Podle Jana Kočího z Technické univerzity v Liberci proto není čas čekat, až se kvantové technologie rozšíří. Dopady na bezpečnost je nutné řešit už dnes.
Na konferenci Ekonomického deníku „Nová éra inteligence, člověk, stroje a kvantum“ mluvil Jan Kočí z Institutu pro nanomateriály, pokročilé technologie a inovace Technické univerzity v Liberci o limitech umělé inteligence, možnostech kvantových počítačů i riziku, že data ukradená dnes mohou být čitelná až za desítky let.
AI není všemocná. Důležité je, jak ji používáme
Podle Kočího není problém pouze v samotné technologii. Stejně důležité je, jak s umělou inteligencí lidé pracují a zda dokážou posoudit její výstupy.
Jazykové modely jsou jen viditelnou částí mnohem složitějšího systému. Uživatel nevidí matematiku, algoritmy ani infrastrukturu, na které modely stojí. Přesto jejich výsledkům často důvěřuje.
Právě proto podle Kočího neztrácí význam technické vzdělávání a kritické myšlení. Stroje mohou část práce převzít. Člověk ale musí vědět, kdy jejich odpověď ověřit.
AI může kontrolovat jinou AI
Jednou z cest ke snížení chybovosti jsou podle Kočího postupy, při nichž jeden model kontroluje výstup jiného modelu. Takový přístup může pomoci při práci s velkým množstvím informací. Lidskou kontrolu ale nenahradí.
Cílem proto podle Kočího není, aby AI pouze rychle odpovídala. Musí být také co nejspolehlivější pro lidi, kteří sami nedokážou každou odpověď odborně ověřit.
Kvantový počítač není nový notebook
Kvantové počítače už existují. Jejich využití je ale stále úzce zaměřené. Podle Kočího proto není reálné čekat, že nahradí běžné osobní počítače.
Kvantové počítače fungují jinak a hodí se jen pro některé typy úloh. Kočí rozdíl přiblížil na hledání cesty v bludišti, kde mohou klasický a kvantový počítač postupovat odlišně.
To ale neznamená, že kvantový počítač bude automaticky lepší. Řadu průmyslových a optimalizačních úloh budou dál zvládat klasické systémy.
Kvantové výpočty mohou pomoci také AI
Jednou z oblastí, kde mohou kvantové výpočty najít uplatnění, je strojové učení. Dnešní modely potřebují stále více výkonu a jejich trénování je náročné. Některé úlohy mohou z kvantových výpočtů v budoucnu těžit. Zda a kde vznikne skutečná výhoda proti klasickým počítačům, ale zůstává otevřenou otázkou.
Podle Kočího je proto pravděpodobnější spolupráce obou světů než úplné nahrazení klasických počítačů kvantovými.
Do debaty vstoupil také Jiří Veselý. Na otázku, zda kvantové počítače souvisejí s umělou inteligencí, odpověděl stručně: „Rozhodně.“
Data ukradená dnes mohou být problém za desítky let
Největší riziko vidí Kočí v oblasti bezpečnosti dat. Část dnes používané kryptografie může být v budoucnu ohrožena dostatečně výkonnými kvantovými počítači. S tím souvisí scénář označovaný jako „Harvest Now, Decrypt Later“. Útočník získá zašifrovaná data dnes, uloží je a pokusí se je přečíst až v budoucnu.
Podle Kočího proto nelze čekat, až budou kvantové počítače běžně dostupné. Příprava musí začít s předstihem. Týká se to především dat, která budou mít hodnotu i za deset, dvacet nebo třicet let.
Postkvantová bezpečnost není jen nový algoritmus
Přechod na postkvantovou kryptografii podle Kočího neznamená pouze vyměnit jeden algoritmus za jiný. Jde o celou bezpečnostní architekturu. Současné kryptografické mechanismy mají za sebou desítky let vývoje a praxe. Nové postkvantové standardy ale teprve musí obstát v reálném nasazení.
V průmyslu se navíc dlouho počítalo s tím, že výrobní systémy budou fungovat v uzavřeném prostředí. Dnes už tento předpoklad často neplatí. Systémy proto musí být navržené tak, aby bylo možné bezpečnostní prvky v budoucnu měnit bez výměny celé infrastruktury.
Armáda už kvantové technologie řeší
Brigádní generál Petr Šnajdárek uvedl, že armáda se kvantovými technologiemi už aktivně zabývá. Zmínil kvantové šifrování, modernizaci starších hardwarových prostředků i konkrétní operační potřeby. Podle něj se budou kvantové výpočty a umělá inteligence v řadě oblastí rozvíjet společně.
Univerzity potřebují jasné zadání
Jan Kočí upozornil, že Česká republika nemůže kopírovat model velkých zemí. Univerzity podle něj potřebují jasně definované problémy a konkrétní zadání od institucí a průmyslu.
Jako příklad uvedl právě postkvantové zabezpečení. Cílem je bezpečný přenos dat. Jejich zachycení pak nemá znamenat vyzrazení obsahu ani možnost komunikaci nepozorovaně změnit. Česko má podle Kočího dostatek odborníků. Klíčové je proto propojit je s armádou, státem a firmami.
Technologie může být rychlejší než pravidla
Do debaty vstoupil také Pavel Jandura z Technické univerzity v Liberci. Upozornil, že spolupráce univerzit s firmami často naráží na legislativní překážky. Jako pozitivní příklad uvedl spolupráci se startupem Mopedix. Vývoj elektrického mopedu prošel homologací i komercializací, ale narazil na vyšší náklady. Velká část výroby probíhá v České republice, včetně baterie vyráběné v Brně. Automobilky přitom běžně nakupujíbaterie nejen vyrobené, ale často i kompletně vyvinuté v Číně.
Evropa umí vyvíjet. Horší je dostat technologie na trh
Kočí doplnil, že evropský problém není jen ve vývoji technologií. Nestačí něco vymyslet. Technologii je nutné také vyrábět, financovat a dostat na trh za cenu, která obstojí v globální konkurenci.
Právě cesta od výzkumu k reálnému produktu je podle něj jedním z míst, kde musí Evropa zrychlit.
Bez propojení výzkumu a praxe to nepůjde
Kočího vystoupení spojilo několik témat. Mluvil o kritickém používání AI, limitech i možnostech kvantových počítačů, budoucích rizicích pro bezpečnost dat a potřebě dostat výzkum rychleji do praxe.
Pokud mohou budoucí kvantové počítače ohrozit část dnešní kryptografie, nelze začít jednat až ve chvíli, kdy bude hrozba reálná. Technologie sama nestačí. Rozhodne schopnost propojit výzkum, stát, armádu a průmysl a dostat výsledky do praxe včas.
