Připravme se na situaci, kdy náš pomyslný nepřítel bude vyvíjet zbraně, technologie a přístupy takové, které budou vysoce operačně efektivní s cílem nás maximálně poškodit, buďme připraveni na to, že etické aspekty nebudou hrát pro našeho protivníka roli. „Toto je potřeba si uvědomit, neboť v armádě dlouhá léta přetrvávala určitá dogmata, která se tomuto přístupu vyhýbala. Musíme si také uvědomit, že složitost operačního prostředí je natolik vysoká, že výpočetní nároky na realizaci operačně technických výpočtů a analýz budou extrémní. To je prostor pro superpočítače, kvantové technologie, a další systémy příbuzného charakteru“ řekl na Sympoziu Ekonomického deníku Technologie a obranná strategie České republiky vedoucí katedry vojenské robotiky Univerzity obrany Jan Mazal.
„Jeden z důležitých faktů, které nás v současné době provázejí na bojišti 21. století, jsou revoluční kroky v technologickém rozvoji, které v současnosti nabývají zásadního a přelomového významu. Ono možná při pohledu ze dne na den to není tak evidentní a máme pocit, že se nic zásadního neděje, ale pokud se na to podíváme s odstupem několika let, tak zde vidíme výrazný nárůst dynamiky, pokročilosti a v podstatě pochopení směru, kam se technologie a obecně naše společnost posouvá. Podíváme-li se na prognózy technologického génia ze společnosti Google, Raye Kurzweila, tak vidíme, že se jeho předpovědi dramaticky naplňují. Pohlédneme-li na výkonnost výpočetních systémů, které už v současnosti dosahují úrovně ekvivalentu lidského mozku a za nedlouho (cca za 20 let – pozn. red.) přesáhnou pomyslnou výpočetně-výkonnostní úroveň všech mozků na planetě, což vytváří vynikající podmínky pro efektivní rozvoj pokročilé umělé inteligence, která již ´mílovými´ kroky postupuje k pomyslné singularitě, určitě znáte fenomén Chat-GPT (ve verzi 4 se jedná se o velmi pokročilou variantu generativní umělé inteligence založené na rozsáhlých jazykových modelech), který donedávna proběhl všemi médii ale nejsem si jist, zdali v ČR existuje všeobecné povědomí o tom, jaký revoluční krok tato technologie pro budoucnost představuje,“ zahájil svou přednášku vedoucí katedry vojenské robotiky Univerzity obrany Jan Mazal.
Jan Mazal připomněl, že při pohledu několik let nazpět, tak razantní potřeba využití výpočetních systémů ve válčení, zejména v oblasti optimalizace operačně-taktického rozhodování, nebyla ještě tak reálná jako je tomu dnes.
„A za pár let dochází k příchodu technologie, která je schopná porazit lidský mozek v kvízových soutěžích, je schopná prolamovat Turingovy testy (pokus, který má za cíl prověřit, jestli se nějaký systém umělé inteligence opravdu chová inteligentně – pozn. red.), je schopná absolvovat maturitní zkoušky, nebo přijímací řízení na VŠ, apod. A toto je vlastně jen začátek toho co nás v brzké době čeká, zejména v okamžiku, kdy tato technologie bude schopna sama sebe interně zdokonalovat. Proto jsme také na našem pracovišti tuto technologii zkoušeli z hlediska návrhu kódů a vývoje algoritmů, kdy prozatím nedosahuje efektivity srovnatelné s pokročilými programátory, ale vzhledem k tomu, že se jedná o počátek, tak lze v tomto ohledu očekávat za několik let revoluční milníky a budoucnost, která nás v tomto čeká, nemusí být pro lidstvo úplně perspektivní. Takže dokonce i tvůrci této technologie varují před příliš rychlým příchodem změn, které nás budou provázet,“ upozornil vedoucí katedry vojenské robotiky Univerzity obrany.
„Pokud se dotkneme robotizace ve vojenství a já o tom hovořím již docela dlouho, skoro dvacet let, tak je postupně vidět, jak se předpovědi z 90-tých let postupně plní. A to tak, až zázračně přesně. Pokud se podíváme na robotizaci ve vojenství, tak ona v něm nefiguruje nějak krátce, její historie sahá hluboko do minulého století či do konce 19. století. Robotizace si prošla v armádách určitými vývojovými cykly a absolvovala řadu pomyslných ´zim´, kdy byl odklon od robotizovaného, automatizovaného přístupu k plnění různých operačně-taktických procesů, z důvodu nedostatečné vyspělosti dané technologie pro dosažení odpovídající úrovně operační efektivity, což bylo často bráno jako permanentní stav bez možné budoucí změny. Daný faktor vedl v mnoha ohledech ke zpomalení nebo zastavení výzkumu v daném segmentu a dnes se ukazuje jako velká chyba, která znamenala zbytečně promarněný čas, kterého není nikdy nazbyt. Je tedy na nás, jak s touto technologií budeme nadále pracovat a jak ji aplikujeme v rámci spektra operačně taktických činností, s tím, že technologické přístupy ve vedení bojové činnosti na bojišti 21. století budou jednoznačně dominovat,“ shrnul v kostce Jan Mazal.
Současná technologie se podle Mazala dostala tak daleko, že již v laboratorních podmínkách existují systémy, které jsou schopny plně konkurovat lidskému mozku, případně schopnostem vojáka, a případně je i překročit.
„Pokud se podíváme na ostatní faktory, které se nám v rámci nastupující dynamiky v tomto směru objevují, tak vidíme, že koncept budoucího operačního prostředí bude výrazně odlišný od toho, který jsme vnímali doposud. Autonomní systémy, robotika, elektronika, představují zásadní revoluci ve válčení a je potřeba s tím v předstihu začít pracovat. Musíme si uvědomit, že koncept operačního prostředí a způsob vedení bojové činnosti nebude takový, jaký bychom si přáli, ale bude takový, jaký se z hlediska pragmatického přístupu prosadí. To znamená, že náš pomyslný nepřítel bude vyvíjet zbraně, technologie a postupy takové, které budou efektivní a budou nám moci nejvíce uškodit. Toto je potřeba si jednoznačně uvědomit, neboť v armádě dlouhá léta přetrvávala dogmata, která se tomuto přístupu vyhýbala. Z hlediska myšlení musíme být v tomto ohledu více otevření a vnímat v kontextu nastupujících technologií možnosti (efektivitu procesů), které pokročilé technologie představuji. Pokud se podíváme na fundamentální důvody, proč robotizace, automatizace a umělá inteligence bude dominovat na bojišti 21. století, tak ty jsou evidentní již dnes, primárně se jedná o faktor mnohonásobně rychlejšího času v procesu rozhodování a následné reakce. Tyto fakta nejsou možná tak zřetelné pro širokou veřejnost, ale pokud se pohybujete v technologické sféře a sledujete výsledky, které jednotlivé technologické demonstrátory dosahují, s tím, že zohledníme-li dynamiku vývoje těchto technologií, je evidentní, že ten pomyslný horizont robotizace většiny taktických činností je na dohled. Tento fakt dokládá i vysoká frekvence překonávání mnoha technologických milníků, kterými nás zásobuje soudobý tisk, oproti době před deseti nebo dvaceti lety, kdy se události podobné významnosti objevovaly s četností 1-2 za rok,“ pokračoval Jan Mazal.
Nůžky mezi člověkem a robotem se budou rozevírat
„Je vidět, že se dostáváme do strmé fáze náběhové křivky vývoje a velmi pravděpodobně nás čeká období, kdy budeme obtížně kontrolovat a rozumět tomu, co se děje. Ohledně efektivity robotických systémů, tak klíčovým faktorem, jak již bylo zmíněno, je reálný čas. Ten se v důsledku technologického pokroku u těchto systémů prudce zkracuje, zatímco u člověka zůstává stejný. Tedy, zatímco dynamika bojiště významně roste a schopnost rozhodování těchto robotů klesá na úroveň milisekund, tak v rámci těchto intervalů si již asi nelze představit, že vojenským robotům bude člověk schopen v blízké budoucnosti konkurovat,“ varoval Jan Mazal.
„Pokud se podíváme na technologické aspekty z hlediska mechaniky, mechatroniky a rychlosti zpracování informací, tak vidíme, že počítačové systémy této oblasti výrazně dominují. A výkonnost a schopnosti těchto systémů se budou neustále navyšovat, zatímco u člověka již ne. Tedy pomyslné nůžky mezi efektivitou člověka a robota se budou dále rozevírat, což bude mít své brzké konsekvence. Musíme si uvědomit, že v rámci rozhodování a ve způsobu myšlení v armádě musíme být připraveni na spoustu změn. Zejména v oblasti pomyslného OODA paradigmatu (Observe, Orient, Decide and Act jedná se o cyklus, kterými se řídí procesy velení a řízení – pozn. red.), známého z 80. let. minulého století. Již od počátku jeho vzniku byly jednotlivé procesy serializovány, zatímco vzhledem k narůstající dynamice operačního prostředí se musíme připravit, že jednotlivé procesy budou muset být urychleny a hlavně paralelizovány. Což povede k tomu, že lidský mozek už nebude schopen zpracovat objem informace ze společného situačního obrazu operace (COP) v reálném čase a bude nutné do tohoto procesu nasadit výkonné výpočetní systémy,“ pokračoval v přiblížení vize válčení šéf katedry vojenské robotiky.
Toto podle Jana Mazala předpověděl už před patnácti lety výsledek amerického projektu DeepGreen (projekt agentury DARPA se zaměřením na využití pokročilých technologií v procesu rozhodování v reálném čase na taktických stupních – pozn. red.) a dnes můžeme vidět, jak se nám tyto vize postupně plní.
„Jinak, nejedná se ve svém důsledku o nic nového, podíváme-li se například do starověku, tak o důležitosti výpočtů ve válčení hovořil již legendární stratég Sun-c. Musíme se připravit na spoustu změn, mnoho postupů, které v tuto chvíli v armádě aplikujeme se změní, nebo zaniknou, jako například plánovací a řídící fáze operace, nám do budoucna ´sfúzují´, budou vysoce automatizovány a řízeny umělou inteligencí. Musíme si také uvědomit, že složitost operačního prostředí je natolik vysoká, že výpočetní náročnost operačně-taktických výpočtů a analýz bude extrémně vysoká. Toto bude prostor pro superpočítače, kvantovou technologii a podobné systémy,“ akcentoval Mazal.
A zde podle šéfa katedry vojenské robotiky musíme z hlediska vojenství pochopit, že potřebujeme vyvíjet nové teorie.
„Třeba matematickou teorii taktiky, matematickou teorii operačního umění. Tak, abychom byli schopni reagovat na výzvy nového operačního prostředí a potřebu automatizace, optimalizace taktických činností jejichž způsob provedení rozhoduje o výsledku každé ´bitvy´. NATO bohužel reagovalo na oblast automatizace a robotizace relativně pozdě. Tyto aktivity byly zahájeny cca před deseti lety vybranými studiemi, které měly vést k návrhu možných řešení a koncepcím zavádění pokročilých technologií s velmi konzervativní dynamikou. Nicméně v odpovědi na významně zhoršující se bezpečnostní situaci ve světě, tak roce 2018 již NATO summit upravil hlavní směry rozvoje úsilí NATO, které plně integrují oblasti jako AI, robotizace, datové vědy a další. Což byl důležitý krok, který zapříčinil, že i velmi konzervativní Evropské armády se dnes zabývají výstavbou bojových autonomních systémů v rámci řešení evropských projektů EDA (Europead Defence Agency ) a EDF (European Defence Fund), například projekty CUGS (Combat Unmanned Ground System) a iMUGS (integrated Modular Unmanned Ground System). A nyní již počítají s plnou integrací vyzbrojených robotizovaných systémů s vysokou mírou autonomie,“ popsal vývoj posledních let Mazal.
Dlouhodobým pomyslným „zpožďovačem“, nebo „komplikátorem“, pokročilé automatizace a robotizace byly etické aspekty, ale už i zde dochází k výrazné změně.
„I zde vidíme posun k realitě. Já pamatuji rozbíhající se kampaně v Ženevě v sídle Spojených národů, které se snažily plně zakázat, diskvalifikovat oblasti autonomního rozhodování na úrovni zbraňových systémů. V současné době vidíme trendy k tomu, že evropští etici jsou ochotní již některé oblasti automatizace připustit. Například ´targeting´ neživých systémů a podobně, což bylo do nedávna zejména v Evropě nevídané. Je nutné si připustit, že všechna omezení které si nastavíme u vlastních systémů využije potenciální protivník bez ohledu na jakékoli etické konvence, tak jak se to děje například dnes na Ukrajině,“ připomněl Mazal.
Jana Mazal na závěr shrnul, že počet domén, kde se nyní aplikuje robotizace a AI narůstá a je podle něj velmi naivní se domnívat, že se tento trend zastaví.
„V současné době se dostáváme na jakousi hranici, kdy přestáváme rozumět tomu, co se děje, ale přesto musíme technologický rozvoj akcelerovat, i když budeme jednoduše vydáni technologii tzv. ´napospas´. A čas ukáže, zdali byl tento směr správný, ale v podstatě není jiné alternativy. Pokud bychom šli ve výzkumu cestou zákazů a omezení, tak se tento trend jeví jako problematický z důvodu šance, kterou dáme našim pomyslným protivníkům (nás technologicky překonat) a kteří tuto šanci jistě využijí. I sami kritici AI a jejich aspektů připouští, že trend rozvoje a vývoje pokročilých technologií, nelze v tuto chvíli vůbec s jistotou predikovat a celý proces je už nezastavitelný, kdo se v něm zpozdí zaplatí vysokou cenu. To, že robotizované systémy v budoucnu budou dominovat bojišti z důvodu mnoha důvodů jako například faktor reálného času, schopnosti efektivního rozhodování, vyšší operační výdrže a odolnosti, vyššího počtu systémů, který jsme schopni během krátkého časového okamžiku vyrobit a nasadit, to je asi dnes více než zřejmé. A je proto nutné tuto skutečnost přijmout a začít se s tímto faktem naučit pracovat, tento trend (implementace pokročilých technologií) intenzivně rozvíjet tak, abychom se nedostali do fáze, která by nás mohla výrazně diskvalifikovat z budoucího operačního prostředí,“ uzavřel svůj příspěvek na Sympoziu Ekonomického deníku Technologie a obranná strategie České republiky vedoucí katedry vojenské robotiky Univerzity obrany Jan Mazal.
Jan Hrbáček
