Umelá inteligencia sa postupne presúva z chatbotov, generovania obrázkov a kancelárskych nástrojov do priestoru, kde už nejde o produktivitu, ale o životy. Vojna na Ukrajine sa už dlhšie mení na laboratórium dronov, robotických systémov a algoritmov, ktoré majú pomáhať pri vyhľadávaní cieľov, navigácii alebo prekonávaní rušenia. Najnovšia správa však naznačuje, že na bojisku mohla byť prekročená ďalšia hranica.
Drony už zabíjajú vďaka AI
Podľa reportu New Scientistu, mala Ukrajina už v roku 2024 použiť desať plne autonómnych kvadrokoptér s AI režimom nazývaným Terminator Mode. Drony mali byť vyslané na front bez aktívneho spojenia s operátorom, bez možnosti sledovať ich obraz a bez priameho ľudského rozhodnutia pri výbere konkrétneho cieľa. Po nasadení mali samostatne vyhľadávať a napádať ciele v určenej oblasti.
Nejde o príbeh o umelej inteligencii, ktorá sa sama rozhodla viesť vojnu. Drony niekto pripravil, niekto ich poslal do bojovej zóny a niekto im dopredu určil úlohu. Rozdiel je v tom, že samotné finálne rozhodnutie, na čo zaútočiť, už podľa opisu nebolo v rukách človeka pri obrazovke. To je presne bod, ktorého sa kritici autonómnych zbraní obávajú najviac.
Ukrajinský výrobca dronov Alexander Kokhanovskyy mal počas podujatia organizovaného ukrajinskou ambasádou povedať, že systém stačilo vypustiť a všetko, čo v danej oblasti nájde, bude zničené. Podľa jeho opisu nemal operátor po štarte spojenie s dronom, nevidel video a nemohol zasiahnuť do výberu cieľa. Neskôr mali byť do oblasti vyslané ľuďmi riadené drony, ktoré potvrdili zničený nákladný automobil a niekoľko zabitých vojakov.
Najskôr bol test
Test sa mal odohrať v oblasti pri Bachmute a Časiv Jare. Podľa dostupného opisu išlo o jednorazové nasadenie, nie o širšie zavedenie podobných systémov do bežného používania. Práve táto opatrnosť je pri téme dôležitá. Nie je isté, či išlo o úplne prvý prípad zabitia človeka autonómnou zbraňou v dejinách, keďže už v minulosti sa riešil prípad tureckého dronu Kargu-2 v Líbyi. Tam však zostali otvorené otázky, či systém naozaj sám vykonal smrteľný útok a koľko ľudí bolo zabitých práve autonómnym režimom.
V ukrajinskom prípade je zaujímavé hlavne to, že o teste hovorí človek z obranného priemyslu, ktorý sa na technológii podieľal. Ak sa opis potvrdí, môže ísť o jeden z najjasnejšie priznaných prípadov, keď autonómny systém na bojisku vyhľadal cieľ a zaútočil bez priameho ľudského zásahu.
Dôvod, prečo sa takéto systémy vôbec objavujú, je vojensky pochopiteľný. Front na Ukrajine je presýtený rušením, dronmi a protivzdušnou obranou. Spojenie s operátorom sa dá stratiť, videosignál sa dá rušiť a rozhodovanie človeka môže byť pomalšie než reakcia stroja. Autonómny systém môže pokračovať v úlohe aj vtedy, keď pilot už nemá obraz ani kontrolu. Z pohľadu armády je to lákavé. Z pohľadu medzinárodného práva a etiky je to mínové pole.
Kto bude zodpovední za zlý výber cieľa?
Najväčšou otázkou je zodpovednosť. Kto nesie vinu, ak algoritmus zle vyhodnotí cieľ? Operátor, ktorý dron vypustil? Výrobca, ktorý systém natrénoval? Veliteľ, ktorý povolil nasadenie? Alebo štát, ktorý takúto technológiu používa? Pri klasickom útoku je reťazec velenia jasnejší. Pri autonómnej zbrani sa človek posúva o krok dozadu a rozhodnutie o živote a smrti sa mení na výsledok senzorov, modelu, dát a prednastavených pravidiel.
Problémom nie je len samotné zabíjanie vojakov. V reálnom prostredí bojiska sú ciele nejasné, objekty poškodené, ľudia sa presúvajú medzi civilnou a vojenskou infraštruktúrou a senzory môžu zlyhať. AI môže správne fungovať v testoch, ale v prachu, dyme, rušení, zime alebo pri poškodenom obraze sa jej rozhodovanie môže zmeniť na čiernu skrinku. A pri zbraniach chyba neznamená zlú odpoveď v chate, ale mŕtveho človeka.
OSN žiada, ale nemá nárok niečo žiadať
OSN už dlhšie žiada, aby smrtonosné autonómne zbraňové systémy podliehali jasným medzinárodným pravidlám. Generálny tajomník António Guterres hovorí, že stroje nemajú dostať moc rozhodovať o živote a smrti bez ľudskej kontroly. Diskusie však postupujú pomaly a štáty sa nevedia zhodnúť na záväzných pravidlách. Medzitým technológia napreduje rýchlejšie než diplomacia. Reálne vo vojne môže kto chce žiadať čo chce, ale krajina vo vojne využije všetko čo potrebuje na svoju obranu... ale aj útok.
Všetci idú týmto smerom
Ukrajina zároveň nie je jediná krajina, ktorá smeruje k väčšej automatizácii bojiska. Moderné armády testujú drony, robotické vozidlá, autonómne veže, systémy na vyhľadávanie cieľov a AI nástroje na spracovanie dát z bojiska. Rozdiel je v tom, že vojna na Ukrajine vytvorila prostredie, kde sa nové technológie okamžite testujú v praxi. Nie v laboratóriu, ale medzi mínami, delostrelectvom a zákopmi.
Tento prípad preto netreba čítať ako sci-fi moment, v ktorom sa stroje prebudili. Je to skôr oveľa chladnejší a realistickejší posun. Armády nepotrebujú vedomú AI. Stačí im systém, ktorý dokáže rozpoznať cieľ, priblížiť sa k nemu a odpáliť nálož. Ak to funguje lacno, rýchlo a bez pilota, tlak na širšie používanie bude rásť.
Ukrajina v tomto určuje smer
Treba však dodať, že AI na ukrajinskom bojisku už nie je len experiment. Ukrajinské jednotky používajú drony s AI asistovaným zameriavaním, ktoré sa dokážu zamknúť na obraz cieľa z kamery a pokračovať v útoku aj po strate spojenia s pilotom. V prostredí, kde ruské rušenie dokáže prerušiť videosignál alebo ovládanie dronu, je takáto funkcia zásadná. Pilot cieľ vyberie, no poslednú fázu letu už môže dokončiť samotný systém.
Nejde pritom len o lietajúce drony. Ukrajina čoraz viac nasadzuje aj pozemné robotické jednotky, ktoré vozia muníciu, evakuujú ranených, kladú míny alebo útočia na nepriateľské pozície. Mnohé z nich ešte nie sú plne autonómne zabijacké systémy, ale ukazujú rovnaký trend: človek sa postupne sťahuje z najnebezpečnejších miest a čoraz viac práce na fronte preberajú stroje.
Môžeme čakať, že do budúcnosti budú bojiska primárne AI.
Komentáre