Systém Trophy rozhoduje autonomně za zlomky sekundy a chrání tanky NATO i Izraele. Phalanx CIWS pálí sám na přilétající rakety bez čekání na příkaz. Izraelský AI systém Lavender označoval cíle k likvidaci, přičemž každý prošel lidskou kontrolou trvající v průměru dvacet sekund. Všechny tři situace jejich tvůrci popisují jako „pod kontrolou člověka“. Debata o autonomních zbraních totiž neřeší otázku, zda AI rozhoduje, ale kdy, jak rychle a s jakými pravomocemi.
Mezinárodní výbor Červeného kříže (ICRC) definuje autonomní zbraňový systém funkcionálně: jde o systém schopný samostatně vyhledat, identifikovat, sledovat a zaútočit na cíl bez zásahu člověka do každého jednotlivého kroku. Klíčové jsou takzvané „kritické funkce“. Jakmile je systém schopen rozhodovat o výběru cíle a zahájení útoku bez průběžného lidského schválení, ocitá se v kategorii, která je předmětem mezinárodní debaty.
Odborníci rozlišují tři základní modely: Human-in-the-loop: Člověk musí přímo autorizovat každý výstřel a systém sám nepálí. Human-on-the-loop: Systém jedná autonomně, člověk však může průběh přerušit. V praxi to znamená, že musí reagovat rychleji, než systém dokončí rozhodnutí, což u milisekundových systémů fyzicky není možné. Human-out-of-the-loop: Systém rozhoduje celý cyklus sám, zatímco člověk pouze nastavil parametry před zahájením mise.
Přestože v rámci Úmluvy o určitých konvenčních zbraních (CCW) probíhají jednání již více než deset let, neexistuje mezinárodně závazná definice ani smlouva. Skupina vládních expertů OSN (GGE) se na tomto tématu schází od roku 2014, avšak mechanismus konsensu umožňuje menšině mocností blokovat jakýkoli pokrok. USA, Rusko a Velká Británie dosud upřednostňují nezávazné politické deklarace před právně závaznými mezinárodními instrumenty.
Obranné systémy, které rozhodují samy a nikdo je nezpochybňuje
Na palubách lodí NATO spolehlivě pracuje systém Phalanx CIWS. Tento dvacetimilimetrový rotační kanón, schopný vypálit přes tři tisíce ran za minutu, detekuje přilétající rakety i střely a zcela autonomně zahajuje palbu. V režimu „Auto“ nevyžaduje žádný povel, operátor pouze přepne provozní stav a situaci dále sleduje. Zasáhnout do milisekundového rozhodovacího cyklu je totiž fyzicky nemožné.
Velmi podobně funguje Trophy APS, izraelský aktivní ochranný systém nasazený mimo jiné na amerických tancích M1A2 SEPv3 i na izraelských Merkavách. Radar včas zachytí přilétající granát, raketu nebo protitankovou střelu a výbušná protiopatření ji zneškodní ještě před dopadem. Celý obranný cyklus trvá zlomky sekundy. Člověk zde rozhodl pouze jednou, když systém aktivoval před zahájením bojové mise.
Iron Dome, izraelský protiraketový štít, naproti tomu funguje v režimu „human-on-the-loop“. Systém samostatně počítá trajektorie příchozích raket a vyhodnocuje, zda dopadnou do obydlené oblasti. Pokud směřují do otevřeného neobydleného terénu, nestřílí. Lidský operátor situaci nepřetržitě monitoruje a může zasáhnout, avšak ve špičce bojové operace, jako například 7. října 2023 při masivním salvovém útoku stovek raket, je fyzicky nemožné každé jednotlivé rozhodnutí prověřit.
Tyto systémy jsou plně autonomní ve smyslu definice ICRC, a přesto nejsou předmětem mezinárodních snah o zákaz. Důvod je prostý: jsou defenzivní a reaktivní. Útočí výhradně na hrozby, které bezprostředně směřují k nim. V právní a etické rovině je tato asymetrie naprosto klíčová.
Kargu-2 a Lavender: Nástup ofenzivní autonomie
V roce 2020 operovaly v Libyi bezpilotní drony turecké výroby STM Kargu-2. Zpráva skupiny expertů Rady bezpečnosti OSN (S/2021/229 z března 2021) zdokumentovala jejich nasazení s formulací, která v odborném diskurzu rezonuje dodnes. Systémy byly naprogramovány k útoku na cíle bez jakéhokoli datového spojení s operátorem, což v praxi představuje schopnost „vystřel, zapomeň a najdi“. Ačkoli zpráva přímo nepotvrzuje, zda autonomní režim v daných případech způsobil lidské oběti bez přímého lidského rozkazu, jde o dosud nejbližší zdokumentovaný případ nasazení smrtícího autonomního systému v reálném boji.
Rozdíl oproti obrannému systému Trophy je zásadní. Kargu-2 nevyčkávalo na přicházející útok, ale bylo naprogramováno k autonomnímu vyhledání a likvidaci lidského cíle podle předem zadaných parametrů. Ofenzivní volba cíle bez průběžného lidského schválení je přesně tím, co mezinárodní diskuze označuje zkratkou LAWS (lethal autonomous weapons system).
Ještě složitější případ představují AI systémy izraelské armády, které v dubnu 2024 popsaly investigativní servery +972 Magazine a Local Call. Zatímco systém Habsora (Gospel) identifikuje budovy a struktury jako vojenské cíle, systém Lavender pracoval s rozsáhlou databází osob napojených na militantní frakce. Podle výpovědí zpravodajských důstojníků označil přibližně 37 000 lidí jako potenciální cíle. Každý z nich byl formálně schválen lidským operátorem, avšak průměrná délka tohoto posouzení činila pouhých dvacet sekund.
Izraelská armáda existenci automatizovaného seznamu cílů popírá a zdůrazňuje, že každý úder podléhá individuální lidské kontrole. Investigace se opírá o výpovědi anonymních zdrojů, nikoli o oficiální vládní dokumenty. Přesto tato situace přesně ilustruje jádro celého problému: pokud člověk věnuje každému z tisíců navržených cílů pouhých dvacet vteřin, do jaké míry je rozhodnutí o útoku skutečně jeho?
Proč OSN jedná deset let bez výsledku
Americká armáda se řídí direktivou DoDD 3000.09 „Autonomy in Weapon Systems“, aktualizovanou v roce 2023. Tato směrnice vyžaduje „přiměřené úrovně lidského úsudku při použití síly“. Záměrně se vyhýbá termínu „human-in-the-loop“ a místo něj volí slovo „appropriate“ (přiměřené), což ponechává široký prostor pro interpretaci. Trophy i Phalanx tak směrnici plně vyhovují, neboť člověk rozhodl o samotném nasazení systému, byť už neautorizuje jednotlivé výstřely.
Klíčová otázka, kterou mezinárodní právo dosud nevyřešilo, se označuje jako „responsibility gap“ neboli mezera v odpovědnosti. Pokud autonomní systém způsobí incident v rozporu s válečným právem, například chybně vyhodnotí situaci a zasáhne civilisty, kdo ponese trestní odpovědnost? Samotný systém nemá právní subjektivitu, programátor neovládal konkrétní polní podmínky a operátor konkrétní cíl nevybíral. Velitel sice odpovídá za nasazení techniky, avšak chování neuronových sítí v reálném čase mohlo být nepředvídatelné.
Organizace SIPRI i Mezinárodní výbor Červeného kříže označují tuto mezeru v odpovědnosti za hlavní argument pro zákaz autonomních zbraní, přinejmenším v protipěchotní roli. Generální tajemník OSN António Guterres opakovaně vyzval k uzavření závazné mezinárodní dohody do roku 2026, avšak ke dni přípravy tohoto článku žádný takový dokument schválen nebyl.
Hranice mezi pouhým nástrojem a plně autonomní zbraní tedy neleží v technologii samotné. Prochází tím, jaké cíle systém vybírá, jakou rychlostí reaguje a zda za konečný výsledek nese konkrétní člověk skutečnou odpovědnost.
