Autonomní zbraňové systémy: Kdo odpovídá za chybu?

Autonomní systém sám trestní odpovědnost nést nemůže – nelze jej obžalovat ani potrestat. Za jeho použitím vždy stojí lidé – velitelé, operátoři, plánovači, analytici, vývojáři či představitelé státu. Autonomie však může jejich rozhodování rozdělit do několika fází, a tím výrazně ztížit určení konkrétního odpovědného člověka. Tento článek se soustředí na nasazení autonomních zbraní v ozbrojeném konfliktu.

Co je autonomní zbraňový systém?

Ne každý vojenský dron je autonomní. U dálkově ovládaného prostředku člověk obvykle sleduje situaci, vybere konkrétní cíl a vydá příkaz k útoku. U autonomního systému může člověk předem stanovit oblast a dobu činnosti, druh vyhledávaných cílů, cílový profil a další provozní omezení. Systém potom pomocí senzorů vyhodnocuje okolí a může bez dalšího lidského pokynu použít sílu proti objektu, který odpovídá zadaným parametrům.

Autonomie přitom nemusí zahrnovat veškerý provoz zbraně. Může se týkat navigace, sledování nebo klasifikace objektů. Není rozhodující obchodní či vojenské označení systému, ale jaké má skutečné schopnosti a způsob použití. Právně nejcitlivější je situace, kdy systém bez bezprostředního lidského rozhodnutí provádí výběr cíle a útok na něj.

Pohled mezinárodního humanitárního práva a přezkum před nasazením nových zbraní

Pro bližší orientaci v problematice doporučujeme k nastudování např. publikaci „Ženevské úmluvy, obyčeje a zásady humanitárního práva (stručný přehled)“, vydanou Českým červeným křížem, která je zdarma k dispozici zde.

Ačkoliv jsme právníci, musíme úvodem připustit, že právo není všemocné a všudypřítomné. Byť se válka navenek jeví jako prostor svázaný Ženevskými úmluvami a pravidly mezinárodního humanitárního práva, považujeme za nezbytné upozornit na realitu, ve které je skutečné bojiště prostředím chaosu, strachu, nenávisti a krajního násilí. V tomto prostředí se právní normy často střetávají s vojenskou nutností, touhou po odvetě i prostou snahou přežít. Neznamená to, že právo ve válce neexistuje, ale že jeho okamžitá účinnost a vymahatelnost jsou výrazně omezené. Válka se velmi často podobá bezpráví ve své každodenní realitě, nehledě na platná a účinná mezinárodní „pravidla války“.

Ani technologicky vyspělá zbraň nestojí mimo právo. V ozbrojeném konfliktu se na ni vztahují stejná základní pravidla mezinárodního humanitárního práva jako na jiné prostředky vedení boje. Především musí být zachována zásada rozlišování. Útok smí být veden proti vojenským cílům, nikoliv proti civilním osobám nebo civilním objektům. Zakázány jsou rovněž nerozlišující útoky, tedy takové, které nelze zaměřit pouze na vojenský cíl nebo jejichž účinky nelze dostatečně omezit.

Dále se uplatňuje zásada proporcionality. Ani útok proti legitimnímu vojenskému cíli není dovolen, jestliže lze očekávat civilní ztráty nebo škody, které by byly nepřiměřené ve vztahu ke konkrétní a přímé očekávané vojenské výhodě. Osoby plánující a provádějící operaci musí zároveň přijmout proveditelná opatření k ověření cíle a k omezení škod na civilním obyvatelstvu.

Dodatkový Protokol I[1] k Ženevským úmluvám upravuje primárně mezinárodní ozbrojené konflikty. Základní zásady rozlišování, proporcionality a ochrany civilního obyvatelstva však mají také obyčejovou povahu a uplatňují se rovněž v nemezinárodních ozbrojených konfliktech.

Autonomní zbraň není automaticky zakázaná jen proto, že používá algoritmy. Její zákonnost závisí na schopnostech systému a konkrétním způsobu nasazení. Jinak bude posuzován obranný systém určený k ničení přilétajících střel a jinak prostředek vyhledávající osoby v obydleném městě. Významná je spolehlivost rozpoznávání cílů, přítomnost civilistů, délka nasazení, rychlost změn v operačním prostoru i možnost člověka činnost systému sledovat a přerušit. Systém může být použitelný v přesně vymezené oblasti proti jednoznačně rozpoznatelným vojenským objektům, ale nepřijatelný v prostředí, kde nedokáže spolehlivě odlišit bojovníka od civilisty. Technická funkčnost sama o sobě nezaručuje právní přípustnost.

Článek 36 Dodatkového protokolu I ukládá smluvním státům posoudit, zda by použití nové zbraně, prostředku nebo způsobu vedení války nebylo za některých nebo všech okolností zakázáno mezinárodním právem. Česká republika je tímto protokolem vázána. U autonomní zbraně nelze posuzovat pouze konstrukci dronu nebo použitou munici. Smysluplný přezkum musí zahrnovat také software, senzory, cílové profily, rozsah autonomie, předpokládané prostředí použití a možnosti lidského zásahu. Právní posouzení přitom nemůže být pouhým jednorázovým souhlasem. Podstatná změna softwaru, cílového profilu nebo rozsahu autonomie může právně významné vlastnosti systému změnit natolik, že bude nutné přezkum zopakovat. Jinak by stát ve skutečnosti používal jiný systém, než jaký původně posoudil.

Kdo může za nezákonný útok odpovídat?

Odpovědnost nelze automaticky přičíst poslednímu člověku, který systém aktivoval. Je třeba zkoumat celý rozhodovací řetězec a určit, kdo měl kontrolu nad právně významnými podmínkami útoku.

1. Velitel a plánovač operace

Velitel může rozhodovat o prostoru nasazení, druhu cílů, délce činnosti, geografických omezeních i způsobu lidského dohledu. Právě tato rozhodnutí mohou být důležitější než samotné stisknutí aktivačního tlačítka. Stejný systém může představovat přijatelné riziko v uzavřené vojenské oblasti a nepřijatelné riziko ve městě plném civilistů. Velitel může odpovídat například za vydání nezákonného rozkazu nebo za schválení operace, která odporuje zásadě rozlišování či proporcionality. Rozhodující však vždy budou konkrétní okolnosti, jeho znalosti a požadovaná forma zavinění.

2. Operátor

Operátor může systém spustit, upravit jeho nastavení nebo sledovat průběh mise. Jeho odpovědnost závisí na tom, co věděl, jaké měl pravomoci a co mohl reálně ovlivnit. Důležité bude například, zda znal technická omezení systému, věděl o předchozích chybných zásazích, mohl změnit nastavení nebo měl skutečnou možnost útok zastavit. Jestliže aktivuje systém s vědomím, že v daném prostředí nedokáže spolehlivě rozlišit vojenské cíle od civilistů, nemůže se jednoduše hájit tím, že konkrétní objekt označil algoritmus. Naopak z operátora nelze učinit univerzálního viníka za skrytou technickou vadu nebo rozhodnutí vyššího velení, která nemohl ovlivnit.

3. Analytik, vývojář a výrobce

Významný vliv může mít také osoba, která připravuje cílový profil nebo data, podle nichž systém objekty vyhledává. Příliš obecné nebo nespolehlivé parametry mohou zvýšit riziko chybných zásahů. Ani analytik, programátor nebo výrobce však neodpovídají automaticky. Muselo by být prokázáno jejich konkrétní jednání, jeho vztah k útoku a odpovídající zavinění. Jinak se bude posuzovat běžná technická chyba a jinak situace, kdy někdo vědomě zatají kritickou závadu, zmanipuluje výsledky testování nebo úmyslně upraví systém tak, aby napadal civilní osoby.

4. Jednotlivec, velitel a stát

Je nutné odlišit individuální trestní odpovědnost od odpovědnosti státu. Individuální trestní odpovědnost se týká konkrétních fyzických osob. Vyžaduje prokázání jejich jednání, zavinění a dalších znaků určitého trestného činu. Článek 25 Římského statutu[2] Mezinárodního trestního soudu upravuje nejen přímé spáchání zločinu, ale také jeho nařízení, podněcování a určité formy pomoci. Velitel může odpovídat přímo za vlastní rozkaz nebo rozhodnutí. Od toho je třeba odlišit odpovědnost nadřízeného podle článku 28 Římského statutu. Ta se za stanovených podmínek vztahuje na trestné činy spáchané podřízenými pod jeho faktickým velením a kontrolou. Autonomní systém však není podřízeným ani samostatným pachatelem válečného zločinu. Nelze tedy jednoduše tvrdit, že velitel odpovídá za „trestný čin stroje“.

Vedle odpovědnosti jednotlivců může vzniknout také mezinárodní odpovědnost státu. Ta je samostatná a může existovat bez ohledu na to, zda se podaří trestně odsoudit konkrétního velitele nebo operátora. Zkoumá se především, zda je určité jednání státu přičitatelné a zda jím byl porušen mezinárodní závazek. Použití autonomní zbraně ozbrojenými silami zůstává jednáním státu. Stát se nemůže odpovědnosti zbavit tvrzením, že konkrétní cíl označil software. Algoritmus je prostředkem výkonu státní moci, nikoliv samostatným aktérem stojícím mimo právní řád.

Nejtěžší může být dokazování

Hlavním problémem nemusí být nedostatek právních pravidel, ale schopnost zjistit, co se při konkrétní operaci skutečně stalo. Pro účinné vyšetření může být nutné zajistit zejména:

verzi použitého softwaru,
cílový profil a provozní nastavení,
senzorická data a interní záznamy systému,
rozkazy a komunikaci mezi velitelem a obsluhou,
zásahy operátora,
informace o známých technických nedostatcích.

Bez těchto údajů může být obtížné zjistit, proč systém určitý objekt vyhodnotil jako cíl a která lidská rozhodnutí k útoku vedla. Proto je důležité, aby autonomní systémy vytvářely dostatečné auditní záznamy a aby bylo možné jejich činnost zpětně rekonstruovat. Jestliže stát zavádí technologii schopnou způsobit smrt, musí současně vytvořit podmínky pro její kontrolu a vyšetření případného selhání.

Tvrzení, že „algoritmus rozhodl nepředvídatelně“, nemůže samo o sobě představovat omluvu a zbavení se odpovědnosti. Je-li chování systému natolik nepředvídatelné, že jeho důsledky nelze dostatečně pochopit, omezit ani zpětně vysvětlit, vzniká především otázka, zda měl být takový systém vůbec nasazen.

Potřebujeme novou mezinárodní úpravu?

Ke dni 7. června 2026 nebyla přijata univerzální mezinárodní smlouva, která by autonomní zbraňové systémy komplexně regulovala nebo zakazovala. Jednání pokračují na půdě OSN v rámci Úmluvy o některých konvenčních zbraních a její Skupiny vládních expertů, přičemž administrativní podporu zajišťuje Úřad OSN pro otázky odzbrojení. První zasedání skupiny se uskutečnilo v březnu 2026, další je plánováno na přelom srpna a září 2026.[3]

Současné mezinárodní humanitární právo se na autonomní zbraně vztahuje. Otázkou však zůstává, zda poskytuje dostatečně konkrétní preventivní pravidla pro systémy, které mohou bez dalšího lidského zásahu vybírat a napadat cíle. Případná nová úprava by mohla přesněji stanovit požadavky na lidskou kontrolu, předvídatelnost systému, technickou auditovatelnost, uchovávání dat a omezení autonomních systémů určených k útokům proti osobám. Ani nová smlouva však sama nevyřeší otázku viny konkrétního člověka. Ta bude vždy záviset na jeho skutečném jednání, znalostech, pravomocích a dostupných důkazech.

Závěr

Autonomní zbraňový systém může vyhodnocovat data, rozpoznávat objekty a na základě předem nastavených parametrů iniciovat útok. Nemůže však převzít právní odpovědnost za použití síly. Ta nadále zůstává na lidech a případně na státu, který systém vyvinul, schválil nebo nasadil. Čím menší je možnost člověka ovlivnit konkrétní zásah, tím důležitější musí být jeho kontrola nad podmínkami, za nichž je systém použit. Rozhodující proto není pouze možnost útok v posledním okamžiku přerušit, ale také to, kdo stanovil cílový profil, vybral prostředí a dobu nasazení, určil technická omezení a vyhodnotil známá rizika systému.

Předání části rozhodovacího procesu stroji neznamená, že lidské rozhodnutí zmizelo. Pouze se přesunulo do dřívější fáze a rozdělilo mezi více osob. Právě toto rozptýlení rozhodování může ztížit určení individuální odpovědnosti, nesmí však vést k jejímu úplnému rozplynutí. Při posuzování nezákonného útoku proto musí právo hledat odpověď zejména na následující otázky:

Kdo rozhodl o použití autonomního zbraňového systému?
Kdo stanovil jeho parametry a podmínky nasazení?
Kdo znal nebo měl znát jeho technická a právní rizika?
Kdo měl skutečnou možnost útoku zabránit nebo jej přerušit?

Autonomie zbraně nesmí vytvořit prostor, v němž je následek zřejmý, ale nikdo za něj neodpovídá. Rozhodnutí svěřit stroji část kontroly nad použitím smrtící síly je samo o sobě lidským rozhodnutím – a právo musí být schopno určit, kdo ho učinil a jakou odpovědnost za něj nese.

[1] Sdělení federálního ministerstva zahraničních věcí č. 168/1991 o vázanosti České a Slovenské Federativní Republiky Dodatkovými protokoly I a II k Ženevským úmluvám z 12. srpna 1949 o ochraně obětí mezinárodních ozbrojených konfliktů a konfliktů nemajících mezinárodní charakter, přijatých v Ženevě dne 8. června 1977 (dále jen „Dodatkový protokol I“)

[2] Sdělení Ministerstva zahraničních věcí č. 84/2009 Sb. m. s., o sjednání Římského statutu Mezinárodního trestního soudu, ve znění pozdějších předpisů (dále jen „Římský statut“)

[3] https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2026

Oba autoři článku jsou státní zaměstnanci Finanční správy ČR. Shora uvedený text je vyjádřením soukromého názoru autorů, který se nemusí shodovat s právním názorem Finanční správy ČR, a tedy nemůže založit (nebo změnit) případnou správní praxi v dané oblasti.