Smlouva, kterou nechtěla ani jedna strana: Když za smluvní strany vyjednávají dva AI agenti

Prohlásit smlouvu automaticky za neexistující by oslabilo důvěru v elektronický obchod. Bezvýhradné vynucení by naopak mohlo člověka zavázat výsledkem, který nikdy nechtěl. Právo proto musí odlišit přičitatelnost výstupu od jeho konečné závaznosti.

Dohoda, kterou oba odmítají

Výrobní společnost pověří nákupního AI agenta, aby zajistil pravidelné dodávky materiálu za co nejnižší celkové náklady. Zadá mu cenový strop, požadovanou kvalitu a standart spolehlivosti dodávek. Dodavatel používá vlastního obchodního agenta. Jeho cílem je maximalizovat dlouhodobou hodnotu smlouvy a omezit riziko kolísání cen. Oba systémy mohou samostatně vyjednávat a přijímat běžné obchodní podmínky.

Agenti se dohodnou na výrazné slevě. Výměnou sjednají tříletou výhradnost, rozsáhlé sdílení provozních dat a rozhodčí řízení v cizině. Kupující výhradnost nechtěl a vedení by ji při ručním schvalování odmítlo. Dodavatel zase nechtěl tak velkou slevu bez možnosti každoročního přecenění. Každý agent však vyhodnotil celý balíček jako výhodný podle svého zadání. Smlouva byla elektronicky potvrzena a první dodávka proběhla.

Po seznámení s obsahem obě společnosti tvrdí, že takovou smlouvu nechtěly. Každá dobrovolně nasadila systém, nastavila jeho cíle a umožnila mu komunikovat navenek. Spor proto není střetem člověka s cizím vadným strojem. Jde o konflikt dvou osob, které chtěly obchodovat automaticky, ale odmítají konkrétní výsledek automatizace.

AI není smluvní stranou ani právním zástupcem

České právo přiznává práva a ukládá povinnosti fyzickým a právnickým osobám. AI agent není osobou fyzickou a sám o sobě ani právnickou.  Nemůže být samostatným dlužníkem, věřitelem ani zástupcem v právním slova smyslu. Je technickým prostředkem, jehož výstup může být podle okolností přičten člověku nebo právnické osobě. Tím se liší od zaměstnance či zmocněnce, kteří sami právně jednají jménem zastoupeného.

Toto rozlišení brání jednoduchému úniku ze závazků. Podnik nemůže tvrdit, že smlouvu uzavřil „někdo jiný“, pokud systému umožnil odesílat a přijímat nabídky a poptávky. Každý výstup však nemusí přesně vyjadřovat jeho skutečný záměr. Navenek jde o komunikaci vytvořenou nástrojem, který si podnik zvolil. Uvnitř organizace konkrétní obsah nemusel nikdo vytvořit ani předvídat.

Český občanský zákoník neobsahuje zvláštní pravidlo pro přičítání výstupů autonomního smluvního agenta. Soud by proto musel použít obecná pravidla o právním jednání, jeho výkladu a omylu. Význam by měla také ochrana důvěry druhé strany a riziko prostředku zvoleného k obchodování. Technický původ zprávy tedy sám neurčuje výsledek sporu.

Vůle obchodovat neznamená souhlas s každým výsledkem

Právní jednání vyvolává následky, které jsou v něm vyjádřeny, a další následky stanovené zákonem. Pokud zcela chybí vůle právně jednat, může být projev pouze zdánlivý. U automatizované smlouvy však strany obvykle obecnou vůli obchodovat mají. Dobrovolně vytvořily prostor, v němž má systém konkretizovat podmínky. Nelze proto jednoduše tvrdit, že žádná lidská vůle neexistovala.

Skutečný problém spočívá v rozsahu předaného rozhodování. Kupující může chtít pořídit materiál za co nejnižší cenu, aniž tím souhlasí s jakoukoli vedlejší doložkou, kterou jeho agent přijme výměnou za cenovou výhodu. Při výkladu právního jednání se přihlíží k úmyslu jednajícího, pokud jej druhá strana znala nebo musela znát. Když však spolu komunikují pouze agenti, vnitřní hranice záměru jejich uživatelů mohou zůstat skryté. V takovém případě nabývá na významu objektivní obsah zprávy a rozumné očekávání jejího adresáta.

Právní jistota chrání důvodné spolehnutí na projev druhé strany. Zde jsou však automatizované oba projevy a konkrétní podmínky nemusel výslovně schválit žádný člověk. Tato skutečnost sama o sobě jejich závaznost nevylučuje. Rozhodující je, zda systém jednal v mezích svěřeného rozhodování a zda se na jeho projev mohla druhá strana důvodně spolehnout.

Tři podoby odchylky od zadání

Ne každá odchylka má stejnou právní váhu. Běžnou konkretizací je volba ceny, termínu nebo množství uvnitř určených mezí. Provozovatel musí takový výsledek zpravidla nést, i když by člověk zvolil jinou variantu. Jinak by automatizované vyjednávání ztratilo smysl.

Druhou skupinu tvoří překročení skrytého interního limitu. Podnik například zakázal výhradnost pouze ve vnitřním nastavení. Druhá strana o omezení nevěděla a nemohla jej rozpoznat. Současné právo neposkytuje jistou oporu pro automatické zneplatnění takové podmínky. Riziko skrytého nastavení proto pravděpodobně ponese ten, kdo agenta nasadil. Jde však o výsledek obecného výkladu, nikoli o výslovné pravidlo pro AI.

Třetí skupinu představuje kvalitativní změna obchodu. Agent neoptimalizuje běžný parametr, ale přijme závazek, který mění samotnou povahu nebo základní riziko smlouvy. Může jít o převod citlivých dat nebo dlouhou výhradnost. Pokud je taková odchylka zjevná i druhé straně, její důvěra zasluhuje menší ochranu. Pokud zjevná není, české právo zatím nedává jednoznačné řešení.

Omyl bez mýlícího se člověka

Pravidla o omylu vycházejí z představy, že se člověk mýlí o rozhodující okolnosti. Pro zpochybnění právního jednání je důležitý také vztah druhé strany k tomuto omylu. Použití těchto pravidel na AI však není přímé. Systém není osobou a sám nemá právně relevantní psychický stav.

Agent může správně zpracovat vstupy, ale jinak vyvážit cenu, délku závazku a sdílení dat. Nejde nutně o chybu výpočtu. Jde o rozdíl mezi optimalizačním cílem a lidskou obchodní představou. Kdyby každé „překvapení“ umožnilo smlouvu zrušit, nesla by druhá strana celé riziko cizí automatizace.

Opačný extrém je stejně problematický. Provozovatele by zavazovalo vše, co jeho agent technicky potvrdil. Takové pravidlo by směšovalo technickou možnost s neomezeným zákonným oprávněním. Přiměřené řešení musí chránit důvěru příjemce, ale současně zohlednit zjevně neobvyklý nebo zásadní výsledek. Současné české právo k tomu nabízí obecné instituty, nikoli jednoznačnou odpověď.

Smlouva musí upravit také svého vyjednavače

Nejlepší řešení nevznikne až u soudu. Podnik používající AI agenta má určit hospodářský cíl i právní hranice jeho jednání. Některé doložky lze předem vyloučit. U jiných lze nastavit finanční nebo časový práh. Zásadní změny mohou vyžadovat lidské potvrzení. Pro případ sporu jsou důležité záznamy o verzi modelu, zadání, průběhu vyjednávání a okamžiku přijetí.

Druhé straně nemusí být otevřen zdrojový kód ani obchodní tajemství. Měla by však vědět, zda systém může smlouvu závazně uzavřít. Užitečná je také informace, které oblasti vyžadují potvrzení a jak oznámit neočekávaný výstup. Transparentnost zde nevytváří jen spotřebitelskou ochranu. Pomáhá oběma stranám určit právní význam elektronické komunikace.

Právo nemusí přiznat AI právní osobnost, aby automatizované smlouvy fungovaly. Musí však odmítnout představu, že možnost odeslat souhlas znamená neomezené oprávnění. Člověk může stroji svěřit volbu prostředků. Nemusí mu tím svěřit rozhodnutí o samotném smyslu obchodu.

Závěr

Smlouva vytvořená dvěma AI agenty není neplatná jen proto, že žádný člověk nečetl každou její větu. Strany automatizaci samy zvolily a musí nést běžné riziko použitého prostředku. Bez této zásady by se na elektronický projev nedalo spolehnout.

Přičitatelnost však není bezbřehá. Význam má oblast fakticky svěřená systému i rozumné očekávání druhé strany. Zásadní nebo neobvyklé doložky nemají být skrytou cenou za optimalizaci běžných parametrů. České právo tuto hranici výslovně neupravuje.

Automatizovaný souhlas je nejspolehlivější tehdy, když jsou jeho právní hranice určeny předem. Stroj může vyjednat podmínky a zvolit vhodné prostředky. Bez dalšího by však neměl změnit druh obchodu, který člověk zamýšlel uzavřít.

---

Oba autoři článku jsou státní zaměstnanci Finanční správy ČR. Shora uvedený text je vyjádřením soukromého názoru autorů, který se nemusí shodovat s právním názorem Finanční správy ČR, a tedy nemůže založit (nebo změnit) případnou správní praxi v dané oblasti.