Jeho cílem je připomenout, že otázky automatizace v právu jsou již delší dobu řešeny, a není třeba se jí zásadně obávat. Na podkladě konkrétních příkladů jsou následně činěny závěry o zapojení umělé inteligence do rozhodování správních orgánů a normotvorby.
Diskuse ohledně využívání umělé inteligence v právu započaté v České republice především v rámci soukromého a akademického sektoru se postupně přesouvají i do prostředí moci výkonné, zákonodárné i soudní. Příkladem může být konference „Umělá inteligence v justici – výzvy a zklamání“ pořádaná Vrchním soudem v Praze, na které vystoupili např. eurokomisařka Věra Jourová, předseda Nejvyššího správního soudu Karel Šimka, prezident Hospodářské komory Zdeněk Zajíček a další řečníci z řad státní správy, soudnictví, akademické sféry a advokacie.[1] Semináře zaměřené na umělou inteligenci jsou pravidelně pořádány na půdě Justiční akademie.[2] Na zapojení umělé inteligence do správního řízení je cílen zájem české právní vědy.[3]
Otázky užívání počítačových algoritmů v právu však nejsou nové. A jsem přesvědčen, že se zásadně neliší od aktuálních diskusí o užití umělé inteligence v rámci správního nebo soudního rozhodování. Opět jde totiž o automatizaci rozhodování či obecně právního styku. Diskuse jsou v teoretické rovině rámovány fenoménem virtualizace, v rámci kterého dochází k zásadní změně vnějších formálních znaků virtualizovaného fenoménu při zachování jeho podstaty.[4] Příkladem takového virtualizovaného fenoménu může být vlastnoručně napsaná a podepsaná smlouva, která je druhé smluvní straně zaslána poštou. Smlouva v tomto původním vnímání je v rámci virtualizace přenesena do podoby elektronického dokumentu, podepsána elektronickým podpisem a následně zaslána druhé smluvní straně datovou schránkou k podpisu.
Při zapojení umělé inteligence do správního řízení jsou oproti dřívějším snahám o využívání algoritmů v rámci rozhodovacích procesů nové jak technologie, tak bezpočet hodnotových, etických či technologických otázek. Základ nicméně stále spočívá v přenosu správního rozhodování do rukou umělé inteligence či příp. i algoritmu bez jejího využití.
Probíhající relevantní diskuse v odborné veřejnosti jsou zcela zásadní pro další směřování státní správy a české právní vědy. Právo je – většinou z dobrých důvodů – rigidní a konzervativní, často jako právníci přistupujeme k (technologickým) novinkám v právu s určitou mírou obav. Záměrem následujícího textu je tak zasazení těchto diskusí do širšího kontextu různých snah o automatizaci v právu.
Dřívější diskuse české právní vědy
V právu lze sledovat tendence ke zjednodušení a jisté míře automatizace právních služeb či právního styku a rozhodovacích procesů již dlouho. V oblasti automatizace rozhodování soudů lze zmínit projekt „Výživné“ Knappa, Weinbergera a dalších realizovaný v 60. letech minulého století.
František Cvrček popisuje projekt tak, že šlo „o konstrukci stroje, který vypočítává spravedlivou výši výživného podle aktuálního stavu vztahů mezi vyživovanými a vyživovateli, kdy v týmu spolupracovali právníci, sociologové a matematici“.[5] Projekt se na základě analýzy 1 500 soudních rozhodnutí pokoušel o přípravu algoritmu pro výpočet spravedlivé výše výživného.[6] Cvrček o projektu následně hovoří tak, že byl vlastně prvním pokusem o aplikaci umělé inteligence v českém právu.[7] Knapp rovněž navrhoval i užití algoritmu při rozhodování o některých trestních věcech.[8]
O automatizaci právního jednání uvažoval v 80. letech např. Josef Bejček v textu K možnostem automatizace právního jednání a rozhodování socialistických hospodářských organizací.[9]
Od automatu na nápoje k chytré regulaci
Jednoduchý příklad automatizace v právu, který nás již dlouhou dobu provází, je prodejní automat na nápoje či cokoliv dalšího, prostřednictvím kterého dochází k zaplacení kupní ceny a odevzdání věci kupujícímu. Nemusí přitom jít pouze o původní účel zakoupení levného nápoje ve veřejném prostoru, ale prostřednictvím automatů dochází i k prodeji elektroniky a dalších produktů. Stejným způsobem může docházet k realizaci plnění v daleko vyšší hodnotě než v případě nápojů a jídla. Nepůjde vždy jen o nákup, ale také o službu. Typickým příkladem je vjezd na parkoviště a úhrada dlouhodobého nebo krátkodobého parkovného.[10]
Automatizovanou regulaci chování také vídáme zejména ve městě každý den. Ať už se pohybujeme pěšky, nebo jedeme autem, nějakou část našeho městského pohybu bude regulovat dopravní semafor.
Lze hovořit také o snahách o tzv. chytrou regulaci. Tu Radim Polčák popisuje jako regulatorní techniku obsahující mechanismy, které flexibilně reagují na kvalitu regulovaného prostředí. Chytrá regulace pracuje s daty z cílového prostředí jako s podkladem pro fungování vrchnostenských institucí, jež mají na starosti výkon příslušných právních pravidel. Typicky mohou být automaticky sbírána a vyhodnocována data o relevantní ekonomické činnosti, na základě kterých je následně stanovena příslušná daň. Sbíraná data o regulované realitě mohou vést i k normotvorbě. Jako základní příklad takové regulace Polčák zmiňuje chytré pozemní komunikace, na kterých jsou flexibilně měněna pravidla provozu pomocí semaforů, nastavení maximální rychlosti či zákazu předjíždění nákladních aut v návaznosti na aktuální provoz.[11] Nemusí přitom jít pouze o data získaná přímo z dopravního provozu, ale také třeba data o síle větru, sněžení nebo náledí.
Regulační bubliny
Zmínit v této souvislosti lze také rozhodnutí Ústavního soudu z roku 2019 ve věci tzv. regulačních bublin. Ve věci sp. zn. III. ÚS 3817/17 město Pec pod Sněžkou hodnotilo zastavěnost území a přípustnost stavebních záměrů a jejich vliv na okolí pomocí speciálního softwaru. Ten pracoval s „regulačními bublinami“, které představovaly regulační prvek zastavitelnosti území i v závislosti na jeho dosavadní zastavěnosti. Soulad záměru s tímto regulačním prvkem spočíval mj. v tom, že „bublina“ navrženého záměru nesměla zasahovat do vnitřního ochranného pásma (jakési vnitřní bubliny) stávajícího souboru staveb v sousedství. Zároveň bylo možné záměry umisťovat pouze do vyčerpání potenciálu využití území stanoveného pro jednotlivé plochy.
Ústavní soud zde konstatuje závěr, že jistě není a priori na překážku, když v 21. století existuje automatizovaný nástroj, který kontroluje předem jednoznačně stanovená pravidla regulace území. Obecné soudy v systému spatřovaly problém v tom, že nebylo fakticky možné přezkoumat správnost aplikace tohoto algoritmu na konkrétní případy bez využití příslušné počítačové aplikace. To je však podle Ústavního soudu otázkou spíše technického charakteru a bez dalšího to nemůže vést k nezpochybnitelnému závěru o nezákonnosti předmětné regulace.[12]
Code is Law
Dlouhodobě jsou zde také tendence k určitému kódování práva. Ústředním motivem knihy amerického ústavního právníka Lawrence Lessiga Code and Other Laws of Cyberspace[13] z roku 1999 je „code is law“, tedy kód je právo. Hovoříme-li o prostředí internetu, je otázkou, nakolik je stále na internetu kód právem, anebo se stále častěji právo promítá do kódu. Právo se totiž s problémy, které vznikají při regulaci právních vztahů na internetu, snaží vypořádat různými způsoby. Jedním z nich je přenos odpovědnosti na tzv. definiční autority prostřednictvím užití regulace formou tzv. perfomativních pravidel.
Jako definiční autoritu si lze představit např. provozovatele sociální sítě, poskytovatele e-mailového klienta, provozovatele platformy ke sdílení videí nebo poskytovatele internetového připojení. Tyto subjekty totiž definují pravidla fungování konkrétní platformy nebo informační výměny. Označení jako definiční autority vychází z toho, že vůle těchto subjektů se bezprostředně projevuje v definici pravidel uměle vytvořeného prostředí. Definiční autority vykonávají kontrolu nad určitou technickou infrastrukturou, a mohou tedy v návaznosti na znalost regulovaného prostředí stanovit pravidla chování regulovaných subjektů.[14]
Definiční autorita určuje pravidla prostředí, která vlastně nemusí být ani možné porušit, stejně jako ve vnějším prostředí fungují přírodní a fyzikální zákony. Můžeme se sice ráno rozhodnout, že dnes nebude pršet a nechat doma deštník. Navzdory tomuto rozhodnutí ale s nějakou mírou pravděpodobnosti můžeme zmoknout. Stejně bude pro běžného uživatele nemožné, aby porušil nějaké pravidlo sociální sítě, které je implementováno přímo v kódu, na základě kterého je tato síť provozována.
Myšlenka regulace prostřednictvím definičních autorit je taková, že tyto subjekty mají odpovědnost za to, co se v jejich prostředí odehrává. Ty pak mohou nést určitou míru odpovědnosti za obsah, který se na jejich platformách objevuje.
Způsob regulace pracující s definičními autoritami bývá označován jako model performativních pravidel. Ta ukládají definiční autoritě vytvoření a technickou implementaci konkrétních pravidel. V rámci performativní regulace zákonodárce určí cílový stav a nechá na regulovaných subjektech, jakým způsobem tohoto cíle dosáhnou.[15]
Implementace a realizace pravidel tedy závisí na rozhodnutí definiční autority v návaznosti na parametrech příslušného systému nebo sítě. Různé definiční autority mohou implementovat různé technické provedení různých pravidel, která však povedou k témuž cíli zamýšlenému performativním pravidlem.[16]
Důvodem pro přenos volby o konkrétní implementaci právních norem je to, že definiční autorita má v porovnání se státem lepší znalost regulovaného prostředí a má lepší možnosti regulace chování subjektů v konkrétní platformě. Je otázkou, nakolik lze i ve 21. století přijímat teze Deklarace nezávislosti kyberprostoru Johna Perryho Barlowa z roku 1996. V ní je prezentována např. myšlenka, že na internetu neexistuje společenská smlouva mezi státem a adresáty právních norem, či teze, že v online prostředí nepotřebujeme právo a právní regulaci, protože si vystačíme se samoregulací v rámci komunity, přičemž státy v tomto prostředí ani nemají efektivní nástroje k regulaci.[17] Je však třeba konstatovat, že performativní pravidla jsou pragmatickým přiznáním zákonodárce, že vymahatelnost pravidel spoléhajících pouze na tradiční nástroje států v prostředí internetu skutečně může být problematická. A výsledkem performativních pravidel může být Lessigovo „code is law“, resp. spíše „law is code“.
Smart kontrakty
O automatizaci lze hovořit i v rámci smluvního práva, příkladem je protokol blockchain, resp. i další DLT technologie.[18] Typickým zástupcem blockchainu je síť bitcoin.
Prof. Bejček popisuje blockchain jako rozptýlenou, distribuovanou a sdílenou datovou strukturu, která umožňuje transparentní a bezpečné internetové uchovávání a přenos informace bez nutnosti spoléhání na třetí osobu stojící mimo blockchain. To je umožněno řadou autentizovaných a zřetězených elektronických záznamů nezpochybnitelně dokládajících smluvní úkony či jiné skutečnosti.[19]
Blockchain nemusí sloužit pouze k evidenci vlastnictví kryptoměn nebo jiných kryptoaktiv, ale lze v jeho rámci i uzavírat smlouvy, o kterých se mluví jako o smart kontraktech. Smart kontrakty lze opět vnímat jako formu autonomní regulace v podobě Lessigova „code is law“.
Výhody smart kontraktů spočívají např. v jejich automatické vykonatelnosti, nezměnitelnosti anebo efektivitě pro právní styk. Lze si je představit jako smlouvy zapsané ve formě počítačového kódu do blockchainu. Ty jsou následně automaticky vykonatelné po splnění nějakých předem stanovených podmínek. Příkladem může být pojistná částka, která je automaticky vyplacena poté, co se do databáze promítne vstupní informace o pojistné události. Jednoduchou situací, kterou lze takto algoritmizovat, je např. pojištění proti zpoždění letu.
Smart kontrakty tedy mohou být automaticky vykonatelné bez nutnosti zásahu soudu, protože teoreticky k žádnému sporu ani nemůže dojít, když věřitel nemůže být v prodlení se svým plněním.
Právo v jedničkách a nulách
V textu jsem rozebíral otázky automatizace práva, jeho kódování, definiční autority a další. Je tak možné se ptát, zdá nám může stačit pohled na právo jako informační systém, tedy výhradně jako na prostředek komunikace, kterým stát vůči adresátům právních norem komunikuje závazná pravidla chování. A tedy, zda lze bez dalšího převést právo do jedniček a nul a nechat rozhodovat stroje.
Právo ale není jen informační systém. Lze užít oblíbenou větu studentů prvního ročníku Právnické fakulty Univerzity Karlovy, jejímž autorem je Aleš Gerloch, tedy že právo je multidimenzionální fenomén. Právo je totiž také sociální systém, tedy systém společenských vztahů, který určuje obsah pravidel a zamýšlený výsledek regulace. Nebo také axiologický systém jako systém hodnot, které jsou promítnuty a zprostředkovány v právních normách.[20]
Minimálně některé právní vztahy nepochybně algoritmizovat jde. Vraťme se však k příkladu smart kontraktů. Jejich automatická vykonatelnost nemusí mít totiž vždy jen pozitivní přínos. Smluvní právo obsahuje řadu pravidel, jejichž porušení může mít za následek neplatnost smlouvy nebo jejích jednotlivých ustanovení. Může jít o nedostatek právní způsobilosti, rozpor ustanovení s dobrými mravy či veřejným pořádkem, může jít o odchylku od zákonného ustanovení v neprospěch slabší strany apod. Tyto pojistky či způsoby ochrany sice nebudou často ve smlouvách výslovně uvedeny, budou ale mít na vymahatelnost závazků ze smluv vliv. Naproti tomu v případě smart kontraktů, které jsou vykonány automaticky prostřednictvím kódu, nemusí tato pravidla připadat v úvahu a strany je budou schopny obejít.[21]
Umělá inteligence ve správním řízení
Plnému nasazení umělé inteligence do správního řízení a přenechání celého rozhodovacího procesu AI brání řada překážek, v následujícím textu přitom záměrně zcela opomíjím hodnotové a technologické překážky.
Základní překážkou je to, že úkony správního orgánu v řízení provádějí výhradně oprávněné úřední osoby.[22] Stejný závěr platí i pro Slovensko, kde se rovněž vychází z toho, že rozhodnutí přijímá správní orgán jednající prostřednictvím svých úředních osob.[23] Za současného stavu legislativy tak ani na Slovensku není možné plně automatizovat správní rozhodování.
Je však otázkou, zda na tomto požadavku i v budoucnu trvat a zda není vhodné naopak postupně směřovat k možnosti zapojení umělé inteligence do některých správních řízení. V souvislosti s algoritmizací rozhodování totiž např. Libor Pavlíček prezentuje závěr, že přepjatý formalismus je v podstatě také svého druhu algoritmizované rozhodování.[24]
Odlišný přístup byl zvolen v některých jiných evropských státech. Německé správní právo počítá s tím, že správní rozhodnutí může být přijato zcela automatizovaně, avšak pouze v případě, že v řízení není připuštěna jakákoliv diskrece. Ve Francii je možné také přijmout automatizovaně rozhodnutí, zde má nicméně správní orgán rozsáhlou informační povinnost vůči účastníkům řízení. Naproti tomu ve Švédsku je možné vydat správní rozhodnutí automatizovaně bez jakýchkoliv dalších podmínek.[25]
Pokračování článku Vám na právním prostoru přineseme v nejbližších dnech.
Článek byl publikován v Advokátním deníku.
[1] https://www.justice-ai.eu/.
[2] Např. seminář Umělá inteligence (AI) – pomocník i hrozba, https://asja.jacz.cz/index.php?pageid=1006&course_id=15084; Základy fungování umělé inteligence – srozumitelně pro začátečníky, https://asja.jacz.cz/index.php?pageid=1006&course_id=14823; nebo Umělá inteligence, strojové učení, jazykové modely, https://asja.jacz.cz/index.php?pageid=1006&course_id=14728.
[3] Příkladem budiž časopis Acta Universitatis Carolinae Iuridica zaměřený na téma „Regulatory Sandboxes, Automatization of Administrative Decision-Making and the Future of Administrative Law”, AUC Iuridica, Vol 70, No 2 (2024), dostupný z: Číslo časopisu / AUC IURIDICA – Karolinum
[4] R. Polčák: Pojem a metoda práva informačních technologií, in R. Polčák a kol.: Právo informačních technologií, Wolters Kluwer ČR, Praha 2018, str. 8; nebo R. Polčák, F. Kasl, P. Loutocký, J. Míšek, V. Stupka: Virtualizace právních vztahů a nové regulatorní metody v pozitivním právu, Právník č. 1/2019, str. 86.
[5] F. Cvrček: V. Knapp a 50 let právní informatiky v ČR, Právník č. 12/2013, str. 1221.
[6] F. Cvrček: Právní informatika, Ústav státu a práva, Praha 2010, str. 30.
[7] Op. cit. sub 5, str. 1230.
[8] J. Michálek: Modelování právních norem pomocí počítačových programů, disertační práce, Univerzita Karlova, Právnická fakulta, Praha 2021, str. 42.
[9] J. Bejček: K možnostem automatizace právního jednání a rozhodování socialistických hospodářských organizací, Právník č. 5/1982, str. 392-404.
[10] J. Rohr: Smart Contracts in Traditional Contract Law, Or: The Law of the Vending Machine, 67 Clev. St. L. Rev. 67 (2019).
[11] R. Polčák: Pojem a metoda práva informačních technologií, in R. Polčák a kol., op. cit. sub 4, str. 18.
[12] Nález Ústavního soudu ze dne 14. 5. 2019, sp. zn. III. ÚS 3817/17.
13 L. Lessig: Code and Other Laws of Cyberspace, Basic Books Icc, New York 1999.
[14] R. Polčák: Internet a proměny práva, Auditorium, Praha 2012, str. 137.
[15] J. Míšek: Moderní regulatorní metody ochrany osobních údajů, 1. vyd., Masarykova univerzita, Brno 2020, str. 149.
[16] R. Polčák: Pojem a metoda práva informačních technologií, in R. Polčák a kol., op. cit. sub 4, str. 14.
[17] J. P. Barlow: A Declaration of the Independence of Cyberspace [online], Electronic Frontier Foundation [cit. 2021-02-07], https://www.eff.org/cyberspace-independence.
[18] DLT, v angličtině distributed ledger technology, je občas do češtiny překládáno jako technologie distribuované účetní knihy.
[19] J. Bejček: Chytré smlouvy jakožto smlouvy „chytře“ protiprávní, in J. Suchoža, J. Husár, R. Hučková (eds.): Právo, Obchod, Ekonomika IX., Univerzita P. J. Šafárika v Košiciach, Košice 2019, str. 363.
[20] A. Gerloch: Teorie práva, 8. vyd., Aleš Čeněk, Plzeň 2021, str. 23.
[21] P. De Fillippi, S. Hassan: Blockchain technology as a regulatory technology: From code is law to law is code [online], First Monday, 21 (12) [cit. 2020-09-25] https://doi.org/10.5210/fm.v21i12.7113.
[22] Srov. § 15 odst. 2 zák. č. 500/2004 Sb., správní řád.
[23] R. Jakab: National Report on Automation in Decision-Making in Public Administration in Slovakia, Acta Universitas Carolinae – Iuridica, vol. LXX, č. 2/2024, str. 150.
[24] L. Pavlíček: Algoritmizované rozhodování u triviálních právních otázek, Revue pro právo a technologie, roč. 15, č. 29/2024, str. 264.
[25] J. Nešpor: Automated Administrative Decision-Making: What Is the Black Box Hiding? Acta Universitas Carolinae – Iuridica, vol. LXX, č. 2/2024, str. 72.
Diskuze k článku ()