Na co by se měl zákonodárce v této souvislosti zaměřit? Jsou nějaké legislativní změny vůbec potřebné? Hrozí, že s rostoucí digitalizací ztratíme soukromí? Jakou právní povahu by měla mít odpovědnost umělé inteligence? Změnil se v 21. století význam a role práva? V rozhovoru odpovídal JUDr. Stanislav Mikeš, jenž pravidelně publikuje o tématech souvisejících s moderními technologiemi, a to nejen v odborných periodicích - současným trendům v právu se věnuje i ve své nové knize „Co je nového v právu“.
Na jaře vyšla Vaše kniha s titulem „Co je nového v právu?“. Jaká jsou ústřední témata Vaší nové publikace? Jinými slovy, co je v právu nového?
V knize se zabývám zejména problematikou tzv. moderních technologiích, za které považuji zejména komplexní počítačové programy, pro něž se dnes používá označení umělá inteligence, které analyzují za pomoci sofistikovaných matematických modelů velké množství dat, a s tím spojenými otázkami, jako je zejména ochrana soukromí. Upozorňuji zejména na připravovanou legislativu na úrovni Evropské unie, která by se otázek s touto oblastí spojených měla dotýkat.
Umělá inteligence může být dle některých aktuálně dostupných vývojových scénářů schopna aktivit, které doposud ležely toliko v dispoziční sféře člověka. Jakou úlohu by podle Vás měla umělá inteligence ve společnosti plnit tak, abychom dostatečně využili její potenciál, a zároveň maximálně eliminovali riziko, že nás „nahradí roboti“?
Vývojových scénářů je celá řada, a už jen proto se ne každý naplní. Skutečnost je zpravidla vždy složitější než jakýkoliv plánovaný scénář. Nemyslím si, že by v dohledné době měly lidi nahradit počítačové programy (umělá inteligence). Budoucnost vidím spíše v tom, že tyto programy budou tak jako nyní sloužit lidem jako nástroje pro uskutečňování rozmanitých činností včetně plnění pracovních úkolů. Jinak řečeno, soustředit bychom se měli na rozvoj a podporu těch technologií, které budou lidem pomáhat, a nikoliv je snad vyvíjet s úmyslem lidi zcela nahradit. Riziko pak vidím v tom, pokud by lidé začali v těchto programech vidět něco víc než jen nástroj.
Robotizace prostupuje do všech oblastí lidského života a objevují se názory, že by právo mělo na tento nový vývoj reagovat, neboť současná právní úprava může bránit plnému využití technologického pokroku.[1] Jak by mělo právo novou realitu uchopit? Jakým klíčovým otázkám by se např. v tomto směru měli zákonodárci věnovat, jsou-li vůbec legislativní změny potřebné?
To je komplexní otázka, na kterou není jednoduché odpovědět. Nemyslím si, že by právo mělo být tvořeno či měněno podle toho, jak by se líbilo některým zájmovým skupinám. Je naopak přirozené, že se střetává více různých názorů a pohledů na věc. V tomto směru je i vhodné připomenout, že ne všechny změny jsou vždy změny k lepšímu. Proto si i obecně myslím, že s legislativními změnami je třeba zacházet obezřetně a promyšleně a vzít v potaz i potenciální širší, systémové důsledky takových změn. Mám také za to, že zákonodárci by měli při tvorbě právních předpisů myslet především na lidi a na jejich potřeby. Pokud jde o nějakou konkrétní právní úpravu, má smysl se podle mého zamyslet nad nastavením pravidel pro využívání citlivých tzv. behaviorálních dat o chování jedinců v kyberprostoru tak, aby bylo zajištěno, že tato data nebudou sbírána nad nezbytnou míru pro fungování určité služby (a z tohoto principu zatím i vychází návrh nařízení EU tzv. e-Privacy) a nebudou vůči jedinci zneužitelná.
Aby se umělá inteligence mohla v praxi prosadit a začít efektivně používat, je klíčové vyřešit řadu otázek. Vůdčí postavení mezi nimi zaujímá problematika určení odpovědnosti pro případ pochybení robota. Této otázce se ve své knize také věnujete. Jakou právní povahu by podle Vás měla odpovědnost umělé inteligence mít?
Otázka ohledně odpovědnosti je složitá a odpověď na ni se odvíjí i od toho, jakou roli umělé inteligenci, tedy počítačovému programu, přisoudíte. Jiná odpověď by měla platit pro situaci, kdy necháte počítač sám rozhodovat, a jiná tehdy, kdy na počítač dohlížíte. Dobře se to vysvětluje právě na diskutovaných autonomních vozidlech. Pokud by v hypotetickém příkladu člověk neměl mít možnost do řízení zasáhnout a řízení vozidla v jakémkoliv okamžiku převzít, měla by dle mého názoru platit objektivní odpovědnost za výsledek přičitatelná například tvůrci počítačového programu, který by vozidlo ovládal. Jiné řešení by mi za takové situace přišlo nespravedlivé. V tomto duchu by podle mého bylo možno vyložit i stávající právní úpravu. Když se však podíváte na takřka jakoukoliv dnešní licenční smlouvu k software, najdete v ní klauzuli, v níž se vývojář zříká jakékoliv odpovědnosti, respektive ji vylučuje v nejvyšší možné zákonem dovolené míře s tím, že riziko používání počítačového programu nese uživatel. To tak může fungovat například při posílání elektronické pošty, ale už ne tam, kde mohou být v sázce lidské životy. Ostatně se domnívám, že i tato úvaha mohla být východiskem pro německou právní úpravu, která autonomní vozidla v zásadě povoluje, avšak s tím, že je stále povinností člověka na autonomní řízení dohlížet a v případě ošemetné situace být připraven okamžitě převzít řízení.
Další problematickou otázkou je ochrana obrovské masy dat, se kterými budou systémy pracovat. Hrozí dle Vašeho názoru, že digitalizací ztratíme dispozici nad svým soukromím, a to se tak stane pouhou iluzí?
Možné ohrožení soukromí v určité míře vnímám. Je to třeba právě sběr a vyhodnocování tzv. behaviorálních dat v prostředí internetu, tedy dat o chování člověka, která považuji za nejvíce diskutabilní v souvislosti s jejich využíváním a zpracováváním (někdy se o těchto datech hovoří také jako o metadatech, což jsou např. data o tom, jak často či na jakém místě využíváte určité služby apod.). Zároveň však mám za to, že tento problém vnímají i zákonodárci. Na úrovni Evropské unie jsou tak v procesu vzniku předpisy, jako je například tzv. nařízení e-Privacy, které nezbytnost ochrany soukromí jedince pro zachování svobodné společnosti artikulují. Nemyslím si proto, že by se soukromí mělo stát pouhou iluzí, je však třeba jej hájit a na rizika upozorňovat. Jak totiž bylo trefně s odkazem na další zdroje vyjádřeno i v disentujícím stanovisku ústavní soudkyně Kateřiny Šimáčkové ve věci Pl. ÚS 45/17, bez soukromí není svobody, a tedy ani demokracie.
Problematická je i samotná právní povaha umělé inteligence. Chybí např. všeobecně přijímaná legální definice a rovněž nepanuje shoda na tom, pod jakou pojmovou kategorii by měla být zařazena. Měli bychom podle Vás s umělou inteligencí nakládat jako s věcí v režimu, jak věc dnes právo chápe, nebo jste spíše příznivcem vytvoření samostatné a svébytné kategorie, jež umožní, aby se umělá inteligence stala samostatnou nositelkou práv?
V tomto směru si myslím, že nedorozumění může být dáno záměnou tzv. slabé či úzké umělé inteligence za tzv. silnou či obecnou umělou inteligencí, což může být důsledkem i toho, jak je oblast umělé inteligence ovlivněna marketingem a různými sci-fi představami. Na toto rozlišení poukazovali i autoři kodexu Rady Evropy o etických zásadách používání AI v oblasti justice. Pod první kategorií, tzv. slabé či úzké umělé inteligence, si můžeme představit právě počítačový program zaměřený na konkrétní (úzce) vymezenou činnost, který vychází z robustních matematických modelů, které stojí v jeho základu, pod tou druhou kategorií de facto umělý mozek. Zatímco ta první kategorie se v současnosti rozvíjí a domnívám se, že dlouho do budoucna se i rozvíjet bude, u té druhé kategorie je nejisté, jestli v ní vůbec může nějaký průlom nastat, neboť není vůbec zřejmé, jestli lze něco jako umělý mozek zkonstruovat. A to i při vědomí toho, že lidský mozek je enormně složitý, jeho fungování dosud přesně neprobádané a vývoj v tomto ohledu postupuje pomalu, neboť je i těžké procesy probíhající v mozku sledovat, což naráží i na limity v současnosti používaných zobrazovacích technologií tzv. funkční magnetické rezonance.
Když se na předestřenou otázku podíváte tímto úhlem pohledu, pak má smysl na tzv. slabou umělou inteligenci nadále nahlížet jako na věc (software - počítačový program), kterou vyvíjí nějaký konkrétní subjekt. Je jinou otázkou, jestli pro tak specifickou věc jako je software nevytvořit specifická pravidla, což se však dle mého názoru v praxi již částečně děje (Evropská unie například připravuje nařízení, které by u různých typů srovnávacích internetových platforem nařizovalo popsat principy řazení nabídek, neboť to může ovlivňovat nákupní rozhodování spotřebitelů). Jiné řešení, například v podobě vytvoření jakési svébytné kategorie tzv. elektronické osoby totiž s sebou nese více otázek a problémů, než se může v některých líbivých, avšak bohužel zjednodušených představách zdát. Začít je možno už jen u toho, že pokud někomu dáte práva, ten musí nést i povinnosti, jedno bez druhého nejde. Vymáhání těch povinností je potom další specifickou otázkou. Elektronické osoby by rovněž mohly být i zneužity např. ve vztahu ke spotřebitelům, když by mohly sloužit např. ke snížení transparentnosti toho, kdo za určitou elektronickou osobu stojí apod.
Ve své nové knize píšete: „platí […] maxima, že umělá inteligence bude jen tak dobrá, jak dobrá budou podkladová data.“ Některé státy USA již v soudní praxi testují systémy navrhující tresty pro pachatele trestné činnosti či např. elektronické generátory přidělování spisů. Algoritmy však vykazují řadu nedokonalostí. Dokážeme vůbec vyvinout softwary vybavené „tak dobrými daty“, aby soudci mohli jejich pomoc při své rozhodovací činnosti využívat?
Je potřeba si uvědomit, že počítačové programy (umělá inteligence) budou vždy pracovat s omezenými vstupními daty, což pramení z matematických limitů každého modelu, v němž není možno počítat s nekonečným množstvím proměnných, ale je potřeba vždy vybrat ty proměnné do modelu vstupující a posoudit jejich relevanci, což může přinášet různá zkreslení a nesprávné prognózy (v informatice se hovoří o tzv. problému přeurčení, v angličtině overfitting). Proces nalézání práva a spravedlnosti ovšem není jen pouhá matematika, ale je v rámci něj potřeba zohledňovat celou řadu faktorů individualizujících každý posuzovaný případ, neboť každý případ má v zásadě jedinečné výchozí skutkové okolnosti a jedinečné aktéry. Za předpokladu, že o těchto úskalích budou osoby využívající tyto programy náležitě poučeny, potom v zásadě nevidím problém, pokud by počítačový program například na bázi analýzy určitých dat poskytl nějaké doporučení nebo například upozornil na nějaké podobné případy. Neměl by však nikdy převzít proces rozhodování, neboť ten je mnohem komplexnější a vstupují do něj právě ony individuální okolnosti, které program neumí zhodnotit. V tom je role soudce nenahraditelná. Ostatně velmi výstižně se k otázce používání systémů umělé inteligence v oblasti justice vyjádřila právě Rada Evropy, která obecně poukázala na to, že tyto systémy je možné používat pouze tehdy, budou-li při jejich užití dodržena ustanovení Evropské úmluvy o ochraně lidských práv a základních svobod, která vyžadují mj. právě i to, aby nikdo nebyl diskriminován a aby každý případ byl nezávisle a nestranně posouzen. Takový standard může podle mého zaručit pouze soudce člověk.
Společnost se neustále vyvíjí, a právo tak čelí stále novým výzvám, kterým se musí přizpůsobovat. Změnil se v 21. století význam a role práva?
Myslím si, že význam a role práva se v průběhu času nemění, stále podle mého platí, že právo by mělo být od toho, aby zajišťovalo spravedlivý systém, v němž jsou co nejvíce chráněna práva a svobody jedince. Vtip je samozřejmě v tom, že celá staletí se lidstvo pře o to, jaký systém je právě ten nejlepší. Zde si myslím, že jde o proces, který není u konce, a to hledání bude i nadále probíhat, ať už bude momentální dobový kontext jakýkoliv.
Pokud byste měl vypíchnout jednu z nejzajímavějších výzev současného práva, ať z těch, které popisujete ve své knize, či obecně, která by to byla a proč?
Navážu částečně na Vaši předchozí otázku. Myslím, že úkoly pro právo jsou stále stejné, mezi ten důležitý patří třeba ochrana jedince a jeho svobod a práv, a to ať už je dobový kontext jakýkoliv. S ohledem na to, že se v praxi věnuji zejména soutěžnímu právu, může být zajímavou výzvou pro právo směrem do budoucna třeba to, aby byla zajištěna soutěž, a to napříč různými kategoriemi. Tedy nejenom třeba hospodářská soutěž, například v internetových odvětvích, ale třeba i soutěž mezi různými názory a přesvědčeními, které mohou v průběhu času různě působit a různě převažovat, neměly by se však stát jediným výlučným pohledem na svět. S tím má podle mého lidstvo neblahé zkušenosti z minulosti. Domnívám se, že je to právě barevnost a pestrost ve všech kategoriích, v níž si každý může najít to svoje, byť se to ne vždy nutně musí každému líbit, co činí svět svobodným a rozmanitým místem, na němž se může lidem dobře žít.
[1] Jako příklad můžeme uvést oblast autonomních vozidel, které vědci aktuálně testují na speciálních uzavřených polygonech. S plnou dostupností služby podmíněné automatizace řízení v běžném provozu se počítá již v roce 2020, český zákon o silničním provozu však užití autonomních aut brání, neboť v § 3 odst. 3 písm. a) stanoví, že: „Řídit motorové vozidlo může pouze osoba, která je držitelem řidičského oprávnění pro příslušnou skupinu motorových vozidel […].“
Diskuze k článku ()