Rozhovor s Jiřím Mulákem o trestní odpovědnosti umělé inteligence

Mohl byste nám stručně přiblížit Váš připravovaný příspěvek pro kongres Právní prostor 2024?

Příspěvek se bude týkat modelů trestní odpovědnosti v souvislosti s umělou inteligencí. Prvním je koncept umělé inteligence jako nástroje spáchání; druhým konceptem je selhání umělé inteligence jako způsobu naplnění objektivní stránky u nedbalostních trestných činů a konečně třetím je pak model přímé a samostatné odpovědnosti umělé inteligence.

Jaká jsou podle Vašeho názoru nejnaléhavější etická a právní dilemata spojená s používáním umělé inteligence při trestné činnosti a jak případně zpochybňují tradiční představy o trestní odpovědnosti?

Musíme odlišovat trestní odpovědnost určité osoby „za umělou inteligenci“ (jednání či opomenutí) a trestní odpovědnost umělé inteligence jako takové. Pokud jde o koncepty „umělé inteligence jako nástroje spáchání“ či „selhání umělé inteligence jako způsobu naplnění objektivní stránky nedbalostních trestných činů“ domnívám se, že bez větších problémů je možné postihovat trestněprávně reprobované následky tam, kde umělá inteligence představuje toliko nástroj ke spáchání trestné činnosti v režii člověka či v důsledku jím zaviněné neopatrnosti, neboť s takovým jevem si současná koncepce trestního práva vcelku snadno poradí a již v současnosti na něj nabízí dostatečně efektivní řešení. Hudbou budoucnosti, která si ovšem vyžádá změnu paradigmatu, je pak trestní odpovědnost umělé inteligence.

Jaké strategie se dle Vás nabízí zákonodárcům?

Jak už jsem uvedl výše, pokud se nebavíme o trestní odpovědnosti umělé inteligence jako takové, nástroje současné trestní právo má. Pokud jde o trestní odpovědnost umělé inteligence, museli bychom se bavit o přiznání subjektivity umělé inteligenci a její způsobilosti (protiprávně) jednat. Může zde být určitá paralela v tom směru, že u trestní odpovědnosti právnických osob se zvolil koncept přičitatelnosti jednání určité osoby právnické osobě.

Můžete přiblížit nějaké pozoruhodné případy, které vyvolaly diskusi o trestní odpovědnosti AI, a jak tyto případy ovlivnily Vaše chápání této otázky?

Diskuze o trestní odpovědnosti či obecněji deliktní odpovědnosti umělé inteligence není ani tak vyvolaná pozoruhodnými případy, jako spíše rozmachem nástupu umělé inteligence do každodenního života (průmysl, medicína, IT). Pořád jsme však ve stavu, kdy můžeme uvažovat o trestní odpovědnosti „za umělou inteligenci“.

Jak by případné připsání právní odpovědnosti nehumánním entitám a autonomním systémům ovlivnilo trestní právo, jak ho známe, včetně jeho základních principů?

Trestní právo je sice konzervativní obor, ale musí být schopno adekvátně reagovat na společensky závažná jednání a současně musí orgánům činným trestním řízení umožnit efektivně stíhat všechny formy kriminality, pochopitelně při splnění všech atributů spravedlivého procesu. Trestní odpovědnost umělé inteligence (přiznání deliktní odpovědnosti) je však hudba daleké budoucnosti a jistě by si vyžádalo změnu paradigmatu ohledně obecných i typových znaků trestného činu.

U všech regulací nových technologií musíme na misky vah dát kromě jiných zájmů i zájem na jejich dalším vývoji, na pokroku a inovaci. Jak by různé koncepty odpovědnosti umělé inteligence zmíněný zájem ohrozily?

Určitá regulace musí být, tím spíše pokud se časem dočkáme ještě většího rozmachu umělé inteligence. Úvahy o regulaci umělé inteligence lze v současné době zaznamenat na několika úrovních, ale je to ještě běh na dlouhou trať. Situaci navíc komplikují různé formy a druhy umělé inteligence. Deliktní odpovědnost umělé inteligence (tedy přiznání osobnosti této entitě) je však zatím neuchopitelná.

Jaké změny platné trestněprávní legislativy v oblasti technologií jsou podle Vás nezbytné?

Podle mého názoru by měla být maximální pozornost věnována prevenci před deliktním jednáním robotů využívajících umělé inteligence a získávání údajů (stop) pro dokazování. Je třeba vyvinout nástroje, které umožní zjistit, proč se systém umělé inteligence choval určitým způsobem, tedy zaznamenat údaje o chování systému za účelem určení, kdo by měl být za jeho činy primárně odpovědný. Aktuální výzvou pro trestní právo jsou rovněž (a to s tím souvisí) elektronické důkazy.

Jaké praktické důsledky může mít pro právníky v oblasti trestního práva rychlý pokrok umělé inteligence?

Za zásadní považuji to, že bude potřeba být více obezřetný k tomu, jaké důkazní prostředky (důkazy) budou předkládány, protože si lze jistě představit uměle vytvořené/vymyšlené důkazy (např. umělou inteligencí vytvořený videozáznam z místa činu, přestože realita byla jiná).

---

Zajímá Vás téma umělé inteligence a práva? Na kongresu Právní prostor 2024 se budeme AI a jejímu vztahu k právu věnovat hned v několika příspěvcích. Program kongresu najdete na adrese https://kongrespravniprostor.cz/.