Strategie České advokátní komory pro umělou inteligenci

V tomto příspěvku bych chtěla představit, jak sekce funguje a jaká je její činnost.

Předsedkyní sekce jsem já, funkci místopředsedkyně vykonává náhradnice představenstva Jana Pattynová. Jinak má sekce zhruba 20 až 25 členů. Snažili jsme se dát dohromady odborníky napříč advokacií, o nichž víme, že se tomuto tématu věnují, a to jak geograficky, tak i z hlediska malých a velkých kanceláří. Počet členů je tedy poměrně vysoký. Samozřejmě jsme všichni advokáti, každý z nás má vlastní názor a rád jej prosazuje, a tak jsou ty diskuse někdy trochu dlouhé. Zatím ale věřím, že se nám daří efektivně na všem dohodnout.

V blízké budoucnosti se budete moci seznámit i s výstupy, které jsme v sekci dali dohromady.

Když jsem čerstvě po svém zvolení do představenstva na podzim domlouvala účast na kongresu Právní prostor, myslela jsem, že zde tuto strategii představím. Očekávala jsem, že v této době už bude přijata i oficiálně. To se zatím nestalo, nicméně k přijetí dokumentu jsme již velmi blízko. Proto zde mohu představit, co můžete očekávat.

Berte to vždy trochu s rezervou. U strategie jako takové představím strukturu, v níž ji chceme pojmout. Tuto strukturu máme schválenou ze strany představenstva. Výkladové stanovisko, které vám zde potom představím, už máme v podstatě připraveno ke schválení, ale pořád nechci předjímat, co se stane na představenstvu. Může se stát i to, že nám jej představenstvo vrátí k přepracování. Návrh jsem ale již měla možnost projednat s členy představenstva, již jej mají k dispozici, a zatím jsem neobdržela žádné zásadní připomínky. Věřím tedy, že by se neměl podstatně změnit od toho, co vám tady představím.[1]

Sekce jako taková se samozřejmě nevěnuje jen přípravě výkladových stanovisek a metodických dokumentů. Potýkáme se i s dalšími otázkami, které tematicky spadají do činnosti sekce. Zabýváme se připomínkami k připravovaným právním předpisům v oblasti IT práva a dotazy směřujícími na Komoru. V poslední době nám hodně píší jednak vývojáři legal tech technologií, jednak se na nás obracejí advokáti s dotazy ohledně používání umělé inteligence. Nejčastěji teď ale paradoxně řešíme to, že se nám hlásí vývojáři různých nástrojů, žádají jakousi podporu nebo záštitu České advokátní komory, případně chtějí představit své poznatky nebo nástroje.

Ve většině případů se však nejedná o unikátní řešení. Zpočátku jsme zkoušeli na tyto podněty reagovat a nechávat si nástroje skutečně představovat, nebo jsme alespoň zvali ty, kdo se na nás obracejí, aby přednesli svůj požadavek. Od tohoto postupu jsme však poměrně rychle upustili, když se žádosti začaly množit. Vyhodnotili jsme si, že je to do značné míry ztráta času.

Aktuální činnosti sekce

Co je vlastně podstatou a co předznamenává dokumenty, které přijmeme? Možná víte, že Česká advokátní komora už v roce 2023 vydala výkladové stanovisko k používání umělé inteligence v právních službách.

Naším prvním a hlavním úkolem, který je také nejblíže dokončení, je nové výkladové stanovisko, které původní stanovisko nahradí. Je aktuálně v přípravě a předpokládám, že bude v následujících měsících přijato. Chtěli jsme se tím zabývat už v dubnu, ale bohužel nám program trochu převálcovaly poplatky. Jsem ráda, že mohu základní principy dokumentu představit již nyní.

Hlavním dokumentem, který přijmeme, je tedy právě výkladové stanovisko, ale hodně se chceme zaměřit i na vzdělávání. Nedávno jsem se zúčastnila studijní návštěvy v rámci projektu Litel 2. To je projekt Evropské komise, který se zaměřuje na praktické vzdělávání advokátních koncipientů při používání umělé inteligence. Na to se chceme zaměřit i my. Nyní jsou školení k používání umělé inteligence nepovinná, ale chtěli bychom je dostat do povinného rámce školení.

Domníváme se, že primárními uživateli těchto nástrojů budou zejména advokátní koncipienti. Právě ti by měli mít nejlepší znalost toho, jakým způsobem tyto nástroje používat. Úkolem zkušenějších advokátů by mělo být především to, aby výstup, který koncipienti vygenerují, přečetli a případně odhalili pasti, které jim umělá inteligence mohla nachystat a které třeba nebyli schopni sami odhalit. Máme tedy za to, že u koncipientů je největší prostor a největší výzva pro jejich rozvoj v oblasti užívání nástrojů umělé inteligence.

Nyní tedy k představení jednotlivých dokumentů, které máme nyní v rámci sekce v plánu. Už jsem zde několikrát zmiňovala výkladové stanovisko. To je ta náhrada stanoviska z roku 2023 a za chvíli představím některé jeho stěžejní principy.

Zároveň chceme přijmout Strategii České advokátní komory pro oblast umělé inteligence. Jak už jsem zmiňovala, tento dokument je nyní ve stavu, kdy máme představenstvem schválenou strukturu. A v rámci sekce máme rozdělené kapitoly mezi členy a postupně je zpracováváme. Původně jsme předpokládali rychlejší postup prací, ale teď to vidím tak, že budeme strategii jako celek předkládat představenstvu v září 2026. Ani tento termín však není vzdálený. Chceme alespoň na následující tři roky, kdy bude představenstvo zasedat ve stávající formě, dát určitou formu tomu, čemu se chceme v rámci umělé inteligence věnovat.

O něco později jsou v plánu ještě Minimální standardy IT pro advokáty a vývojáře legal tech nástrojů. Historicky tady už takové pokusy a doporučení byly. Nicméně technologie se stále vyvíjejí, advokáty čekají nové výzvy, zejména z pohledu kybernetické bezpečnosti. A samozřejmě je potřeba si uvědomit, že úroveň technické gramotnosti a vyspělosti se u jednotlivých advokátů nebo advokátních kanceláří velmi liší. A nejen gramotnost v užívání nástrojů, ale i třeba ekonomická možnost si nějaké nástroje vyvinout nebo pořídit, je u jednotlivých advokátů odlišná.

Je rovněž třeba vzít v úvahu, že i dnes, když se podíváte na seznam advokátů, zjistíte, že spousta z nich používá e-mail na Seznamu nebo na Googlu a podobně. I v tomto směru je tedy nutné vzdělávat advokáty v rizicích, která jsou s používáním IT technologií jako takových spojena. Zároveň je potřeba dát tomu určité minimální standardy, aby i vývojáři nebo dodavatelé IT technologií do advokátních kanceláří měli přehled nebo minimální standard toho, co Česká advokátní komora považuje za bezpečné.

Výkladové stanovisko k umělé inteligenci v právních službách

Nyní k výkladovému stanovisku, které, jak jsem zmiňovala, je velmi blízko přijetí. Ačkoli jsme původně očekávali jeho přijetí na květnovém zasedání představenstva, je nadále v přípravě a nyní očekáváme, že bude přijato v následujících měsících.

Zaměřili jsme se jednak na to, že jsme se stanovisko z roku 2023 snažili přepracovat tak, aby odpovídalo dnešní době, a ne roku 2023, v kterém bylo přijato, protože se samozřejmě posunuly jednak technologie a jednak v tomto směru byly přijaty třeba i standardy CCBE. Z těch se snažíme vycházet.

Zároveň jsme se snažili o minimalismus v tom směru, že rozhodně nechceme jít v rámci povinností nad rámec stávajícího zákona o advokacii. Co se třeba diskutovalo a co jsme vyhodnotili tak, že není vhodné do stanoviska zahrnovat, je otázka transparentnosti ohledně použití technologií při zpracování výstupů nebo při poskytování právních služeb. Objevovaly se například návrhy, že by každý výstup, při jehož zpracování byla nějakým způsobem použita technologie s pomocí umělé inteligence, měl mít tuto skutečnost na dokumentu viditelně uvedenu.

Představme si situaci, kdy by klient dostal zpracované podání nebo stanovisko, kde by bylo hezky uvedeno: toto stanovisko bylo zpracováno za použití umělé inteligence. Už vidím tu diskusi nad fakturací, která by za stanovisko byla účtována.

Otázka účtování právních služeb samozřejmě není něco, co stanovisko jako takové řeší, do toho nezasahujeme. Myslím si, že to bude hodně o změně nacenění práce, kdy bude v dohledné době stále méně podstatným kritériem pro určení ceny služby hodinová sazba samotná, protože ta pak opravdu nemusí odrážet skutečnou pracnost nebo přidanou hodnotu, kterou tomu advokát dává.

Jaké jsou tedy základní principy ve výkladovém stanovisku? V podstatě je to potvrzení, že stávající profesní povinnosti se uplatní i tehdy, když se použije umělá inteligence. Umělá inteligence je určitým nástrojem v rukou advokátů, který jim samozřejmě může pomáhat, ale v žádném případě je to nezbavuje odpovědnosti.

Významnou pozornost jsme věnovali také vymezení, co je vlastně vůbec právní služba v kontextu používání nástrojů umělé inteligence. Otázka toho, co ještě je právní služba, co už není právní služba, co je jen obecná právní informace a co už je konkretizovaná rada, není samozřejmě otázka nová. Objevuje se nejen v souvislosti s umělou inteligencí, ale třeba i v souvislosti s insolvencemi a s ostatními otázkami, kde dochází k riziku, že kromě advokátů budou dané služby poskytovat i další osoby.

Je to i v širším kontextu problematika vinklaření. V této souvislosti se objevuje také pojem AI vinklaření. Je to samozřejmě o tom, že spousta nástrojů, které se se teď na trhu objevují, se v podstatě tváří, že toho advokáta nebo právníka nahradí. Typicky jde o marketingová sdělení typu „už nepotřebujete drahé advokáty“, které se v souvislosti s prezentací těchto nástrojů vyskytují. „Zpracujeme za vás podání, vymyslíme za vás strategii, napíšeme vám smlouvy“ a tak dále. Vůči této prezentaci právních služeb se snažíme vymezit, protože by mohla vzbudit mylnou domněnku, že za tím je třeba nějaký advokát, byť by tam nebyla dána taková odpovědnost. Tzn. takové názvy jako AI právník, AI advokát a podobně. K tomuto přístupu zaujímáme kritické stanovisko a vymezujeme se proti tomu, aby takovýmto způsobem byly služby prezentovány a aby nedocházelo k vinklaření tak, jak ho vnímáme.

Ve výkladovém stanovisku tedy podrobně popisujeme rizika, která jsou spojena s umělou inteligencí, aby nedocházelo k tomu, že právě advokáti, u nichž je gramotnost v používání těchto nástrojů nižší, budou mít za to, že výstupy už není třeba ověřovat a že je mohou bez dalšího a nekriticky přijímat. Mohli by je pak třeba vkládat do podání vůči soudům nebo jiným orgánům veřejné moci.

Strategie ČAK pro oblast umělé inteligence

Co se týče strategie, to je další dokument, který máme před sebou a jehož strukturu máme schválenou. Jsou v něm popsány dokumenty včetně výkladového stanoviska, které chceme v rámci představenstva v následujících letech přijmout. Dále jsou tam kapitoly, které se týkají mezinárodní spolupráce a vzdělávání a které posilují nebo zachovávají odpovědnost advokáta za použití umělé inteligence. Strategie zároveň deklaruje, že budou přijaty minimální IT standardy pro advokáty a pro vývojáře.