Směrnice o odpovědnosti za umělou inteligenci

Současná úprava

Aktuální vnitrostátní pravidla odpovědnosti, zejména ta založená na zavinění, nejsou podle EU vhodná pro řešení nároků na náhradu škody způsobené produkty a službami založenými na AI. Je tomu tak proto, že specifické vlastnosti AI (zejména složitost, autonomie a neprůhlednost) poškozeným ztěžují až znemožňují vymáhání svých nároků (např. nemožností identifikovat odpovědnou osobu či prokázat příčinnou souvislost mezi porušením povinností poskytovatele a vzniklou škodou).

Problém to představuje i pro podnikatele samotné, kteří mají potíže s předvídáním toho, jak budou stávající pravidla odpovědnosti uplatňována, a tedy i s posouzením a pojištěním své odpovědnosti. O to větší problém to může být v případě mezinárodního poskytování zboží či služeb, jelikož tato nejistota se týká více jurisdikcí.

Směrnice o odpovědnosti

EU na tuto nejistotu chce reagovat přijetím směrnice Evropského parlamentu a Rady o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligence (zkráceně směrnice o odpovědnosti za umělou inteligenci), která doplní balíček opatření na podporu zavádění AI v Evropě (balíček dále obsahuje nařízení o AI a revizi pravidel v oblasti bezpečnosti výrobků). Zatímco nařízení o AI má za cíl stanovit pravidla pro používání AI, směrnice o odpovědnosti za AI míří jen na samotné vymáhání škody.

Hlavním cílem směrnice je poskytnout osobám, které uplatňují nárok na náhradu škody, účinné prostředky k určení potenciálně odpovědných osob a příslušných důkazů pro uplatnění nároku. Tohoto cíle dosahuje prostřednictvím dvou institutů, a to (i) povinností zpřístupnit důkazy s vyvratitelnou domněnkou ohledně nedodržení předpisů a (ii) vyvratitelnou domněnkou příčinné souvislosti v případě zavinění.

Nová pravidla

Podle prvně jmenovaného institutu budou mít poškození právo žádat poskytovatele či uživatele vysoce rizikového systému AI o důkazy, které mají o tomto systému k dispozici. V případě nevyhovění této žádosti budou mít poškození možnost se obrátit na soud, který bude moct vydání důkazů nařídit. Členské státy mají zajistit, aby se zpřístupnění důkazů omezilo na ty, které jsou nezbytné a přiměřené k podpoře případného nároku na náhradu škody, a povinnost jejich uchování na ty, které jsou nezbytné a přiměřené k podpoře takového nároku na náhradu škody.

V případě nesplnění povinnosti vydat důkaz se aplikuje vyvratitelná domněnka toho, že žalovaný nesplnil příslušnou povinnost řádné péče.

Druhým institutem se zavádí vyvratitelná domněnka příčinné souvislosti v případě zavinění. Podle této platí, že existuje příčinná souvislost mezi zaviněním žalovaného a výstupem (ne)vytvořeným systémem AI, pokud:

1. bylo prokázáno zavinění spočívající v nedodržení povinnost řádné péče;
2. na základě okolností případu lze považovat za přiměřeně pravděpodobné, že zavinění mělo dopad na výstup (ne)vytvořený systémem AI;
3. žalobce prokázal, že výstup vytvořený systémem AI nebo to, že systém AI takový výstup nevytvořil, vedlo ke vzniku škody.

Tento institut reaguje na to, že pro poškozené může být velmi obtížné prokázat příčinnou souvislost mezi nedodržením povinnosti řádné péče a mezi konkrétním vadným výstupem AI. Vyvratitelná domněnka přenáší důkazní břemeno na žalovaného v případě, kdy lze příčinnou souvislost mít za přiměřeně pravděpodobnou.

Závěr

Směrnice o odpovědnosti za AI je ale zatím pouze v přípravné fázi. Do jejího přijetí se může ještě hodně změnit, finální znění pravidel se nadto stejně určí až v rámci transpozice do českého právního řádu, což očekávám, že se stane nejdříve v roce 2026. Vzhledem k boomu systémů založených na AI v posledních měsících je tak jasné, že první případy náhrady škody a první judikatura se budou odvíjet od současné úpravy náhrady škody, která se bude muset na specifika AI přizpůsobit za běhu.