Přelomové rozhodnutí německého soudu k odpovědnosti za výroky AI chatbotů

Předmětem sporu byla činnost společnosti Aesthetify GmbH, která prostřednictvím svého webového rozhraní umožňovala zákazníkům komunikaci s chatbotem určeným pro poskytování informací o nabízených kosmetických zákrocích a pro rezervaci termínů. Chatbot však v reakci na specifické dotazy uváděl, že dva lékaři působící ve společnosti jsou držiteli odborných titulů, které ve skutečnosti neexistují. Nepravdivost takových údajů považovala Verbraucherzentrale Nordrhein-Westfalen za způsobilou ovlivnit ekonomické rozhodování spotřebitelů, a proto se domáhala, aby soud společnosti uložil povinnost zdržet se takového jednání.

Společnost namítala, že za chybné výroky chatbot odpovídá autonomně, jelikož nebyla nikdy instruována k poskytování nesprávných informací a její chatbot byl původně naplněn výlučně korektními daty. Tvrdila rovněž, že chatbot je třeba považovat za „třetí osobu“, jejíž chování nelze podnikateli přímo přičítat.

Soud tuto argumentaci odmítl. Konstatoval, že nepravdivé výroky představují klamavé obchodní jednání ve smyslu § 5 odst. 1 a 2 č. 3 UWG, neboť poskytují spotřebitelům informace způsobilé ovlivnit jejich rozhodování, a týkají se přitom odborné kvalifikace osob stojících za podnikatelem. Kritickým závěrem soudu je zjištění, že chatbot není „třetí osobou“, nýbrž integrální součástí podnikatelské činnosti žalované společnosti. Obsah sdělení chatbotu je tedy podnikovému subjektu přímo přičitatelný. Skutečnost, že společnost mohla chatbot opatřit pouze správnými daty, není pro otázku odpovědnosti rozhodná. Odpovědnost není založena na pochybení v programování, ale na tom, že podnikatel využívá nástroj, jehož komunikace je součástí jeho tržního vystupování.

Významným aspektem rozsudku je jeho soulad s mezinárodně známým rozhodnutím ve věci Air Canada z roku 2024. V tomto případě kanadský soud dospěl k obdobnému závěru, když odmítl argument, že chatbot jednající jménem společnosti je samostatnou právní entitou odpovědnou za vlastní jednání. Obě rozhodnutí tak vytvářejí mezinárodně konzistentní tendenci chápat AI chatboty a AI agenty jako technologické prostředky podnikatele, jejichž výstupy jsou mu plně přičitatelné.

Soud v Hammu dále zdůraznil, že případ otevírá nové právní otázky týkající se přičitatelnosti výroků autonomních systémů umělé inteligence. Přiznal proto přípustnost dovolání k Bundesgerichtshof, což podtrhuje potenciální celospolkový význam tohoto rozhodnutí.

Rozsudek tak představuje významný krok ve vývoji právního rámce pro užívání systémů umělé inteligence v přímém kontaktu se spotřebiteli. Podle nyní zřetelně formulovaného principu nese podnikatel odpovědnost za veškeré informace, které prostřednictvím takového systému předává veřejnosti, a to bez ohledu na to, zda byly chybné údaje generovány úmyslně, v důsledku nesprávného zadání, či jako tzv. „halucinace“ modelu. Z rozhodnutí vyplývá, že využívání autonomních AI nástrojů v obchodní komunikaci vyžaduje zvýšenou míru kontroly a průběžného ověřování poskytovaných informací, neboť riziko jejich nesprávnosti nelze přenést na samotnou technologii.