Evropská unie rozšiřuje regulaci AI. Obsah generovaný nebo upravený umělou inteligencí musí být pro uživatele rozpoznatelný

Cílem opatření, která reagují na bouřlivý rozvoj umělé inteligence a rostoucí obavy z jejího zneužití, je omezit šíření manipulativního či klamavého obsahu, zvýšit důvěru v digitální prostředí a chránit uživatele.

Nová pravidla se týkají především generativní umělé inteligence, tedy systémů, které vytvářejí texty, obrázky, audio nebo video obsah. Mají zajistit, aby bylo jasně rozpoznatelné, kdy byl obsah vytvořen člověkem a kdy algoritmem. „AI dokáže vytvořit obsah, který je od reality téměř nerozpoznatelný,“ uvádí Jana Vorlíček Soukupová z advokátní kanceláře Dentons. „Regulace proto zavádí jednoduchý princip – lidé mají právo vědět, kdy byl obsah vytvořen umělou inteligencí nebo kdy komunikují s AI namísto člověka.“

Podle nových pravidel musí poskytovatelé AI systémů (například OpenAI) zajistit, aby veškeré výstupy – texty, obrázky, audio nebo video – obsahovaly strojově čitelné označení, že byly vytvořeny či upraveny umělou inteligencí. Typicky půjde o metadata, digitální vodoznaky, kryptografické značky nebo jiné technické identifikátory, vložené přímo do souboru. „Technické označení je klíčové,“ vysvětluje Jana Vorlíček Soukupová. „Umožní, aby sociální sítě, vyhledávače a nástroje pro ověřování obsahu, média i další digitální platformy automaticky rozpoznaly, že byl obsah vytvořen umělou inteligencí.“

Vedle technického označování bude od srpna 2026 zavedena také povinnost viditelného označení výstupů pro koncové uživatele. Některým subjektům zavádějícím AI systémy vzniká povinnost tyto výstupy řádně, jasně a rozpoznatelně označit. Platí to zvlášť pro takzvané deepfakes, napodobeniny skutečných osob či událostí vytvořené umělou inteligencí, stejně jako pro obsah určený k informování veřejnosti. „Pravidla, jak obsah označit, se v současné době finalizují, lze však očekávat, že půjde o vizuální ikony, textová označení, slovní upozornění, případně o sdělení v titulcích,“ dodává Jana Vorlíček Soukupová.

Další změna se dotkne interaktivních systémů, jako jsou chatboti či virtuální asistenti. Pokud člověk s AI systémem komunikuje, musí na to být hned při první interakci jasně upozorněn. „Transparentnost je základní podmínkou důvěry v digitálním prostředí,“ uzavírá Jana Vorlíček Soukupová. „Uživatel by se nikdy neměl ocitnout v situaci, kdy si myslí, že komunikuje s člověkem, ale odpovídá mu algoritmus.“

Povinnost transparentnosti ukládá vývojářům, dodavatelům a provozovatelům AI systémů článek 50 nařízení Evropské unie o umělé inteligenci (AI Act), přijatého v roce 2024. Pravidla pro detekci a identifikaci AI generovaného obsahu včetně deepfakes a komunikace s chatboty vstoupí v účinnost počátkem srpna 2026. Evropská komise proto připravuje Kodex správné praxe pro transparentnost obsahu generovaného umělou inteligencí, který má pomoci tyto povinnosti prakticky naplnit a definitivně má být představen v červnu 2026.

Druhý návrh kodexu, zveřejněný v polovině března, definuje mimo jiné technické standardy pro označování AI obsahu, jako jsou metadata nebo digitální vodoznaky. Kodex má dvě části. První obsahuje pravidla pro poskytovatele AI systémů týkající se detekce a označování AI generovaného obsahu. V druhé části jsou pak pokyny pro označování deepfaků adresované subjektům zavádějící AI systémy. Jedním ze základních principů kodexu je vícevrstvé označování AI generovaného obsahu pro poskytovatele AI systémů, tedy používání více technik dohromady. Kromě toho by poskytovatelé měli uživatelům dát k dispozici nástroje pro detekci AI generovaného nebo manipulovaného obsahu. Pro označovaní deepfake obsahu pak kodex navrhuje zavedení „AI“ ikony.