Umělá inteligence ve veřejných zakázkách

Kontext 2026: nová realita

Téma umělé inteligence ve veřejných zakázkách je velmi závažné. Modely jsou tady už nějakou dobu a do veřejné správy začínají prosakovat ze všech stran. Dodavatelé se snaží dodávat co nejvíce nástrojů a začíná vznikat džungle. Začínáme narážet i na právní mantinely, zejména u administrátorů veřejných zakázek, kteří nejsou právníky, mají pocit, že mají něco super, a chtějí to používat.

My se pak ptáme, kudy data tečou, jaká data jsou využívána a co se s nimi dál dělá. Navíc se domnívám, že i v oblasti veřejných zakázek se blíží poměrně zajímavá doba, kdy začneme řešit i otázky toho, jak kdo využil umělou inteligenci v rámci zadávacího řízení a zda nástroje nemohly nějakým způsobem negativně ovlivnit jeho průběh. Budeme mluvit o netransparentnosti, o „černých skřínkách“ a tak dále.

Strategie 5 pilířů

Zde vidíte pět pilířů, o kterých si myslím, že by se mělo mluvit častěji. Nejen ve vztahu k zakázkám, ale obecně k umělé inteligenci z pohledu zadavatele.

Je důležité říct, že když se mluví o umělé inteligenci ve veřejných zakázkách, velmi často se mluví o tom, jak tyto nástroje můžeme použít pro tvorbu veřejných zakázek, pro jejich kontrolu a pro zvýšení efektivity. Velice důležitou součástí je i nákup AI řešení. Protože v okamžiku, kdy budeme chtít zavádět AI systémy a nástroje do veřejné správy, logicky je musíme umět také dobře nakoupit.

Z pozice dodavatele je to rovněž zajímavá věc. Už nyní to vidíme v podáních některých advokátů, ale i ve vztahu k veřejné správě, kdy i prostí občané používají umělou inteligenci. Podání, která k nám chodí třeba ve správním řízení, jsou někdy skutečně objevná. I my v nich objevujeme nové odkazy na judikáty, které pak nejsme schopni dohledat. Je vidět, že ne vždy si ten, kdo umělou inteligenci používá, výstup následně verifikuje.

Následuje pilíř regulace, ochrana práv k datům a k duševnímu vlastnictví. Posledním, pátým pilířem, který jsem si dovolil předřadit, je suverenita: datová suverenita a digitální feudalismus.

AI není standardní IT

Občas se setkávám, zejména z pohledu IT oddělení, s názorem, že s tím děláme zbytečné cavyky, protože je to jen další IT nástroj. Faktem ale je, že AI řešení obsahují zásadní odlišnosti oproti běžným IT řešením. Většina klasických IT řešení má deterministické výstupy. Máte program, který nějak funguje a bude fungovat po celou dobu. Pokud dojde k chybě, je to věc k opravě. Ty systémy jsou stále stejné.

Ale v okamžiku, kdy se bavíme o AI nástrojích, už najednou mluvíme o statistice a pravděpodobnosti. To je mimochodem těmto nástrojům občas kladeno k tíži, ale musíme si uvědomit, že umělá inteligence funguje velmi podobným způsobem jako lidský mozek. To není závada, ale inherentní vlastnost těchto systémů.

Pilíř 05: Digitální suverenita, obrana proti digitálnímu feudalismu

Dovolím si předřadit pilíř digitální suverenity a digitálního feudalismu. Nevím, jestli někdo z vás tyto pojmy zná blíže.

Digitální feudalismus je přirovnání ke středověké společnosti. Většina z nás aktuálně – a nesouvisí to jen s umělou inteligencí, ale obecně s daty a s prací – pracuje na poli, které není naše. Jsou to všechny digitální platformy a používáme k tomu nástroje, které také nejsou naše. To přináší určitá rizika. S tím souvisí i digitální suverenita. O tom budu mluvit dál: jak můžeme předcházet rizikům nebo jak se můžeme snažit upravit smluvní vztahy, aby nám zůstávalo co nejvíce práv k tomu, co reálně používáme nebo co nabízíme dodavateli.

Proč o tom mluvím? Poslední dobu využívám umělou inteligenci velmi často pro tvorbu prezentací. Není to tak, že si nechávám vypracovat prezentaci „na zelené louce“. Vždycky vím, co chci říkat, jaká tam mají být témata, a v rámci tvorby si nechám připravit strukturu, upravuji si obsah atd. Nakonec si nechám vygenerovat prezentaci. Používám Gemini, přepnu se do režimu Canvas, který mi umožňuje upravovat výstupy, a na konci mi připraví krásnou prezentaci. Někdy je trochu výzva odolat a úplně si ji nezměnit, ale je to v pořádku.

V posledním týdnu na to narazilo více lidí, co jsem tak sledoval na fórech, že Gemini odmítala vytvořit prezentaci. Samozřejmě jsem řešil, proč se to děje. Říkal jsem si, že je to možná proto, že tam jako podkladový materiál nahrávám svou starší prezentaci, kde se neustále opakují slova jako právo nebo zákon. Všichni víme, že v poslední době se modely v určitém směru trochu vymezují. Když se ptáte na právní radu, píše vám, že je to jen nástroj, může obsahovat chyby a že odpovídáme za kontrolu. Tady ale, když se podíváte na odpovědi, to spíše vypadá, jako bych narazil na nějaké „guardrails“ – tzn. jako kdybych si chtěl nechat vytvořit něco, co je zakázané.

Bojoval jsem s tím docela dlouho. Nakonec se to povedlo a prezentaci jsem vytvořil, ale je to jen jednoduchá ukázka toho, že když se spoléháme na tyto nástroje, mohou nás rychle a snadno zklamat. V tomto případě vůbec o nic nešlo, chtěl jsem si nechat vygenerovat jen prezentaci.

V rámci pokusů jsem zkoušel třeba jen zadání: vygeneruj mi prezentaci o Velikonocích. Říkal jsem si, že tam nemůže být nic, co by ten nástroj mohlo jakkoliv limitovat. Nic z toho nefungovalo.

Ale v okamžiku, kdy na tomto systému budeme chtít realizovat a necháme na něm běžet nástroj, který skutečně funguje jako podpora byznysu nebo úřadu, a dostaneme se do této fáze (přičemž trvala asi den a půl), může to mít dalekosáhlé důsledky.

U mé prezentace to žádné důsledky nemělo. Je to jen drobná myšlenka: když poptáváme tyto systémy, je potřeba vždy počítat s tím, že musíme mít nějakou zálohu, jak budeme fungovat bez nich.

Přiznám se, že byť AI nástroje používám jen jako podporu pro svou činnost, tak v okamžiku, kdy ten nástroj dlouhodobě selhává, to v člověku vyvolává určitou obavu. Člověk přichází o zdroj, na který je zvyklý. Jako kdybych se týden nemohl dostat do ASPI, Codexisu nebo do čehokoliv jiného. Najednou si člověk není jistý, odkud bude čerpat data. Samozřejmě můžu jít do knihovny, máme Zákony pro lidi, máme e-Sbírku atd., ale je to vždy část, která vás znejistí. To je jedna z věcí, na kterou je třeba myslet. Jde o digitální suverenitu a ošetření vlastních práv ve vztahu s dodavateli.

Strategie nezávislosti

U strategie nezávislosti můžeme mluvit o tom, že v případě, kdy poptáváme nástroje v rámci zakázky a chceme mít jistotu větší kontroly, můžeme preferovat otevřené modely – tzn. modely, které nejsou tak extrémně vázány na dodavatele.

Můžeme se bavit o tom, jestli by některé z těchto nástrojů neměly běžet takzvaně On-Premise, tedy u nás na vlastním hardwaru. Občas se setkávám s námitkou z pohledu IT, že si to nemůžeme dovolit. Nicméně je potřeba sledovat, co se děje. Například Google má aplikaci pro Android i iOS, která se jmenuje Google AI Edge Gallery. Je to intranetový nástroj, ve kterém můžete spouštět lokální modely, které si můžete stáhnout. Tato aplikace běží na vašich mobilních telefonech i na velmi omezených zdrojích (třeba na stolních počítačích). Není to ta kvalita, na kterou jsme dnes všichni zvyklí u OpenAI nebo Gemini. Nicméně ukazuje se, že to cesta je, zvlášť pokud se budeme bavit o nějakém jednodušším zpracování dokumentů. Tam si pak můžeme být stoprocentně jistí, že pokud to běží někde u nás na serveru, data nám nikam neutíkají a nedopouštíme se žádných pochybení ve vztahu k ochraně osobních údajů.

Pokud poptáváme v rámci zakázek jakýkoliv nástroj, který běží na jazykovém modelu, musíme řešit, jak si ošetříme možnost přemigrovat na jiný jazykový model. Abychom nebyli uzamčeni na tom jednom, zvlášť pokud si ho necháváme dotrénovat podle svých potřeb. Tzn. můžeme tady mluvit o standardizaci dat, což je mimochodem další z klasických bolavých míst.

OCDS: Data jako zbraň

Jak máte spravovaná data? Máte data v pořádku? Máte je nějak klasifikovaná a utříděná? My jsme se třeba v rámci krajského úřadu pokoušeli udělat interní nástroj na směrnice a zjistili jsme, že pro člověka máme směrnice hezky zkatalogizované, ale nástroj se v nich nebyl schopný zorientovat čistě z toho důvodu, že jsme tam neměli žádná metadata. Názvy interních předpisů – klasika, všichni to znáte: pokyn č. 4 ke směrnici č. 127 ve znění opatření atd. – a AI nástroje se v tom ztratí. Nakonec jsme se dostali na pravděpodobnost správného výsledku asi 70 %, což není věc, se kterou chcete pracovat na denní bázi. Riziko chybovosti je tam vysoké.

Právník jako architekt bezpečí

V okamžiku, kdy se právník setkává s takovou smlouvou nebo je zapojen do procesu kontraktace, měli bychom se už dostat z pasivní role přepisovače vzorů do role designéra odpovědnosti. Přinášíte témata, jak chránit data, která používáte třeba k tréninku modelů nebo která předáváte dodavatelům právě proto, aby vám vytvořili nástroj na míru. To je mimochodem jedna z věcí, proč si myslím, že právníci by měli relativně dobře rozumět tomu, jak AI nástroje fungují.

Tím se vracíme zpátky k AI gramotnosti – alespoň k základům, jak tyto nástroje fungují, proč generují to, co generují, a jak se tomu dá vyhnout.

Pilíř 01: Zadavatel jako uživatel AI

První pilíř: zadavatel jako uživatel nebo zadavatel jako osoba, která nakupuje. Je důležité přemýšlet o tom, že nechceme jen obecné jazykové modely, ale modely, které vycházejí z dat, která vy vlastníte.

Například v prostředí úřadu, pokud se budu bavit o vzdálenější budoucnosti a budu chtít AI nástroj na řešení správních řízení, měl bych mít databázi správních rozhodnutí a podání, na které se bude model schopen učit. Úplně odhlížím od ochrany dat, teď se bavím čistě třeba o anonymizovaných dokumentech.

RAG: Konec halucinací v zadávací dokumentaci

Se dostáváme k takzvanému RAG (Retrieval-Augmented Generation), o kterém jste už možná slyšeli. Odpověď se vždy staví na datech, která vy dodáváte, tj. AI nečerpá „z hlavy“, ale např. z uzavřené databáze vzorů úřadu a judikátů, což výrazně snižuje riziko halucinací. Tím je také zajištěna právní konzistence napříč stranami a rychlá syntéza technických příloh v rámci zadávací dokumentace.

Tím pádem odpadají běžní poskytovatelé, které teď potkáváme a kteří říkají: za měsíc vám tady zaintegrujeme a vytvoříme systém. Pak ale narazíte na to, že systém čerpá data přes API v běžných velkých jazykových modelech, třeba od OpenAI.

Odpovědnost za zadávací dokumentaci

Důležitá je odpovědnost. Velmi často se ve vztahu k umělé inteligenci řeší otázka, kdo je odpovědný za špatnou odpověď. Realita je taková, že v té uživatelské rovině je úplně jedno, zda jste vytvořili nekvalitní nebo nesprávnou zadávací dokumentaci proto, že jste se spolehli na výstup z nástroje umělé inteligence nebo jste si neověřili, že pracujete s aktuálním zněním zákona. Ta odpovědnost je pořád stejná. Nese ji ten, kdo zadávací dokumentaci přináší. Vždy je proto potřeba výstupy kontrolovat.

Analýza trhu a predikce cen

Z nástrojů, které mi přijdou zajímavé a nejsou jen klasickým generováním textu, jsou to hlavně analytické nástroje. Slouží k analýzi jak odpovědí, tak třeba i interních dokumentů, kde nejdete už jenom po textu, ale zajímá vás širší pohled a kontext. Výhodou je, že tyto nástroje jsou schopny pracovat s obrovským množstvím dat, které člověk, zvlášť v jedné osobě, není schopen v tak velkém rozsahu obsáhnout.

Mně se například velmi líbí nástroje na analýzu dat z předběžných tržních konzultací, které už fungují v zahraničí, ale tady jsem se s nimi zatím nesetkal. Tzn. nezajímá nás jen to, co nám dodavatelé říkají, za jakou cenu to udělají nebo kde máme chyby v naší ideji, ale jestli je takový nástroj schopný třeba na historických úsecích analyzovat i skryté tržní bariéry pro vstup dodavatelů do naší zakázky.

Zajímavá mi připadá také analýza vztahů mezi dodavateli. Pokud se budeme bavit o bid-riggingu, většinou to vnímáme z pohledu Úřadu pro ochranu hospodářské soutěže. Nicméně není vůbec na škodu, pokud bychom byli schopni si dělat předběžnou analýzu i v rámci našich smluvních vztahů. To znamená dívat se zpátky v rámci zakázek: nehlásí se nám tam stále podobní dodavatelé? Nestřídají se na těch pozicích při podávání nabídek? To se dělá málokde. Respektive se to dělá většinou až tehdy, když to někomu dojde: „Hele, vždyť loni jsme dělali něco podobného, hlásili se nám tam zase ti samí dodavatelé. Není tam nějaký vztah, který by nám mohl vadit?“

Případová studie: Walmart Bot

Jako jeden z opravdu zajímavých příkladů v rámci zakázek se pojďme podívat na případ Walmart Bot.

Walmart, retailový gigant v Americe, nasadil nástroj pro vyjednávání smluv s dodavateli. Jde o drobné zakázky: opravy nákupních vozíků, dodávky regálů a tak dále. Nástroj se jmenuje Pactum AI a 68 % z balíku dohod, které uzavírají, bylo uzavřeno autonomně. Teď úplně odhlížím od toho, jakým způsobem tam probíhá schvalování kontraktu a kdo pak nese odpovědnost za podpis. Je tam autonomní uzavírání dohod s tím, že úspora nákladů činí 3 %. To se nemusí zdát moc, ale bavíme se o miliardových obratech. V rámci celého Walmartu jde o obrovské množství financí, které je ušetřené, a bavíme se čistě o nákladech na pořízení komodity.

Vůbec tam není zahrnutá úspora času nákupních týmů, které to nemusí řešit a věnují se složitějším případům.

A co mi přijde úplně nejzajímavější, je, že 75 % dodavatelů preferuje jednání touto formou – tj. jednání s botem pro jeho rychlost a bezemočnost. Tzn. odpadá obava, že někomu bude vadit, protože na druhé straně linky nesedí fyzická osoba. Protože pro velkou část dodavatelů je to jen drobná část jejich byznysu a mnohem více vítají to, že kontrakt je uzavřen rychle. Hned vědí, i v noci, když podají nabídku, zda byli vybráni, nebo ne. Nečeká se dva až tři dny, než to někdo zpracuje.

Human-in-the-loop (HITL)

Zásadní je, a mluvil jsem o tom už na začátku, takzvané Human-in-the-loop. V roce 2026 je HITL klíčovým pojmem. Právník/Zadavatel must mít možnost veta a vysvětlení každého kroku, který AI navrhla, zejména u rozhodnutí o vyloučení nebo výběru.

Tzn. vždy je důležité, aby tam byl někdo, kdo kontroluje práci těch nástrojů. Pokud budeme mluvit o tématu, které je teď také velmi populární, tedy že veřejná správa by neměla být jen AI, ale měla by být agentní, znamená to, že všechny nebo velká část činností se bude vytvářet autonomně.

I v tomto případě je ale vždy důležité, aby tam byl někdo, kdo to kontroluje. Je to jedno ze základních pravidel pro práci s umělou inteligencí. Ať už se bavíme o zakázkách nebo o jakékoliv jiné práci, měl by tam být někdo, kdo kontroluje nejen výstup, ale i proces – tedy zda v rámci procesu nedochází k odchylkám od standardu.

Prakticky: analýza smluv

Jako praktickou ukázku mimo klasické chatboty můžeme uvést analýzu smluv. I běžně dostupné standardní nástroje jsou dnes schopné smlouvu rozebrat, a to i dlouhé smlouvy o 75 stránkách. Vytáhnou finanční plnění i odpovědnosti jednotlivých stran. Dochází i k měřitelné úspoře času.

Mám tady analýzu judikatury, shrnutí smluv a právní oponenturu. Pod tím mám drobnou hvězdičkou, že jde o smyšlená data založená na zbožných přáních v reálných agendách. Každý, kdo s těmito nástroji pracuje, ví, že úspora a zrychlení mohou být poměrně masivní.

Lze efektivitu outsourcovat?

S tím souvisí jeden zásadní dotaz, který je, myslím si, v rámci tohoto kongresu úplně zásadní: lze efektivitu outsourcovat? Myslím si, že jednoznačně ano.

Z pohledu právníků to dnes vypadá následovně. Pokud chcete mít na právním úseku nějaké AI nástroje, všichni řeší, co se pořídí pro právníky. Bude to Codexis AI? Bude to něco jiného? Je to super, přináší to zvýšení efektivity i rozšíření obzorů.

Za mě je ale největší benefit, který vidíme v rámci našich zakázek, v tom, když tyto odborné nástroje přesuneme mimo právní oddělení a poskytneme je třeba zakázkářům a administrátorům. Ti totiž zhusta nejsou právníci. Jsou to lidé, kteří mají dlouhodobou praxi se zadáváním zakázek. Většinou umí zákon o zadávání veřejných zakázek citovat zepředu i zezadu, ale třeba s judikaturou, s rozhodovací praxí ÚOHS a dalších už je to trochu slabší. S těmito dotazy pak chodí na právní oddělení.

V okamžiku, kdy jsem schopný tento nástroj posunout mimo právní oddělení a dát ho do ruky administrátorům, chodí na právní oddělení méně dotazů. A když už chodí, jsou mnohem relevantnější. Už to nejsou dotazy typu: „Tady to máte, co s tím mám dělat?“, ale spíše znějí: „Jdu touto cestou, chtěl bych udělat tohle a jen posuďte, jestli jdu správně.“

To samozřejmě nesnímá z právního oddělení odpovědnost za to, že to zkontroluje znovu celé. Najednou ale máte k sobě partnera pro komunikaci. Jednou ze základních věcí je tedy přemýšlet, jestli nelze skutečně outsourcovat myšlenkový boost, který přináší umělá inteligence.

Mimochodem Virginia Rometty, bývalá ředitelka IBM, o umělé inteligenci mluví tak, že současné nástroje nepovažuje za umělou inteligenci ve smyslu Artificial Intelligence, ale říká jim Augmented Intelligence – tzn. rozšíření našich vlastních schopností a znalostí.

Algoritmický red flagging

O red flaggingu, o automatické detekci rizik, identifikaci vazeb atd. jsem už mluvil. Jde o:

Sledování opakujících se vztahů mezi dodavateli.
Identifikaci vazeb přes Rejstřík skutečných majitelů.
Varování při podezřele nízkém počtu nabídek v segmentu.

Je to zjevné a mě překvapuje, že zatím na českém trhu úplně nevidím nástroje zakázkového charakteru, které by tyhle věci měly v sobě zahrnuty. Doufám, že se to změní, protože v zakázkách to není vždy úplně jednoduché ani přehledné.

Pilíř 02: Dodavatel a AI nabídky / Jak hodnotit kvalitu, když ji generuje stroj?

U dodavatelů zmíním pouze jedno riziko, se kterým se zatím setkáváme velmi okrajově, ale zmiňuji ho s ohledem na to, jak vidím používání umělé inteligence i na straně soukromého sektoru, dodavatelů, občanů.

Jde o riziko nabídek vytvářených pomocí umělé inteligence. Nabídky vytvořené umělou inteligencí vypadají skvěle. Jdou po vašich požadavcích, ale je důležité přemýšlet o tom, zda nejde jen o to, co tady označuji jako „slohový smog“ v zakázkách – tedy zda to skutečně nejsou jen „plky“.

Hodnocení: text je mrtvý

A s tím souvisí i to, že např. v zahraničí už začíná probíhat proces odstupování od rigidního administrativního posuzování došlých nabídek a začínáme se více dostávat k hodnocení modelových příkladů. Ve Velké Británii se třeba u velkých zakázek (samozřejmě nemluvím o poptávce kancelářského zboží) začíná poměrně dost prosazovat verifikace expertízy. To znamená i pohovory, kdy se hodnotí např. připravenost týmu na specifické otázky zadavatele a ověřuje se skutečná kvalita týmu, který se hlásí do zakázky, protože tam to umělou inteligencí neobejdete.

Tzn. máte tam podkladové dokumenty, které si ověřujete, ale k tomu existuje druhá vrstva, v níž ověřujete, jak jsou dodavatelé skutečně schopni reagovat na vaše požadavky a podmínky, které můžete v rámci hodnoticího procesu i měnit, abyste získali přehled o tom, jak je dodavatel schopen řešit vaši zakázku a vaši potřebu.

Proof of concept (POC)

Nové kritérium kvality může spočívat v zahrnutí praktického testu přímo do fáze hodnocení (§ 116 ZZVZ). Dodavatel musí na místě (nebo vzdáleně v omezeném čase) vyřešit vzorový úkol bez možnosti externí pomoci. Hodnotit lze například přesnost výstupu, rychlost zpracování a absenci biasu.

Pilíř 03: Regulace a nákup AI

Za zásadní považuji, že jakmile pracujete s umělou inteligencí, máte zaměstnance a používáte ji pro pracovní účely v rámci byznysu nebo úřadu, jste z pohledu AI Actu zavádějící subjekt (deployer) a dopadají na vás určité povinnosti. Jednou z nich je právě i zajištění technického dohledu fyzickými osobami, verifikace vstupních dat atd. Samozřejmě v závislosti na tom, jak je klasifikován systém nebo nástroj, který chcete používat.

Smluvní doložky MCC-AI (2025)

Co je zajímavé a co mi zatím nepřijde v českém prostoru dostatečně akcentované, jsou smluvní doložky, které vydala Evropská komise, respektive její Public Buyers Community. Jde o vzorové doložky, které řeší vztah dodavatel–zadavatel z pohledu odpovědnosti. Jejich cílem je dát zadavatelům do ruky nástroje pro přenos některých zásadních odpovědností na dodavatele, což z praxe vím, že se zatím moc neděje. Velká část zadavatelů nakupuje nástroje tak, jak jsou.

Je to verze už z roku 2025, myslím, že byla vydaná v březnu, a lze ji použít jako hezký návod i pro soukromý sektor. Důležité je, že jsou to doložky, takže samy o sobě neřeší všechno a přikládají se ke smlouvám. Nicméně není až tak podstatné to využití, podstatná je inspirace.

Existují dvě verze: high-risk a non-high-risk (někdy označovaná jako light).

High-risk verze je určena pro kritické oblasti nebo pro vysoce rizikové nástroje podle AI Actu – tedy například biometrie, kritická infrastruktura, justice atd. Obsahuje kompletní sadu povinností pro to, jak má vypadat technická dokumentace, řízení rizik, správa dat, kdo za co odpovídá a komu data v jaké fázi patří. Čeho se high-risk verze týká:

Light verze je doporučená pro nákup běžných AI aplikací, jako jsou chatboty, různé interní procesní optimalizace a podobně. Je zjednodušená a zaměřuje se hlavně na transparentnost a etické standardy.

Rozdělení odpovědnosti

Povinnosti Poskytovatele: Vytvoření technické dokumentace, posouzení shody, zavedení systému řízení kvality a rizik.
Povinnosti Zadavatele (Deployer): Lidský dohled nad provozem, používání v souladu s návodem, monitoring rizik po nasazení a uchovávání logů.
Incident Reporting: Obě strany mají smluvní povinnost se informovat o závažných incidentech do 48 hodin.

Důležité upozornění: Doložky MCC-AI jsou tzv. Annexem (přílohou). Samy o sobě netvoří celou smlouvu. V hlavní smlouvě musíte stále samostatně vyřešit:

Převod práv k duševnímu vlastnictví (IP)
Limitaci náhrady škody a smluvní pokuty
Platební podmínky a SLA parametry

Pilíř 04: IP, data a GDPR / Právní režim výstupů a osobních údajů

Občas se stává, že budete poptávat nástroj pro firmu nebo úřad na správu dat a funguje to tak, že dodáte data, na kterých se model dotrénuje nebo upraví (jde o tzv. váhy). Málokdo myslí na to, že současný stav je takový, že vám přijde firma, která pracuje s nějakým otevřeným nebo veřejně dostupným modelem. Vy jí dáte data, která potřebujete k tomu, aby vytvořila nástroj pro vaši potřebu, zaplatíte za to, nástroj dostanete a všechno je v pořádku. Ale dodavatel už má vaše data a pak směle pouští produkt na trh dál, přičemž je natrénovaný na vašich datech. Ta data nemusí být citlivá, ale obecně jde o to, že v rámci smluvního vztahu předáváte dodavateli svoje know-how. On ho zpracovává a pak ho využívá k monetizaci i pro další subjekty. To je jedna z věcí, na kterou je potřeba v rámci tohoto vztahu myslet.

Na závěr je potřeba připomenout: AI nástroje nejsou IT nástroje. Jsou v nich specifické věci, se kterými se u běžných IT řešení nesetkáte. Jednou z nich je třeba takzvaný model drifting.

Model drifting znamená, že nástroj, který pořídíte, může v průběhu času měnit své chování. Poskytovatel může měnit parametry modelu. Tzn. vy si sice něco koupíte a čtvrt roku to běží skvěle (určitě se s tím setkáváte i v rámci diskusí nebo využívání veřejně dostupných nástrojů) – jste zvyklí, že nástroj nějak funguje a reaguje, a ze dne na den se chová jinak. U veřejně dostupných nástrojů, jako je ChatGPT, s tím nějak jste schopni žít, nebo přesedláte na něco jiného. Ale v okamžiku, kdy na původním nástroji máte postavenou firemní databázi, to může být problém.