Jaké jsou smluvní rizika při zavádění AI do podniků? Vysvětlení „kontrolního seznamu“ vypracovaného ministerstvem hospodářství, obchodu a průmyslu k předcházení krizím.
V posledních letech se v oblasti podnikání rozšiřuje zavádění AI (umělé inteligence). Nicméně, využívání a vývoj AI přináší specifická rizika a právní výzvy, které se liší od tradičních systémů.
S ohledem na tyto okolnosti vydalo v únoru Reiwa 7 (2025) japonské Ministerstvo hospodářství, obchodu a průmyslu “Kontrolní seznam pro smlouvy týkající se využívání a vývoje AI”. Tento kontrolní seznam je navržen jako praktický nástroj, který pomáhá různým společnostem zapojeným do smluv a využívání AI služeb efektivně organizovat a kontrolovat smluvní podmínky.
V tomto článku vysvětlíme, jak na základě “Kontrolního seznamu pro smlouvy týkající se využívání a vývoje AI” kategorizovat smlouvy související s AI a na co si dát pozor při uzavírání smluv, abychom mohli AI v podnikání využívat efektivně.
Checklist pro kontrolu smluv týkajících se využívání a vývoje AI a jeho cílové AI související služby
Checklist pro kontrolu smluv týkajících se využívání a vývoje AI je určen pro širokou škálu AI souvisejících služeb, včetně generativního AI, a není omezen na konkrétní průmyslová odvětví nebo AI technologie.
Checklist je strukturován z hlediska “inputu” a “outputu” za účelem systematického uspořádání praktických otázek spojených s poskytováním a využíváním služeb. Tímto způsobem pokrývá všechny aspekty životního cyklu AI služeb a je navržen tak, aby umožnil stranám snadno extrahovat položky relevantní pro jejich vlastní podnikání.
Checklist smluvních podmínek pro využití a vývoj AI: Co znamenají vstupy a výstupy
Checklist je založen na dvou fázích, které jsou klíčové pro služby AI:
[Vstupy]Vstupy odkazují na informace, data, specifikace a podmínky, které jsou poskytovány a využívány při budování, učení a provozu AI služeb. Patří sem například data pro učení, algoritmy, pracovní pravidla a systémové podmínky. Pokud jsou tyto vstupy nedostatečné nebo nevhodné, může to přímo ovlivnit výkon AI a spolehlivost výstupů, což je důvod, proč jsou považovány za důležité položky k zvážení.
[Výstupy]Výstupy se týkají výsledků zpracování, dedukce a generování AI, stejně jako otázek týkajících se toho, jak jsou tyto výsledky zacházeny, využívány a zveřejňovány. Zahrnují například generované texty a obrázky, výsledky dedukce, základy pro rozhodnutí, rozsah externího poskytování a odpovědnost za výsledky.
Výstupy AI vyžadují kontrolu z hlediska přesnosti, transparentnosti a právních rizik. Checklist smluvních podmínek pro využití a vývoj AI systematicky řeší klíčové právní otázky z obou perspektiv: vstupů (poskytování předpokladů) a výstupů (zacházení s výsledky AI).
Definice jednotlivých stran
V kontraktech souvisejících s AI může role zúčastněných stran, jako jsou “osoby vyvíjející AI”, “osoby poskytující AI” a “osoby využívající AI”, kolísat v závislosti na typu AI služby.
Vezměme si například případ, kdy se univerzální AI služba vyvíjí a implementuje s cílem specificky ladit ji pro potřeby určité společnosti (viz následující sekce 【Typ 2: Upravený typ】). V takovém případě se předpokládá služba, která zahrnuje integraci univerzální AI služby poskytované jinou společností a její úpravu (customizaci) tak, aby vyhovovala specifikacím klienta.
V této situaci se podnik B, který poskytuje customizační služby, stává vztahu s podnikem A (uživatelem AI), který customizaci přijímá (viz diagram níže ①), “poskytovatelem AI služby (vendorem)”.
Na druhé straně, ve vztahu s podnikem C (vývojářem AI/provozovatelem AI), který poskytuje základní univerzální AI (viz diagram níže ②), se podnik B stává uživatelem AI služby.
Takto může jedna společnost v závislosti na straně, se kterou interaguje, zaujímat pozici “poskytovatele” nebo “uživatele”. Proto je při uzavírání smluv důležité jasně definovat pozici a rozsah odpovědnosti každé strany.
Typy smluv týkajících se využívání a vývoje AI podle japonského práva
Tento kontrolní seznam smluv se týká služeb souvisejících s umělou inteligencí (AI) a klasifikuje je do tří reprezentativních typů smluv. Cílem je usnadnit smluvním stranám pochopení kontrolních bodů, které odpovídají jejich pozici a účelu.
Každý typ smlouvy má své charakteristické diskusní body a rizika, a je důležité pochopit vhodný typ smlouvy v závislosti na účelu implementace AI a formě poskytovaných služeb.
Níže podrobně představujeme tři typy smluv.
Typ 1: Využití univerzálních služeb
Tento typ zahrnuje běžný kontrakt, kdy uživatelé využívají již dokončené a veřejně dostupné AI služby tak, jak jsou bez dalších úprav.
Jako typický příklad si můžeme představit používání generativních AI služeb, jako je ChatGPT nebo AI pro generování obrázků (například DALL·E, Stable Diffusion), přímo na webu.
U těchto služeb je obvykle předpokladem, že uživatel souhlasí s předem stanovenými podmínkami použití a servisními podmínkami, které určil poskytovatel. Uživatel má jen velmi omezenou možnost vyjednávat nebo měnit obsah smlouvy.
Na kontrolním seznamu je hlavním bodem, jak uživatelé porozumí podmínkám, které jsou jim nabízeny, a jak si uvědomí rizika spojená s využíváním AI služeb.
Typ 2: Přizpůsobený model
Tento typ smlouvy zahrnuje přizpůsobení existujících modelů a technologií, které má poskytovatel AI služeb, podle potřeb uživatelské společnosti.
Například, uživatelská společnost může nechat AI model poskytovatele dodatečně učit se z jejích dat nebo pravidel, nebo může upravit části systému. Představte si vývoj chatbotu pro marketing, který je implementován v rámci určité společnosti. Obecný generativní AI model může být vyladěn pro konkrétní společnost tím, že se naučí číst databázi produktů společnosti a učí se z otázek zákazníků, což umožní poskytovat odpovědi přizpůsobené potřebám této společnosti.
V takových smlouvách je poskytováno řešení, které využívá původní technologie a know-how poskytovatele, zatímco je přizpůsobeno specifickým požadavkům uživatele. Na kontrolním seznamu jsou hlavními body k zvážení otázky vlastnictví intelektuálního vlastnictví upravených částí, možnost jejich opětovného použití a rozdělení odpovědnosti.
Kromě toho, v závislosti na obsahu přizpůsobení, může dojít ke změně povahy výsledného produktu nebo typu smlouvy, takže je důležité jasně definovat role obou stran a definice vstupů a výstupů.
Typ 3: Vývoj nového systému
Tento typ smlouvy se týká situace, kdy uživatel zadá poskytovateli AI služeb vývoj zcela nového AI systému. Běžně se tomu říká vývoj “od nuly”, kdy je AI model nebo systém vytvořen přímo na míru potřebám a požadavkům uživatele.
V tomto případě uživatel obvykle poskytuje data pro učení a specifikace, a výsledný AI model nebo produkt je navržen na základě specifických požadavků uživatele.
Z tohoto důvodu jsou v smlouvě zvláště důležité následující body:
- Jasná definice rozsahu a obsahu výsledků
- Nastavení cílů pro přesnost a výkon
- Poskytnutí a zacházení s daty pro učení
- Vlastnická práva k intelektuálnímu vlastnictví a přiřazení výsledků
- Rozdělení odpovědnosti za údržbu a aktualizace
Tento typ vyžaduje důkladnou koordinaci návrhu a specifikací mezi poskytovatelem a uživatelem, a proto je v kontrolním seznamu vyžadována podrobná úvaha.
Nyní se podívejme na konkrétní příklady vstupů a výstupů s odkazem na níže uvedený obrázek.
Citace: Ministerstvo hospodářství, obchodu a průmyslu | Kontrolní seznam smluv o využívání a vývoji AI[ja]
Kontrolní seznam: Vstupy
Vstupy, jak již bylo zmíněno výše, odkazují na obsah, který je zadáván do AI. Konkrétní příklady zahrnují tréninková data, algoritmy a prompty (instrukce nebo příkazy určené pro AI).
Pro služby AI jsou vstupy nezbytné. Bez nich nemůže dodavatel postupovat v procesu návrhu, učení a inferenčního zpracování AI. Jaké aspekty bychom tedy měli mít na paměti, když se zabýváme vstupy?
Zpracování vstupů od uživatelů pro dodavatele
Je tedy nezbytné, aby byly v smluvních podmínkách jasně stanoveny povinnosti uživatele poskytovat dodavateli informace (tj. vstupy), jako jsou data pro učení, pravidla, specifikace a další informace, které uživatel poskytuje, a také obsah těchto informací. Konkrétně se jedná o následující:
- Jaké vstupy bude uživatel poskytovat
- Časování poskytování, formát a kritéria kvality
- Zda existují nějaké podmínky, které musí uživatel splnit vzhledem k obsahu (povaze, množství, granularitě a dalším aspektům) poskytovaných vstupů dodavateli
- Zda jsou výše uvedené podmínky přijatelné s ohledem na účel používání služby uživatelem
Zpracování informací poskytnutých třetím stranám od dodavatelů podle japonského práva
U AI služeb dodavatelé využívají informace (například data nebo specifikace), které obdrží od uživatelů, k vytvoření a poskytnutí AI.
Je však důležité v smlouvě ověřit, zda a za jakých podmínek může dodavatel tyto informace poskytnout nebo znovu použít pro třetí strany, protože taková situace je možná.
Zvláště když informace mohou obsahovat obchodní know-how, důvěrné informace, osobní údaje nebo duševní vlastnictví uživatele, může jejich poskytnutí třetím stranám představovat velké riziko.
Proto je nutné v smlouvě zkontrolovat, zda jsou následující body jasně stanoveny:
- Zda může dodavatel poskytnout informace obdržené od uživatele třetím stranám
- Pokud je poskytnutí třetím stranám povoleno, existují nějaká omezení ohledně příjemců, rozsahu nebo účelu poskytnutí?
- Způsob zpracování uživatelských informací obsahujících duševní vlastnictví nebo důvěrné informace
Pokud existují obavy ohledně výše uvedených bodů, můžeme zvážit opatření, jako je “neposkytování nepotřebných informací” nebo “v případě, že poskytnutí informací třetím stranám není přijatelné, zvážit odstoupení od smlouvy”.
Správa vstupů od dodavatelů
V AI službách často obsahují vstupy poskytované uživateli dodavatelům (například tréninková data, pracovní pravidla, specifikace atd.) osobní údaje, důvěrné informace nebo duševní vlastnictví.
Je proto důležité jasně stanovit, jaké povinnosti nese dodavatel v souvislosti s nakládáním a správou těchto vstupů.
Jaké aspekty bychom měli z hlediska smlouvy zvážit při správě vstupů? Níže uvádíme několik příkladů.
(Povinnost správy a její úroveň)
- Jaké povinnosti správy nese dodavatel vůči vstupům přijatým od uživatele
- Pokud dodavatel nese povinnost správy, jaká je požadovaná úroveň správy a obsah reakce
- Zda může uživatel požadovat audit nebo poskytnutí informací o systému správy dodavatele
- Zda je systém správy vhodný vzhledem k účelu používání služeb uživatelem
(Doba uchování vstupů)
- Jak dlouho může dodavatel vstupy uchovávat
- Jaké kroky podnikne dodavatel po skončení doby uchování
(Povinnost odstranění)
- Zda dodavatel nese povinnost odstranit vstupy na žádost uživatele nebo při ukončení smlouvy
- Zda existuje povinnost vystavit doklad o odstranění (například certifikát o odstranění)
- Zda jsou taková opatření pro odstranění přiměřená vzhledem k obchodním cílům uživatele
Pokud je poskytování osobních údajů spojeno s vlastním využitím nebo porovnáváním dodavatelem, nemůže být toto považováno za subdodávku, ale spíše za poskytnutí třetí straně, což může vyžadovat souhlas subjektu údajů. Je třeba pečlivě zvážit schéma nakládání s osobními údaji.
V případě subdodávky osobních údajů je třeba zvážit, zda je dohledová pravomoc, kterou lze uplatnit na dodavatele, dostatečná pro zpracování jako subdodávku (pokud ne, je třeba zvážit zpracování jako poskytnutí třetí straně). Také je třeba věnovat pozornost tomu, že při přenosu osobních údajů do zahraničí může být vyžadováno poskytnutí informací o držených osobních údajích bez ohledu na to, zda došlo k “poskytnutí” podle zákona o ochraně osobních údajů.
V případě poskytování osobních údajů je zvláště důležité být opatrný, protože v případě úniku osobních údajů dodavatelem může být uživatel povinen hlásit toto porušení dozorovým orgánům.
Co se týče povinnosti odstranění, pokud zákon vyžaduje od dodavatele odstranění, je možné požadovat odstranění i mimo rámec smlouvy jako výkon práva.
Kontrolní seznam: Výstupy
Výstupy jsou, jednoduše řečeno, výsledky generované AI. Obvykle se jedná o texty nebo obrázky, ale mohou to být také programové kódy, návrhy, materiály marketingových strategií a další, přičemž formáty výstupů jsou různorodé. Výstupy mohou obsahovat vysoce citlivé informace, a proto je nutné zacházet s nimi opatrně.
Případ, kdy uživatel poskytuje výstupy třetím stranám
Využitím služeb AI, jako je generativní AI, mohou uživatelé získat různé výstupy (generované texty, obrázky, výsledky inferencí atd.).
Tyto výstupy nejsou využívány pouze interně, ale často jsou poskytovány nebo zveřejňovány třetím stranám, jako jsou zákazníci, obchodní partneři nebo veřejnost.
Avšak výstupy generované AI mohou obsahovat rizika, jako jsou nepřesné informace, porušení práv nebo etické problémy. Je nezbytné zavést systém řízení a provádět důkladné interní školení, aby nedošlo k nechtěnému poskytnutí informací třetím stranám (včetně úniku informací).
Když uživatel poskytuje výstupy mimo organizaci, je důležité zvážit smluvní dohody a řízení rizik. Měli byste zkontrolovat následující kontrolní body.
- Zda může uživatel poskytnout výstupy třetím stranám
- Pokud může uživatel poskytnout výstupy třetím stranám, jaké podmínky poskytnutí (příjemci, rozsah poskytnutí a další podmínky) jsou stanoveny. V případě služeb založených na využití je nutné uvést, že se jedná o výstupy získané pomocí AI
- Zda jsou výše uvedené podmínky přijatelné s ohledem na účel používání služeb uživatelem
Výstupy od poskytovatele k uživateli (b−5−1)
Výstupy získané pomocí služeb AI (generované texty, obrázky, návrhy, zprávy atd.) mohou být pro uživatele cennými výsledky.
Avšak je důležité mít jasno v otázkách, jako jsou “Kdo má práva na tyto výstupy?” a “Můžu je volně používat?”, protože nejasnosti v těchto otázkách mohou vést k budoucím sporům. Konkrétně je třeba jasně stanovit následující body.
- Zda uživatel získá určitá práva, jako jsou práva k duševnímu vlastnictví, na výstupy
- Pokud uživatel získá práva, jaké podmínky získání práv (předmět převodu práv, existence nebo absence protiplnění, existence nebo obsah licence a další podmínky) jsou stanoveny
- Zda jsou výše uvedené podmínky přijatelné s ohledem na účel používání služeb uživatelem
Důležité body při využívání kontrolního seznamu
Tento kontrolní seznam nemá právní účinnost smlouvy, ale slouží k uspořádání diskusních bodů týkajících se smluv o poskytování a využívání AI souvisejících služeb z pohledu uživatelů a poskytovatelů. Při uzavírání skutečné smlouvy je tedy nutné vybrat relevantní kontrolní body na základě konkrétních faktů dané situace (typ smlouvy, obsah služby, povaha vstupů a výstupů, práva a povinnosti stran atd.) a zkonkretizovat smluvní podmínky pro každou položku.
Určení, jak správně postupovat na základě kontrolního seznamu, závisí na konkrétních okolnostech jednotlivých uživatelů, a je tedy nezbytné zvážit všechny související okolnosti zahrnující následující prvky:
- Obsah AI služeb poskytovaných vendorem
- Typ smlouvy (uživatelské podmínky nebo individuální smlouva)
- Rizika přijetí smluvních podmínek
- Možnost plnění jednotlivých smluvních povinností
- Dostupnost alternativních služeb nebo metod vzhledem k účelu použití AI
- Náročnost smluvních jednání
- Možnost snížení rizik metodami mimo smlouvu (například skutečným provozem)
Shrnutí: U AI smluv se poraďte s odborníky
Dosud jsme se podrobně podívali na otázky týkající se smluv o vstupech a výstupech, typy smluv a body, na které je třeba dát pozor při využívání AI, na základě “Checklistu pro smlouvy o využívání a vývoji AI”, který zveřejnilo Ministerstvo hospodářství, obchodu a průmyslu.
Očekává se, že technologie AI, včetně generativní AI, bude v budoucnu stále více integrována do jádra podnikání. Při jejím využívání však existuje mnoho právních a praktických bodů, které je třeba pečlivě zvážit, jako jsou autorská práva, osobní údaje, ochrana důvěrných informací, možnost opětovného využití a rozdělení odpovědnosti.
Pro správné využití AI je nezbytné nejen zavést technologii, ale také prostřednictvím “smlouvy” jasně definovat práva a povinnosti mezi stranami a předcházet tak rizikům. Zvláště u složitých AI smluv je bezpečným a praktickým přístupem postupovat za radou interních právních a duševních vlastnických oddělení nebo externích odborníků.
Při podporování využívání AI se snažte minimalizovat právní rizika tím, že nezanedbáte kontrolu smluvního obsahu a spolupráci s odborníky.
Představení opatření naší kanceláře
Právní kancelář Monolith je firma specializující se na IT, zejména na internet a právo, nabízející unikátní a efektivní právní služby. Naše kancelář poskytuje širokou škálu právní podpory, od tvorby a revize smluv až po komplexní právní služby pro různé klienty, včetně firem kótovaných na Tokijské burze až po startupy. Pro více informací si prosím přečtěte následující článek.
Oblasti práva, kterými se Právní kancelář Monolith zabývá: Právní služby pro IT a startupové firmy v Japonsku[ja]
Category: IT
