Co je AI governance, kterou by se měly podniky zabývat? Vysvětlení klíčových bodů na základě „AI podnikatelských směrnic“.

Dne 19. dubna 2024 (令和6年4月19日) ministerstva vnitra a průmyslu a obchodu Japonska zveřejnila ‘AI podnikatelské směrnice’. Cílem těchto směrnic je podpořit bezpečné využívání umělé inteligence a podnítit její implementaci do společnosti. Směrnice jsou určeny pro podnikatele, veřejné instituce, vzdělávací organizace a neziskové či nevládní organizace zapojené do vývoje, poskytování a využívání AI.

Podle ‘AI podnikatelských směrnic’ je pro všechny subjekty zapojené do vývoje, poskytování a využívání AI klíčové vybudování správného AI řízení. Jaké kroky by tedy měly podniky podniknout, aby správně zavedly AI řízení?

Tento článek vysvětluje klíčové aspekty AI řízení, na které by se měly podniky zaměřit podle ‘AI podnikatelských směrnic’.

Co jsou Směrnice pro provozovatele AI v Japonsku

Směrnice pro provozovatele AI (AI事業者ガイドライン) jsou dokumentem, který byl v roce 2024 (令和6年) společně vypracován Ministerstvem vnitra a komunikací a Ministerstvem hospodářství, obchodu a průmyslu. Cílem těchto směrnic je podpora bezpečného a spolehlivého využívání AI v Japonsku a poskytnutí jednotných pokynů pro správu AI v naší zemi.

Reference: Směrnice pro provozovatele AI (verze 1.0) | Ministerstvo hospodářství, obchodu a průmyslu[ja]

Směrnice pro provozovatele AI byly vytvořeny integrací a revizí dříve stanovených “Směrnic pro vývoj AI”, “Směrnic pro využití AI” a “Směrnic pro správu pro uplatňování principů AI”. Jsou navrženy tak, aby poskytovaly provozovatelům AI jasné pokyny pro žádoucí chování, které povede k bezpečnému a spolehlivému využívání AI.

Pro podrobnější informace o Směrnicích pro provozovatele AI se můžete obrátit na článek “Obsah Směrnic pro provozovatele AI vysvětlený právníkem” z Ministerstva hospodářství, obchodu a průmyslu.

Související článek: Obsah Směrnic pro provozovatele AI vysvětlený právníkem[ja]

Co je AI governance podle japonského práva

AI governance, podle Japonských směrnic pro AI podnikatele, je definována jako “návrh a provoz technických, organizačních a sociálních systémů prováděný zúčastněnými stranami s cílem řídit rizika spojená s využíváním AI na úrovni přijatelné pro zúčastněné strany, zatímco se maximalizuje pozitivní dopad (výhody), který z toho plynou.”

Dále tyto směrnice pro AI governance zdůrazňují, že “pro bezpečné a spolehlivé využívání AI je důležité vybudování AI governance, která umožní správu rizik na přijatelné úrovni pro zúčastněné strany a maximalizaci výhod, a to prostřednictvím spolupráce mezi všemi subjekty a praktikování společných zásad v celém hodnotovém řetězci.”

Jinými slovy, vybudování AI governance je klíčové pro všechny subjekty zapojené do vývoje, poskytování a využívání AI.

Praxe “agilního řízení” při budování AI governance

Je považováno za klíčové praktikovat “agilní řízení” při budování AI governance.

Agilní řízení znamená, že místo předem stanovených pevných pravidel, se přistupuje k flexibilní reakci na změny vnějšího prostředí a rizik prostřednictvím kontinuálního cyklu “analýzy prostředí a rizik”, “nastavení cílů”, “návrhu systému”, “provozu” a “hodnocení”.

V oblasti podnikání souvisejícího s AI jsou cíle kvůli složitosti a rychlým změnám neustále proměnlivé.

Z tohoto důvodu není při budování AI governance vhodné předem stanovit pevná pravidla nebo postupy, ale je nezbytná flexibilní reakce přizpůsobená velikosti a charakteru každé společnosti. Proto jsou v AI podnikatelských směrnicích doporučeny metody agilního řízení pro budování governance.

Termín “agilní” v angličtině znamená “rychlý” nebo “obratný”.

Implementace agilního řízení je v hlavním textu AI podnikatelských směrnic popsána následovně:

1. Provedení “analýzy prostředí a rizik”, která zahrnuje zkoumání změn vnějšího prostředí, jako je společenská akceptace AI systémů a služeb, a analýzu přínosů a rizik spojených s využíváním AI systémů a služeb.
2. Rozhodnutí, zda vyvíjet, poskytovat nebo využívat AI systémy a služby, a v případě kladného rozhodnutí “nastavení cílů”.
3. Návrh “AI management systému” pro dosažení stanovených cílů AI governance a jeho “provoz”. Přitom by měly společnosti zajistit transparentnost a odpovědnost (například spravedlnost) vůči vnějším zainteresovaným stranám ohledně cílů AI governance a jejich provozního stavu.
4. Kontinuální monitorování efektivity AI management systému a jeho “hodnocení”.
5. Opětovné provedení “analýzy prostředí a rizik” po zahájení provozu AI systémů a služeb s ohledem na změny vnějšího prostředí a případné revize cílů.

Konkrétní akční cíle pro realizaci kroků 1 až 5 jsou uvedeny v příloze AI podnikatelských směrnic, proto bychom měli každou položku konkrétně zkontrolovat zde[ja].

Cíle chování pro uplatňování agilního řízení v Japonsku

Podívejme se na cíle chování pro uplatňování agilního řízení, které jsou založeny na příloze směrnice pro provozovatele AI v Japonsku.

Analýza prostředí a rizik

Jako cíle chování pro provádění “Analýzy prostředí a rizik” v rámci agilního řízení jsou v příloze pokynů pro AI podnikatele uvedeny následující tři body.

• Pochopení přínosů a rizik
• Pochopení společenského přijetí AI
• Pochopení úrovně zvládnutí AI ve vlastní společnosti

Porozumění přínosům a rizikům

Jedním z cílů chování pro “analýzu životního prostředí a rizik” je “porozumění přínosům a rizikům”.

V příloze k pokynům pro provozovatele AI je to vysvětleno následovně:

Cíl chování 1-1【Porozumění přínosům a rizikům】

Všechny subjekty by měly pod vedením vedení společnosti jasně definovat účel vývoje, poskytování a využívání AI a pochopit nejen přínosy plynoucí z AI, ale také nezamýšlená rizika, která s tím souvisí, a to konkrétně ve vztahu k jejich podnikání. Tyto informace by měly být následně hlášeny vedení společnosti, sdíleny s ním a pravidelně aktualizovány.

Reference: Příloha k pokynům pro provozovatele AI

Zvláště důležité jsou následující body:

• Jasně definovat účel vývoje, poskytování a využívání AI v souvislosti s tvorbou hodnot v podnikání a řešením společenských problémů
• Konkrétně pochopit přínosy a rizika v kontextu vlastního podnikání
• Věnovat pozornost “rizikům”, kterým je třeba se vyhnout, a otázkám, které se týkají více subjektů, a zajistit přínosy a snížit rizika v celém hodnotovém řetězci/rizikovém řetězci
• Vytvořit systém pro rychlé hlášení a sdílení informací s vedením společnosti

Porozumění společenské akceptaci AI v Japonsku

Druhým cílem chování, který je uveden pro provedení “analýzy rizik a prostředí”, je “porozumění společenské akceptaci AI”.

V příloze k japonským směrnicím pro provozovatele AI je to vysvětleno následovně:

Cíl chování 1-2【Porozumění společenské akceptaci AI】

Očekává se, že všechny subjekty pod vedením výkonného managementu, před zahájením plnohodnotného vývoje, poskytování a využívání AI, porozumí současnému stavu společenské akceptace na základě názorů stakeholderů. Také se očekává, že po zahájení plnohodnotného vývoje, poskytování a využívání AI systémů a služeb, budou subjekty pravidelně a včas revidovat názory stakeholderů s ohledem na změny v externím prostředí.

Reference: Příloha k japonským směrnicím pro provozovatele AI

Pro provedení jsou klíčové následující body:

• Identifikace stakeholderů
• Usilovat o porozumění společenské akceptaci AI mezi stakeholdery a vývoj, poskytování a využívání AI
• Pravidelně a včas revidovat názory stakeholderů i po zahájení poskytování AI systémů a služeb, s ohledem na rychle se měnící externí prostředí

Porozumění úrovni zvládnutí AI ve vaší společnosti

Třetím cílem chování, který je uveden pro “analýzu rizik a prostředí”, je “porozumění úrovni zvládnutí AI ve vaší společnosti”.

V příloze k pokynům pro provozovatele AI je to vysvětleno následovně:

Cíl chování 1-3【Porozumění úrovni zvládnutí AI ve vaší společnosti】

Pod vedením výkonné vrstvy by každý subjekt, s výjimkou případů, kdy se na základě účelu použití AI, oblasti podnikání a velikosti společnosti rozhodne, že riziko je zanedbatelné, měl na základě stupně zkušeností s vývojem, poskytováním a používáním AI systémů a služeb, počtu a úrovně zkušeností zaměstnanců, včetně inženýrů, kteří se podílejí na vývoji, poskytování a používání AI systémů a služeb, a úrovně gramotnosti zaměstnanců v oblasti AI technologií a etiky, hodnotit úroveň zvládnutí AI ve své společnosti a pravidelně ji revidovat. Je očekáváno, že výsledky budou, pokud je to možné, v rozumném rozsahu zveřejněny pro stakeholdery. V případě, že se rozhodne nevyhodnocovat úroveň zvládnutí AI na základě toho, že riziko je zanedbatelné, očekává se, že skutečnost, že nebylo provedeno hodnocení, spolu s důvodem, bude zveřejněna pro stakeholdery.

Reference: Příloha k pokynům pro provozovatele AI

Pro implementaci jsou klíčové následující body:

• Zvážit potřebu hodnocení úrovně zvládnutí AI ve vztahu k oblasti podnikání a velikosti každého subjektu
• Pokud je hodnocení úrovně zvládnutí AI považováno za nutné, zviditelnit schopnost reagovat na rizika AI a hodnotit úroveň zvládnutí AI
• I v případě, že se rozhodne, že hodnocení úrovně zvládnutí AI není nutné, pokud je to možné, zveřejnit tento fakt a důvody v rozumném rozsahu pro stakeholdery

Stanovení cílů

Jako cíle chování pro implementaci “Stanovení cílů” v rámci agilního řízení jsou v příloze k pokynům pro AI podnikatele uvedeny následující cíle chování.

Cíl chování 2-1【Stanovení cílů AI řízení】

Každý subjekt by měl pod vedením výkonného managementu zvážit, zda stanoví cíle AI řízení (například AI politiku) s ohledem na potenciální výhody/risika AI systémů a služeb, společenskou akceptaci vývoje, nabídky a používání AI systémů a služeb a úroveň zkušeností s AI ve vlastní společnosti. Dále by měl zvážit důležitost procesu vedoucího ke stanovení cílů AI řízení. Pokud se rozhodne cíle stanovit, očekává se, že je zveřejní pro stakeholdery. Pokud subjekt rozhodne nezavést cíle AI řízení na základě toho, že potenciální rizika jsou zanedbatelná, očekává se, že tuto skutečnost spolu s důvody zveřejní pro stakeholdery. Pokud subjekt usoudí, že “společné směrnice” uvedené v tomto pokynu fungují dostatečně, může tyto směrnice použít jako cíle AI řízení namísto stanovení vlastních.

I když subjekt rozhodne nezavést cíle, očekává se, že porozumí důležitosti tohoto pokynu a podle potřeby implementuje opatření související s cíli chování 3 až 5.

Citace: Příloha k pokynům pro AI podnikatele

Body pro implementaci jsou následující:

• Zvážit, zda každý subjekt stanoví “Cíle AI řízení”
• Pokud se rozhodne, že je nutné cíle stanovit, tak je stanovit
• Pokud se rozhodne, že není nutné cíle stanovit, i tak pokud možno zveřejnit tuto skutečnost spolu s důvody pro stakeholdery v rámci rozumných mezí.

Návrh systému (vytvoření AI management systému)

Jako cíle chování pro implementaci “Návrhu systému (vytvoření AI management systému)” v rámci agilního řízení jsou v příloze pokynů pro AI podnikatele v Japonsku uvedeny následující čtyři body:

• Zavedení povinného hodnocení cílů a odchylek a reakce na odchylky
• Zlepšení gramotnosti personálu v oblasti AI managementu
• Posílení AI managementu prostřednictvím spolupráce mezi jednotlivými subjekty a odděleními
• Snížení zátěže spojené s incidenty pro uživatele prostřednictvím prevence a rychlé reakce

Hodnocení cílů a odchylek a povinnost reagovat na odchylky

Jedním z hlavních cílů pro implementaci “systémového designu (vytváření AI management systémů)” je “hodnocení cílů a odchylek a povinnost reagovat na odchylky”.

V pokynech pro provozovatele AI je uvedeno následující:

Akční cíl 3-1【Hodnocení cílů a odchylek, stejně jako povinnost reagovat na odchylky】

Je očekáváno, že každý subjekt pod vedením vedení společnosti identifikuje odchylky od cílů AI governance svého subjektu, vyhodnotí dopady těchto odchylek a v případě rozpoznání rizika zváží jeho velikost, rozsah a frekvenci výskytu, aby posoudil, zda je přijetí rizika racionální. Pokud se shledá, že přijetí není racionální, očekává se, že subjekt zváží změnu přístupu k vývoji, poskytování a využívání AI a začlení tento proces přehodnocení do celého AI management systému a do vhodných fází návrhu, vývoje, před zahájením využívání a po zahájení využívání AI systémů a služeb. Je důležité, aby vedení společnosti stanovilo základní směrnice pro proces přehodnocení a aby provozní vrstva tento proces konkretizovala. Očekává se také, že do hodnocení odchylek od cílů AI governance se zapojí osoby, které nejsou přímo zapojeny do vývoje, poskytování a využívání cílové AI. Nicméně, pouhá existence odchylek by neměla být použita jako důvod pro libovolné zakázání vývoje, poskytování a využívání AI. Hodnocení odchylek by proto mělo být krokem k hodnocení rizik a příležitostí k vylepšení.

Reference: Příloha k pokynům pro provozovatele AI

Pro praktickou implementaci jsou klíčové následující body:

• Identifikovat a vyhodnotit, jak velké odchylky existují mezi současnými AI systémy/službami a “cíli AI governance”.
• V případě, že využívání AI systémů/služeb představuje riziko, posoudit, zda je přijetí tohoto rizika racionální.
• Pokud se shledá, že přijetí rizika není racionální, přehodnotit přístup k vývoji, poskytování a využívání a začlenit proces přehodnocení do vhodných fází vývoje, poskytování a využívání a do procesů rozhodování v rámci organizace.
• Vedení by mělo převzít vedení v těchto aktivitách, nést odpovědnost za rozhodnutí a provozní vrstva by měla tyto aktivity konkretizovat a kontinuálně je provádět.
• Pro rozvoj interního povědomí je třeba sdílet stanovené kritéria pro hodnocení odchylek v rámci organizace.

Zvyšování gramotnosti pracovníků v oblasti AI managementu

Druhým cílem chování, který je uveden pro realizaci “systémového designu (vytvoření AI managementového systému)”, je “zvyšování gramotnosti pracovníků v oblasti AI managementu”.

V pokynech pro provozovatele AI je uvedeno následující:

Cíl chování 3-2【Zvyšování gramotnosti pracovníků v AI managementovém systému】

Od všech subjektů se očekává, že pod vedením výkonného managementu strategicky zvýší AI gramotnost, aby mohli správně provozovat AI managementový systém, přičemž by měli zvážit využití externích vzdělávacích materiálů. Například u členů vedení, managementového týmu a pracovníků, kteří nesou zodpovědnost za právní a etické aspekty AI systémů a služeb, se uvažuje o poskytování vzdělání pro zlepšení obecné AI gramotnosti týkající se AI etiky a důvěryhodnosti AI. U pracovníků zodpovědných za vývoj, poskytování a využívání AI systémů a služeb by měla být poskytována školení nejen na téma AI etiky, ale také na téma technologií AI, včetně generativní AI. Všem by mělo být poskytnuto vzdělání o postavení a důležitosti AI managementového systému.

Reference: Příloha k pokynům pro provozovatele AI

Jako klíčové body pro praxi lze uvést následující:

• Používat školení a vzdělávací materiály přizpůsobené pozici a odpovědnosti pracovníka pro zlepšení AI gramotnosti
• Využívat školení a vzdělávací materiály vhodné pro roli, kterou každý zastává
• Zvláště u AI etiky, která je považována za zvláště důležitou, zavést inovace, jako je povinná účast všech zaměstnanců na kurzech

Posílení AI managementu prostřednictvím spolupráce mezi subjekty a odděleními

Třetím cílem chování, který je uveden pro “návrh systému (vytvoření AI managementového systému)”, je “posílení AI managementu prostřednictvím spolupráce mezi subjekty a odděleními”.

V pokynech pro AI podnikatele je uvedeno následující:

Cíl chování 3-3【Posílení AI managementu prostřednictvím spolupráce mezi subjekty a odděleními】

Očekává se, že jednotlivé subjekty, kromě případů, kdy vše od přípravy datových sad používaných pro učení až po vývoj, poskytování a využívání AI systémů a služeb provádějí ve svém vlastním oddělení, pod vedením vedení společnosti a s ohledem na obchodní tajemství atd., jasně identifikují provozní problémy AI systémů a služeb, které nemohou být řešeny pouze v rámci jejich společnosti nebo oddělení, a informace potřebné k řešení těchto problémů a v rámci spravedlivé soutěže je v rozumné a možné míře sdílejí. Při tom se očekává, že subjekty se předem dohodnou na rozsahu sdílení informací a zváží uzavření dohody o ochraně důvěrnosti informací, aby byla zajištěna hladká výměna potřebných informací.

Reference: Příloha k pokynům pro AI podnikatele

Jako klíčové body pro praxi lze uvést následující:

• Identifikace provozních problémů AI systémů a služeb, které nemohou být vyřešeny jednotlivými subjekty, a informací potřebných k jejich řešení
• Sdílení informací mezi subjekty s ohledem na duševní vlastnictví a soukromí v rozumné a možné míře

※Je třeba mít na paměti, že toto vše předpokládá dodržování různých zákonů a předpisů, AI politik jednotlivých subjektů, obchodních tajemství, dat poskytovaných omezeně atd., a zajištění spravedlivé soutěže.

Snížení zátěže uživatelů spojené s incidenty prostřednictvím prevence a rychlé reakce

Čtvrtým cílem chování, který je uveden pro implementaci “systémového designu (vytvoření AI management systému)”, je “snížení zátěže uživatelů spojené s incidenty prostřednictvím prevence a rychlé reakce”.

V pokynech pro AI podnikatele je uvedeno následující:

Cíl chování 3-4【Snížení zátěže AI uživatelů a uživatelů mimo pracovní činnosti spojené s incidenty prostřednictvím prevence a rychlé reakce】

Od všech subjektů se očekává, že pod vedením vedení společnosti sníží zátěž uživatelů AI a uživatelů mimo pracovní činnosti spojenou s incidenty prostřednictvím prevence incidentů a rychlé reakce na ně.

Reference: Příloha k pokynům pro AI podnikatele

• Předcházet incidentům, jako jsou systémové poruchy, úniky informací a vznik stížností, a v případě jejich výskytu na ně rychle reagovat
• Vytvořit systém pro prevenci incidentů a rychlou reakci na ně

Provoz

Jako cíle chování pro provádění “provozu” v rámci agilního řízení jsou v příloze k pokynům pro AI podnikatele v Japonsku uvedeny následující tři body.

• Zajištění stavu, kdy lze vysvětlit provozní situaci systému AI managementu
• Zajištění stavu, kdy lze vysvětlit provozní situaci jednotlivých AI systémů
• Zvážení aktivního zveřejnění praktické situace AI řízení

Zajištění stavu, kdy lze vysvětlit provozní situaci systému AI managementu

Jedním z cílů chování pro “provoz” je “zajištění stavu, kdy lze vysvětlit provozní situaci systému AI managementu”.

V pokynech pro provozovatele AI je uvedeno následující:

Cíl chování 4-1【Zajištění stavu, kdy lze vysvětlit provozní situaci systému AI managementu】

Očekává se, že všechny subjekty pod vedením výkonné vrstvy, například zaznamenáváním stavu provádění procesu hodnocení odchylek cíle chování 3-1, zajistí transparentnost a odpovědnost vůči relevantním stakeholderům ohledně provozní situace systému AI managementu.

Reference: Příloha k pokynům pro provozovatele AI

Jako klíčový bod provozu je uvedeno, že je třeba zajistit, aby bylo možné vysvětlit provozní situaci systému AI managementu relevantním stakeholderům v přiměřeném a rozumném rozsahu.

Zajištění stavu, kdy lze vysvětlit provoz jednotlivých AI systémů

Druhým cílem chování, který je uveden pro “provoz”, je “zajištění stavu, kdy lze vysvětlit provoz AI management systémů”.

V pokynech pro provozovatele AI je uvedeno následující:

Cíl chování 4-2【Zajištění stavu, kdy lze vysvětlit provoz jednotlivých AI systémů】

Očekává se, že všechny subjekty pod vedením výkonného managementu budou kontinuálně provádět hodnocení odchylek v předběžném a plném provozu jednotlivých AI systémů a služeb, monitorovat stav předběžného a plného provozu a zaznamenávat výsledky, zatímco budou provádět PDCA cyklus. Očekává se, že subjekty vyvíjející AI systémy budou podporovat monitoring prováděný subjekty, které AI systémy poskytují a využívají.

Reference: Příloha k pokynům pro provozovatele AI

Praktické body jsou následující:

• Monitorovat stav provozu AI každého subjektu a zaznamenávat výsledky, zatímco se provádí PDCA cyklus.
• V případě, že je pro jednotlivé subjekty obtížné se vypořádat samostatně, je třeba koordinovat mezi subjekty.

Zvažování aktivního zveřejnění stavu praktik AI governance

Třetím cílem chování pro “provoz” je “Zajištění stavu, kdy lze vysvětlit provozní situaci systému řízení AI a zvažování aktivního zveřejnění stavu praktik AI governance”.

V pokynech pro provozovatele AI je uvedeno následující:

Cíl chování 4-3【Zvažování aktivního zveřejnění stavu praktik AI governance】

Očekává se, že všechny subjekty zváží zveřejnění informací týkajících se stanovení cílů AI governance, zřízení a provozu systému řízení AI atd. jako neúčetní informace v kodexu corporate governance. Očekává se, že i subjekty, které nejsou veřejně obchodovatelné společnosti, zváží zveřejnění informací o aktivitách souvisejících s AI governance. A je očekáváno, že výsledky tohoto zvážení, včetně rozhodnutí nezveřejňovat, budou spolu s důvody zveřejněny stakeholderům.

Reference: Příloha k pokynům pro provozovatele AI

Body pro praxi jsou následující:

• Zvážit zajištění transparentnosti informací o AI governance, od základních přístupů k AI ve vaší společnosti až po zřízení a provoz systému řízení AI.
• Při zveřejňování informací o AI governance zvážit jejich zařazení jako neúčetní informace v kodexu corporate governance.
• Pokud se rozhodnete nezveřejňovat informace o AI governance, zveřejnit tento fakt spolu s důvody stakeholderům.

Hodnocení

Jako cíle chování pro provádění “hodnocení” v rámci agilního řízení jsou v příloze pokynů pro AI podnikatele uvedeny následující dvě položky:

• Ověření funkčnosti systému řízení AI
• Zvážení názorů externích zainteresovaných stran

 Ověření funkčnosti systému řízení AI

Prvním cílem chování pro provádění “hodnocení” je “ověření funkčnosti systému řízení AI”.

V pokynech pro AI podnikatele je uvedeno následující:

Cíl chování 5-1【Ověření funkčnosti systému řízení AI】:

Očekává se, že všechny subjekty pod vedením výkonné vrstvy nezávisle ověří, zda je systém řízení AI navržen a provozován správně ve světle cílů správy AI, tedy zda je systém řízení AI prostřednictvím praxe cílů chování 3 a 4 funkční a zda je vhodný pro dosažení cílů správy AI, a požadují hodnocení a nepřetržité zlepšování.

Citace: Pokyny pro AI podnikatele

Body pro praxi jsou následující:

• Výkonná vrstva by měla jasně formulovat klíčové body hodnocení pro nepřetržité zlepšování ve svých vlastních slovech
• Přiřadit osoby s relevantní odborností nezávislé na návrhu a provozu systému řízení AI
• Monitorovat, zda systém řízení AI funguje správně
• Na základě výsledků monitoringu provádět nepřetržité zlepšování

Zvážení názorů externích zainteresovaných stran

Druhým cílem chování pro provádění “hodnocení” je “zvážení názorů externích zainteresovaných stran”.

V pokynech pro AI podnikatele je uvedeno následující:

Cíl chování 5-2【Zvážení názorů zainteresovaných stran】:

Očekává se, že všechny subjekty pod vedením výkonné vrstvy zváží požadavek na názory zainteresovaných stran na systém řízení AI a jeho provoz. Pokud se po zvážení rozhodnou názory zainteresovaných stran neimplementovat, očekává se, že vysvětlí důvody zainteresovaným stranám.

Citace: Příloha pokynů pro AI podnikatele

Body pro praxi jsou následující:

• Zvážit požadavek na názory zainteresovaných stran na systém řízení AI a jeho provoz
• V případě, že se rozhodnou názory zainteresovaných stran neimplementovat, vysvětlit důvody zainteresovaným stranám

Reanalýza environmentálních rizik

Jako cíl chování pro implementaci “Reanalýzy environmentálních rizik” v rámci agilního řízení lze uvést “opětovné provedení cílů chování 1-1 až 1-3 v pravý čas”.

V pokynech pro provozovatele AI je uvedeno následující:

Cíl chování 6-1【Opětovné provedení cílů chování 1-1 až 1-3 v pravý čas】:

Od jednotlivých subjektů se očekává, že pod vedením výkonného managementu rychle pochopí změny vnějšího prostředí, jako je vznik nových technologií a změny sociálních systémů, včetně regulací, a v pravý čas provedou reevaluaci, aktualizaci porozumění a získání nových perspektiv. Na základě toho se očekává zlepšení nebo rekonstrukce AI systémů a zlepšení jejich provozu. Kromě toho, při provádění cíle chování 5-2, se očekává, že se zváží získání názorů z vnějšku nejen na stávající AI managementové systémy a jejich provoz, ale také na analýzu environmentálních rizik, a to v souladu s agilním řízením, které je v tomto pokynu rovněž zdůrazněno.

Reference: Příloha k pokynům pro provozovatele AI

Mezi klíčové body pro praxi patří následující:

• Pochopení změn vnějšího prostředí, jako je vznik nových technologií, inovace související s AI a změny sociálních systémů, včetně regulací
• Provádění opětovného hodnocení, aktualizace porozumění a získání nových perspektiv v pravý čas, a následné zlepšení, rekonstrukce nebo změna provozu AI systémů v souladu s tím
• Zakořenění přístupu k AI řízení jako součásti organizační kultury

Klíčové body při budování AI governance podle japonských pravidel

To, co bylo právě popsáno, je konkrétní metoda AI governance založená na metodě agilní governance podle “AI Business Guidelines” (AI事業者ガイドライン) v Japonsku.

Avšak tyto směrnice byly vytvořeny jako univerzální pro všechny AI podnikatele, a je třeba individuálně zvážit, do jakého typu podnikání společnost patří – ať už jde o vývoj, nabídku nebo využívání – a jaký typ AI systémů či služeb poskytuje.

Je třeba zvážit, jakou organizaci a systém je potřeba ve vaší společnosti zavést, jaké akce a dokumentaci je nutné provést, a to vše s ohledem na to, jak to může přinést obchodní výhody a jak se vyhnout potenciálním nevýhodám v budoucnosti.

Kromě toho AI podnikání skrývá různá právní rizika. Proto doporučujeme získat podporu právníka již v počáteční fázi přípravy opatření.

Shrnutí: Optimalizace podle japonských směrnic pro AI podnikatele je úkolem pro právníky

V tomto článku jsme vysvětlili, jak vytvořit AI governance v souladu s japonskými směrnicemi pro AI podnikatele (AI事業者ガイドライン).

Metody AI governance jsou podrobně stanoveny v japonských směrnicích pro AI podnikatele, a manažeři musí jako součást governance vytvářet organizace uvnitř společnosti a připravovat dokumenty.

V rychle se měnícím světě AI podnikání je optimalizace pro nové a složité směrnice velkou výzvou. Doporučujeme co nejdříve získat radu od odborníků, kteří se specializují jak na IT oblast, včetně AI, tak na právo, a vybudovat tak pro vaši společnost nejvhodnější systém AI governance.

Představení opatření naší kanceláře

Právní kancelář Monolith je právní firma s bohatými zkušenostmi v oblasti IT, zejména internetu a práva.

Obchodování s AI je spojeno s mnoha právními riziky a podpora advokátů, kteří se specializují na právní problémy související s AI, je nezbytná. Naše kancelář poskytuje sofistikovanou právní podporu pro AI podnikání, včetně ChatGPT, prostřednictvím týmu advokátů a inženýrů, kteří se specializují na AI. Nabízíme služby jako tvorba smluv, posouzení legality obchodních modelů, ochrana duševního vlastnictví a řešení otázek soukromí. Podrobnosti naleznete v následujícím článku.

Oblasti práva, kterými se právní kancelář Monolith zabývá: Právní služby v oblasti AI (včetně ChatGPT)[ja]