Innholdet i "AI Tjenesteleverandør Retningslinjer" fra det japanske departementet for økonomi, handel og industri forklart av en advokat

I 2024 (Reiwa 6) samlet Japans økonomi- og handelsdepartement (METI) retningslinjene for AI-operatørveiledningen (versjon 1.0)[ja], som ble utviklet som en viktig veiledning for å vise retningen for AI-governance som bedrifter bør engasjere seg i. Dette skjer på bakgrunn av den raske utviklingen av AI-teknologi, hvor risikostyring og etiske utfordringer i sosial implementering har blitt et viktig tema for både bedrifter og samfunnet som helhet. Målet med retningslinjene er å fremme riktig bruk av AI og forbedre samfunnsmessig tillit. Som en form for “soft law” som ikke innebærer juridisk bindende kraft, klargjør retningslinjene rollene for hver aktør og legger vekt på en risikobasert tilnærming og konsistens med internasjonale systemer.

En særegenhet ved disse retningslinjene er adopsjonen av “agil governance”, en tilnærming som ikke er basert på faste regler, men som er fleksibel nok til å tilpasse seg endringer i miljøet. For bedrifter som utvikler, tilbyr og bruker AI, innebærer dette en mekanisme som kontinuerlig gjennomgår syklusen av miljø- og risikoanalyse, målsetting, drift og evaluering for å redusere risiko og realisere bærekraftig teknologisk utvikling. Videre blir elementer som samarbeid mellom flere aktører, riktig distribusjon av data og aktiv involvering fra ledelsen understreket som støttepilarer for effektiv governance.

Offentliggjøringen av Japans økonomidepartementets “AI-bedriftsretningslinjer” og bakgrunnen for dem

I april 2024 (Reiwa 6), publiserte Japans økonomidepartement “AI-bedriftsretningslinjer (Versjon 1.0)[ja]“. Disse retningslinjene er posisjonert som en veiledning uten juridisk bindende kraft, utformet for å støtte utviklingen og samfunnsmessig implementering av AI-teknologi. Derfor pålegger de ikke plikter som en lov ville gjort, men presenterer grunnleggende ideer, prinsipper og retningslinjer som bedrifter kan bruke som referanse når de skal implementere dem i praksis. Retningslinjene består av en hoveddel som inneholder ideer og prinsipper, og et vedlegg som viser spesifikke metoder for implementering.

En tilnærming basert på “Prinsipper for en menneskesentrert AI-samfunn”

“Retningslinjer for AI-operatører” er basert på “Prinsipper for en menneskesentrert AI-samfunn”, som ble presentert i mars 2019 (Reiwa 1). Disse prinsippene fremhever den grunnleggende ideen om at “mennesker ikke skal brukes av AI, men at mennesker skal bruke AI”. Mer konkret betyr dette at AI bør brukes under menneskelig kontroll som et middel til å utvide menneskelige evner, og at man må unngå en tilstand der mennesker blir manipulert gjennom overdreven avhengighet av AI.

I tillegg bør AI ikke bare være et alternativ til menneskelig arbeid, men også tjene som et avansert og praktisk verktøy som utvider menneskelig kreativitet og evner. Derfor, når man bruker AI, kreves det at brukeren selv vurderer hvordan de skal bruke det og tar ansvarlige beslutninger.

Integrering og revisjon av tidligere retningslinjer

Disse retningslinjene er utarbeidet ved å integrere og revidere tre tidligere hovedretningslinjer.

• “AI-utviklingsretningslinjer” (2017): Forklarer grunnleggende prinsipper og hensyn i AI-utvikling.
• “AI-bruksretningslinjer” (2019): Presenterer grunnleggende prinsipper og deres forklaringer for bruk av AI.
• “Retningslinjer for styring for å praktisere AI-prinsipper” (2021): Presenterer konkrete handlingsmål og eksempler på praksis for å fremme sosial implementering.

Disse har blitt brukt som retningslinjer som AI-operatører bør følge. I de nye “Retningslinjene for AI-operatører” er disse integrert, og innholdet tar hensyn til trender i andre land og fremveksten av nye teknologier.

Utarbeidelsesprosessen og bakgrunnen for offentliggjøringen

“Utkastet til retningslinjer for AI-virksomheter” ble først fremlagt den 21. desember 2023 (Reiwa 5) under det syvende møtet i Kabinettkontorets AI-strategiråd i Japan. Deretter ble det offisielt publisert av Ministeriet for Indre Saker og Kommunikasjon og Ministeriet for Økonomi, Handel og Industri den 19. januar 2024, og fra den 20. januar til 19. februar ble det gjennomført en offentlig kommentarrunde. Etter denne prosessen med å samle inn meninger, ble “AI-virksomheters retningslinjer (versjon 1.0)” ferdigstilt og offentliggjort den 19. april samme år.

Betydningen av retningslinjer

I motsetning til EUs AI-reguleringslov, som er etablert som såkalt hard lov, er Japans “Retningslinjer for AI-virksomheter” et eksempel på myk lov og har ingen juridisk bindende kraft. De presenterer grunnleggende prinsipper og retningslinjer for handlinger som AI-virksomheter bør følge. I en tid der utviklingen av AI-teknologi skrider frem, er dette et viktig skritt for å fremme riktig bruk i samfunnet og bygge et pålitelig AI-samfunn. Virksomheter oppfordres til å bruke disse retningslinjene som en referanse for å utvikle sine egne politikker for AI-utvikling og bruk.

Grunnleggende prinsipper for “AI-operatørguiden” under japansk lov

“AI-operatørguiden” er strukturert rundt tre grunnleggende prinsipper for å fremme utviklingen av AI-teknologi og dens passende implementering i samfunnet.

Støtte til virksomheters selvstendige tiltak

Guiden for AI-operatører presenterer en retning for tiltak som bedrifter bør ta basert på en “risikobasert tilnærming”, som varierer tiltakene i henhold til risikoens størrelse og sannsynlighet. Dette prinsippet anbefaler fleksible tiltak tilpasset risikoens innhold og grad, og tar hensyn til at risikoen kan variere betydelig avhengig av bruksområder og egenskapene til AI-modellen. Spesielt siden risikoen for hvert bruksområde ikke nødvendigvis korrelerer med bedriftens størrelse, er det viktig å nøye vurdere risikoens natur.

For høyrisikokategorier vurderes juridisk regulering, mens for lavrisikokategorier kan det være hensiktsmessig å overlate til privat sertifisering eller selvdeklarasjon. En slik tilnærming er viktig for å velge fleksible reguleringsmetoder, slik at man kan unngå overdreven regulering og samtidig oppnå effektiv risikostyring.

Samarbeid med internasjonale diskusjoner

AI-teknologimarkedet strekker seg over landegrensene, og det er viktig for japanske selskaper å sikre overensstemmelse med utenlandske systemer og prinsipper for å opprettholde internasjonal konkurranseevne. De grunnleggende konseptene og prinsippene i denne veiledningen er basert på internasjonale retningslinjer som OECDs AI-prinsipper, og et vedlegg klargjør også forholdet til retningslinjer i andre land.

AI-modeller og -tjenester, inkludert grunnleggende modeller, opererer i et grenseoverskridende marked, og det er derfor viktig for japanske selskaper å sikre interoperabilitet med utenlandske systemer for å være aktive globalt. Videre, hvis det skal etableres noen form for regulering, bør man unngå situasjoner der japanske selskaper alene bærer en tung byrde som svekker deres konkurranseevne, og i stedet sikre et effektivt system som også gjelder for utenlandske selskaper, for å bevare et level playing field for selskaper både innenlands og utenlands.

Forståelighet for leseren

AI-operatørguiden legger vekt på forståelighet for leseren. Det er spesielt karakteristisk at den skiller mellom risikoer og retningslinjer for tiltak for ulike aktører som “AI-utviklere”, “AI-leverandører” og “AI-brukere”.

“Multi-stakeholder” og “Living Document”

I tillegg til disse prinsippene, er det også karakteristisk for AI-operatørguiden at den har tatt i bruk konseptene “multi-stakeholder” og “Living Document”. Det vil si at den er utformet med vekt på effektivitet og legitimitet gjennom gjentatte diskusjoner blant multi-stakeholdere, som inkluderer utdannings- og forskningsinstitusjoner, sivilsamfunnet inkludert forbrukere, og private selskaper. Videre, med tanke på kontinuerlig forbedring av AI-governance, er det planlagt at den skal oppdateres regelmessig som et “Living Document”, med inspirasjon fra tankene bak smidig governance.

Hovedkategorier og anvendelsesområde i “AI-operatørguiden” under japansk lov

En av de viktige egenskapene til “AI-operatørguiden” i Japan er at den skiller mellom ulike aktører basert på deres egenskaper og tydelig angir hva hver av dem bør ta tak i. I denne veiledningen er “AI-utviklere”, “AI-leverandører” og “AI-brukere” blant de aktørene som er omfattet, mens “ikke-forretningsmessige brukere” og “dataleverandører” er ekskludert fra anvendelsesområdet.

Roller og ansvar for AI-utviklere, leverandører og brukere

AI-utviklere refererer til de som er ansvarlige for dataforbehandling, læring og utviklingsprosessen av AI. Dette inkluderer spesifikt forbehandling av innsamlede treningsdata, generering av AI-modeller og verifisering av nytten gjennom prøver. Disse prosessene danner grunnlaget for å sikre AI-ens ytelse og pålitelighet, så utviklere kreves å håndtere data på en passende måte og bygge høykvalitetsmodeller.

AI-leverandører er de som tar seg av implementering og levering av AI-systemer. De integrerer AI-modeller i eksisterende eller nyopprettede systemer, koordinerer dem med andre systemer og tilbyr dem til brukere. De kan også drive med oppmerksomhetsskapende tiltak og operativ støtte for å fremme riktig bruk av AI-systemer, eller direkte operere og tilby AI-tjenester. Dette hjelper brukerne å utnytte AI-systemene på en sikker og effektiv måte.

AI-brukere er de som benytter AI-systemer eller tjenester. Brukere skal operere AI-systemene på en passende måte og nyte godt av dem, basert på advarsler gitt av leverandørene. Samtidig bærer de ansvaret for å fortsette å bruke AI-systemene i tråd med deres designintensjon. På denne måten påvirker brukernes handlinger også AI-systemenes sosiale aksept og pålitelighet.

Aktører som ikke er omfattet av anvendelsesområdet

I motsetning til disse er “dataleverandører” og “ikke-forretningsmessige brukere” ekskludert fra retningslinjenes anvendelsesområde. Dataleverandører har rollen som å tilby treningsdata for AI, og dette inkluderer ikke bare bestemte selskaper eller individer, men også tilfeller der data leveres gjennom sensorer eller systemer. På den annen side refererer ikke-forretningsmessige brukere til de som nyter godt av AI-systemer eller tjenester utenfor forretningsaktiviteter, og som i noen tilfeller kan bli påvirket av AI-baserte beslutninger.

For eksempel, i en AI-tjeneste som bruker jobbsøkerdata, vil “AI-utviklere” være de som utvikler AI-modellen, “AI-leverandører” vil være de som tilbyr tjenesten, og selskaper som bruker tjenesten vil være “AI-brukere”. På den annen side vil tidligere jobbsøkere være “dataleverandører”, og søkere som mottar beslutninger basert på tjenesten vil være “ikke-forretningsmessige brukere”.

Felles retningslinjer i ‘Veiledningen for AI-operatører’ i Japan

I ‘Veiledningen for AI-operatører’ i Japan presenteres det ti felles retningslinjer som alle aktører bør følge, uavhengig av deres egenskaper. Disse retningslinjene er kategorisert i saker som hver aktør bør ta tak i på egen hånd, og saker som krever samarbeid med samfunnet, og er posisjonert som et rammeverk for AI-styring.

De syv punktene aktører bør ta tak i på egen hånd

1. Menneskesentrert: Når man bruker AI, kreves det respekt for individets verdighet og en forståelse av outputtets nøyaktighet og begrensninger, samtidig som man unngår bruk til upassende formål. Det er også nødvendig å være oppmerksom på bruk av AI som kan skape filterbobler som forvrenger informasjon og verdier og begrenser valgmuligheter.
2. Sikkerhet: Det kreves at man utfører risikoanalyser og iverksetter passende tiltak for å sikre at AI-systemer ikke avviker fra deres opprinnelige formål. Det er også viktig å sikre dataenes nøyaktighet og transparens, samt å oppdatere AI-modellene på en passende måte.
3. Rettferdighet: Det er nødvendig å arbeide for at AI-utdata ikke fremmer fordommer eller diskriminering. Det kreves at menneskelig dømmekraft involveres i AI-beslutninger og at man tar hensyn til potensielle skjevheter.
4. Personvern: Det kreves at man refererer til internasjonale standarder for persondatavern og overholder internasjonale retningslinjer og normer for personvern. Det er også viktig å sikre interoperabilitet i grenseoverskridende overføringer av persondata.
5. Sikkerhetsforanstaltninger: Det er nødvendig å opprettholde konfidensialitet, integritet og tilgjengelighet i AI-systemer og å iverksette rimelige tiltak basert på teknologisk nivå. Det kreves også at man forbereder seg på eksterne angrep og holder tritt med de nyeste risikoene.
6. Transparens: Det kreves at AI-systemets læringsprosesser og resonnement kan verifiseres, og at man ved behov kan forklare informasjonen. Det kreves imidlertid ikke at algoritmer eller kildekode avsløres, og personvern og forretningshemmeligheter skal respekteres.
7. Ansvarlighet: Hvis det er feil i AI-utdata, er det nødvendig å akseptere tilbakemeldinger og utføre objektiv overvåkning. Det forventes at man utvikler en tilnærming for å håndtere interessenter og rapporterer regelmessig om fremdriften.

De tre punktene som krever samarbeid med samfunnet

1. Utdanning og leseferdigheter: Det kreves at alle som er involvert i AI får tilstrekkelig AI-leseferdighet gjennom utdanning, og at man fremmer bevissthet om AI’s egenskaper og risiko blant interessenter.
2. Sikring av rettferdig konkurranse: Det kreves at man skaper et miljø der nye virksomheter og tjenester som bruker AI kan konkurrere rettferdig, med mål om bærekraftig økonomisk vekst og løsning av samfunnsutfordringer.
3. Innovasjon: Det fremmes internasjonal mangfoldighet og samarbeid mellom industri, akademia og myndigheter for å sikre interoperabilitet mellom AI-systemer. Hvis det finnes standardspesifikasjoner, anbefales det å følge disse.

Viktigheten av “Agil Styring” og hvordan man praktiserer det i Japan

“AI-operatørguiden” understreker at i oppbyggingen av AI-styring, er det ikke tilstrekkelig å ta en ensartet tilnærming, men heller nødvendig med en fleksibel respons tilpasset hver enkelt bedrifts størrelse og virksomhetstype. I stedet for å etterligne andres tiltak, kreves det at alle nivåer i en organisasjon, fra ledelsen til frontlinjen, gjennomgår prøving og feiling for å utforme og implementere regler som passer for deres egen virksomhet. Nøkkelen i denne prosessen er å praktisere “agil styring”.

Hva er agil styring?

Agil styring refererer til en tilnærming som, i stedet for å sette faste regler på forhånd, kontinuerlig gjennomfører følgende syklus for å kunne respondere fleksibelt på endringer i det eksterne miljøet og risikoer:

• Miljø- og risikoanalyse: Nøyaktig forståelse av det eksterne miljøet og teknologiske risikoer.
• Målsetting: Sette passende mål basert på den nåværende situasjonen.
• Systemdesign: Utforme effektive AI-systemer for å oppnå målene.
• Operasjon: Implementere de designede systemene og bekrefte resultatene.
• Evaluering: Regelmessig evaluere driftsresultatene og gjøre justeringer etter behov.

Ved kontinuerlig å gjennomføre en slik syklus, blir det mulig å respondere raskt og effektivt på det raskt skiftende teknologiske miljøet og markedsutviklingen.

De tre pilarene som støtter agil styring

“Agil styring” viser hvordan styring bør utvikle seg sammen med fremskrittene i AI-teknologi. Bedrifter kreves å tilpasse seg fleksibelt til sin egen forretningsmodell og virksomhetsmiljø, og å arbeide sammen fra ledelsen til frontlinjen. Videre kan etablering av samarbeid mellom aktører og internasjonal risikostyring gjøre AI-styring mer effektiv. Følgende elementer kan sies å være viktige i denne sammenheng:

• Sikre samarbeid mellom flere aktører: AI-teknologi involverer flere aktører fra et perspektiv av verdikjeder og risikokjeder, så det er viktig å klargjøre hver aktørs rolle og ansvar og sikre samarbeid. Dette gjør det mulig å håndtere risikoer på en passende måte på hvert trinn i utviklingen, tilbudet og bruken av AI-systemer.
• Sikre passende dataflyt: For å implementere AI-styring er passende dataflyt avgjørende. Spesielt når man forutsetter dataanvendelse på tvers av flere land, er det nødvendig å opprettholde dataenes gjennomsiktighet og sikkerhet mens man tar hensyn til forskjellige lands reguleringer og krav til risikostyring.
• Engasjement fra ledelsen: For å realisere effektiv AI-styring kreves aktiv deltakelse fra ledelsen. Dette innebærer spesifikt å utarbeide en styringsstrategi, etablere en organisatorisk struktur på tvers av hele selskapet, og fremme dette som en del av bedriftskulturen. Ledelsens engasjement fungerer som en drivkraft for at hele organisasjonen skal arbeide mot samme mål.

Detaljer om AI-styring som bedrifter bør bygge opp, som vist i “AI-operatørguiden”, er ytterligere forklart i følgende artikkel.

Relatert artikkel: Hva innebærer AI-styring for bedrifter? En forklaring basert på ‘AI-operatørguiden'[ja]

Veiledning om tiltak fra vår advokatfirma

Monolith Advokatfirma kombinerer omfattende erfaring innen IT, spesielt internett, og juridisk ekspertise.

AI-virksomhet innebærer mange juridiske risikoer, og støtte fra advokater som er eksperter på juridiske problemer relatert til AI er avgjørende. Vårt firma tilbyr avansert juridisk støtte for AI-virksomheter, inkludert ChatGPT, gjennom et team av AI-kyndige advokater og ingeniører. Vi tilbyr tjenester som kontraktsutforming, vurdering av forretningsmodellers lovlighet, beskyttelse av immaterielle rettigheter og personvernrespons. Detaljer er beskrevet i artikkelen nedenfor.

Monolith Advokatfirmas tjenesteområder: AI (ChatGPT etc.) juridiske tjenester[ja]