Näringsdepartementets 'AI-operatörers riktlinjer' förklaras av advokater

Den av Japans ekonomi- och industriministerium år 2024 (Reiwa 6) sammanställda AI-företagsriktlinjerna (version 1.0)[ja] utgör en viktig vägledning som visar riktningen för AI-governance som företag bör sträva efter. Detta mot bakgrund av den snabba tekniska utvecklingen inom AI och det växande behovet av riskhantering och etiska överväganden i dess samhälleliga implementering. Riktlinjerna syftar till att främja korrekt användning av AI och förbättra det sociala förtroendet, och fungerar som en form av mjuk lagstiftning som inte har någon juridisk bindande kraft, men som klargör roller för varje aktör och betonar en riskbaserad ansats samt överensstämmelse med internationella system.

En distinkt egenskap hos dessa riktlinjer är införandet av ‘agil governance’, en metod som inte är baserad på fasta regler utan snarare anpassar sig flexibelt efter förändringar i omgivningen. Företag som utvecklar, tillhandahåller och använder AI kan genom en kontinuerlig cykel av miljö- och riskanalys, målsättning, drift och utvärdering minska risker och uppnå hållbar teknisk utveckling. Dessutom betonas samarbete mellan flera aktörer, lämplig datacirkulation och aktivt engagemang från ledningen som grundpelare för en effektiv governance.

Publiceringen av Japanska Ministeriet för Ekonomi, Handel och Industris “AI-företagsriktlinjer” och dess bakgrund

I april 2024 publicerade Japans Ministerium för Ekonomi, Handel och Industri “AI-företagsriktlinjer (version 1.0)[ja]“. Dessa riktlinjer har utformats för att stödja utvecklingen och samhällelig implementering av AI-teknik och är positionerade som vägledande principer utan juridisk bindande kraft. De är inte avsedda att ålägga skyldigheter som en lag, utan att presentera grundläggande koncept, principer och riktlinjer som företag kan använda som referens i sin praktik. Riktlinjerna består av en huvuddel som beskriver koncept och principer, samt en bilaga som visar specifika metoder för implementering.

En tankegång grundad på “Principer för en AI-centrerad mänsklig samhällsstruktur”

“Riktlinjer för AI-företag” bygger på “Principer för en AI-centrerad mänsklig samhällsstruktur” som presenterades i mars 2019. Dessa principer lyfter fram den grundläggande idén att människor inte ska användas av AI, utan att människor ska använda AI. Mer specifikt bör AI användas under mänsklig kontroll som ett medel för att utöka mänskliga förmågor och inte leda till en situation där människor blir överdrivet beroende och därmed kontrollerade av AI.

Dessutom bör AI inte bara ses som ett substitut för mänskligt arbete, utan som ett avancerat och bekvämt verktyg som kan förstora människans kreativitet och förmågor. Därför krävs det att användare av AI själva bedömer hur de ska använda tekniken och fattar beslut på ett ansvarsfullt sätt.

Integration och översyn av tidigare riktlinjer

Dessa riktlinjer har utformats genom att integrera och revidera tre tidigare huvudsakliga riktlinjer.

• “Riktlinjer för AI-utveckling” (2017): Förklarar grundläggande principer och punkter att beakta vid AI-utveckling.
• “Riktlinjer för användning av AI” (2019): Presenterar grundläggande principer och deras förklaringar för användning av AI.
• “Governance-riktlinjer för att praktisera AI-principer” (2021): Presenterar konkreta handlingsmål och praktiska exempel för att främja social implementering.

Dessa har använts som riktlinjer som AI-operatörer bör följa. I de nuvarande “Riktlinjerna för AI-operatörer” har dessa integrerats och innehållet har tagit hänsyn till internationella trender och framväxten av ny teknik.

Utformningsprocessen och bakgrunden till offentliggörandet

“Utkastet till riktlinjer för AI-företag” lades först fram vid det sjunde mötet i Kabinettskontorets AI-strategiråd den 21 december 2023. Därefter offentliggjordes dokumentet officiellt av Ministeriet för allmänna affärer och Ministeriet för ekonomi, handel och industri den 19 januari 2024, och den följande dagen, den 20 januari, inleddes en period för offentliga kommentarer som varade fram till den 19 februari. Efter denna process för att samla in synpunkter, färdigställdes och offentliggjordes “Riktlinjer för AI-företag (version 1.0)” den 19 april samma år.

Betydelsen av riktlinjer

Till skillnad från EU, där AI-regleringen har införts som så kallad hård lagstiftning, är Japans “Riktlinjer för AI-företag” ett exempel på så kallad mjuk lagstiftning. De har ingen juridisk bindande kraft utan presenterar grundläggande principer och riktlinjer för beteende som AI-företag bör följa. I takt med att AI-tekniken utvecklas, utgör dessa riktlinjer ett viktigt steg för att främja lämplig användning i samhället och bygga upp ett pålitligt AI-samhälle. Företag uppmanas att använda dessa riktlinjer som en referens för att utforma sina egna policyer för AI-utveckling och användning.

Grundläggande principer för “AI-företagsriktlinjer” under japansk lag

“AI-företagsriktlinjer” i Japan är uppbyggda kring tre grundläggande principer för att främja utvecklingen av AI-teknik och dess lämpliga implementering i samhället.

Stöd för företags egna initiativ

De japanska “AI-företagsriktlinjerna” presenterar en riktning för de åtgärder som företag bör vidta baserat på en “riskbaserad ansats”, där åtgärderna anpassas efter riskens storlek och sannolikhet. Detta är en tankegång som rekommenderar flexibla åtgärder anpassade efter riskens natur och omfattning, med utgångspunkt i att riskerna varierar kraftigt beroende på användningsfall och AI-modellens egenskaper. Speciellt eftersom riskerna för varje användningsfall inte nödvändigtvis överensstämmer med företagets storlek, är det viktigt att noggrant utvärdera riskens karaktär.

För typer av högrisk bör lagstiftning övervägas, medan för lågrisktyper kan flexibla regleringsmetoder som privat certifiering eller självdeklaration vara lämpliga. En sådan ansats möjliggör effektiv riskhantering samtidigt som man undviker överreglering.

Samordning med internationella diskussioner

AI-teknikens marknad sträcker sig över gränserna, och för att japanska företag ska bibehålla sin internationella konkurrenskraft är det viktigt att säkerställa överensstämmelse med utländska system och principer. De grundläggande koncepten och principerna i dessa riktlinjer är baserade på internationella riktlinjer som OECD:s AI-principer, och i bilagor klargörs även relationen till andra länders riktlinjer.

Eftersom AI-modeller och tjänster, inklusive grundmodeller, är en gränsöverskridande marknad, är det viktigt för japanska företag att säkerställa interoperabilitet med utländska system för att vara aktiva globalt. Dessutom bör man, om någon form av reglering införs, undvika situationer där japanska företag ensamma bär en tung börda som minskar deras konkurrenskraft och istället säkerställa att systemet är effektivt även för utländska företag, för att bevara en jämn spelplan för företag både inom och utanför Japan.

Lättförståelighet för läsaren

De japanska “AI-företagsriktlinjerna” betonar lättförståelighet för läsaren. Detta återspeglas särskilt i hur riktlinjerna skiljer på risker och åtgärdsstrategier som bör beaktas av olika aktörer såsom “AI-utvecklare”, “AI-leverantörer” och “AI-användare”.

“Multi-stakeholder” och “Living Document”

Dessutom är användningen av koncepten “multi-stakeholder” och “Living Document” också kännetecknande för de japanska “AI-företagsriktlinjerna”. Det vill säga, riktlinjerna har utformats med fokus på effektivitet och legitimitet genom att diskuteras av en mångfald av intressenter, inklusive utbildnings- och forskningsinstitutioner, civilsamhället inklusive konsumenter, och privata företag. Och som ett “Living Document” är det tänkt att de ska uppdateras regelbundet för att kontinuerligt förbättra AI-styrningen, med inspiration från tanken på agil styrning.

Riktlinjer för AI-operatörer: Distinktion av aktörer och tillämpningsområde under japansk lag

En av de viktiga egenskaperna hos “Riktlinjer för AI-operatörer” är att de klart definierar vilka aktörer som omfattas av riktlinjerna, baserat på deras attribut, och tydligt anger vad varje aktör bör åta sig. I dessa riktlinjer klassificeras “AI-utvecklare”, “AI-leverantörer” och “AI-användare” som tillämpliga aktörer, medan “icke-affärsanvändare” och “dataleverantörer” inte omfattas.

Roller och ansvar för AI-utvecklare, leverantörer och användare

AI-utvecklare refererar till de aktörer som ansvarar för dataförbehandling, inlärning och utvecklingsprocessen för AI. Detta inkluderar de som utför förbehandling av insamlade träningsdata, skapande av AI-modeller och verifiering av användbarheten genom tester. Dessa processer är grunden för att säkerställa AI:s prestanda och tillförlitlighet, vilket kräver att utvecklarna hanterar data på ett lämpligt sätt och bygger högkvalitativa modeller.

AI-leverantörer är de aktörer som ansvarar för implementering och tillhandahållande av AI-system. De integrerar AI-modeller i befintliga eller nya system, samordnar dem med andra system och tillhandahåller dem till användarna. De kan också engagera sig i att främja korrekt användning av AI-system genom att väcka uppmärksamhet och ge operativt stöd, eller direkt driva och tillhandahålla AI-tjänster. På så sätt stöder de användarna att säkert och effektivt utnyttja AI-systemen.

AI-användare är de aktörer som använder AI-system eller tjänster. Användarna ska, med hänsyn till de varningar som leverantörerna har gett, korrekt driva AI-systemen och dra nytta av dem. Samtidigt bär de ansvaret för att fortsätta använda AI-systemen i enlighet med deras designintentioner. På detta sätt påverkar användarnas beteende även AI-systemens sociala acceptans och tillförlitlighet.

Aktörer som inte omfattas av tillämpningen

I motsats till dessa aktörer omfattas inte “dataleverantörer” och “icke-affärsanvändare” av riktlinjerna. Dataleverantörer har rollen att tillhandahålla träningsdata för AI och inkluderar inte bara specifika juridiska personer eller individer, utan även de som levererar data genom sensorer eller system. Å andra sidan refererar icke-affärsanvändare till de aktörer som åtnjuter fördelarna med AI-system eller tjänster utanför affärsverksamhet och som ibland kan påverkas av AI-baserade beslut.

Till exempel, i en AI-tjänst som använder jobbsökardata, blir “AI-utvecklare” de som utvecklar AI-modellen, “AI-leverantörer” de som tillhandahåller tjänsten och företagen som använder tjänsten blir “AI-användare”. Å andra sidan, tidigare jobbsökare skulle vara “dataleverantörer” och de sökande som påverkas av tjänstens beslut skulle vara “icke-affärsanvändare”.

Gemensamma riktlinjer i ‘AI-operatörsguiden’ under japansk lag

I ‘AI-operatörsguiden’ presenteras tio gemensamma riktlinjer som alla aktörer bör följa, oavsett deras egenskaper. Dessa riktlinjer är indelade i åtgärder som varje aktör bör vidta på egen hand och åtgärder som bör vidtas i samarbete med samhället, och de utgör en ram för AI-governance.

De sju punkterna som aktörerna bör ta itu med på egen hand

1. Människocentrerad: När AI används krävs det att man respekterar individens värdighet och förstår outputens noggrannhet och begränsningar, samtidigt som man undviker att använda den för olämpliga ändamål. Det är också viktigt att vara uppmärksam på användningen av AI som kan snedvrida information och värderingar och begränsa valmöjligheter, som i filterbubblor.
2. Säkerhet: Genom att genomföra riskanalyser och vidta lämpliga åtgärder krävs det att man hanterar AI-system så att de inte avviker från deras ursprungliga användningsändamål. Det är också viktigt att säkerställa datakorrekthet och transparens samt att uppdatera AI-modeller på rätt sätt.
3. Rättvisa: Det är nödvändigt att sträva efter att AI:s output inte främjar fördomar eller diskriminering. Det krävs att mänskligt omdöme ingår i AI:s beslutsprocess och att man är uppmärksam på potentiella bias.
4. Integritetsskydd: Det krävs att man följer internationella standarder för skydd av personuppgifter och internationella riktlinjer och normer för integritet. Det är också viktigt att säkerställa interoperabilitet vid gränsöverskridande överföring av personuppgifter.
5. Säkerhetsåtgärder: Det är nödvändigt att upprätthålla AI-systemens konfidentialitet, integritet och tillgänglighet och att vidta rimliga åtgärder baserade på teknisk standard. Det inkluderar att vara förberedd på externa attacker och att hålla sig uppdaterad med de senaste riskerna.
6. Transparens: AI-systemens inlärningsprocesser och resonemang bör vara verifierbara och informationen bör kunna förklaras vid behov. Dock krävs inte att algoritmer eller källkod avslöjas, och integritet och affärshemligheter ska respekteras.
7. Ansvarighet: Om det finns fel i AI:s output är det nödvändigt att acceptera kritik och genomföra objektiv övervakning. Det förväntas att man utvecklar en policy för att hantera intressenter och regelbundet rapporterar om framsteg.

De tre punkterna som bör tas itu med i samarbete med samhället

1. Utbildning och läskunnighet: Det krävs att alla som är involverade i AI får tillräcklig AI-läskunnighet genom utbildning och att man främjar medvetenhet om AI:s egenskaper och risker bland intressenter.
2. Främjande av rättvis konkurrens: Det krävs att man skapar en miljö där nya affärer och tjänster som använder AI kan tävla på ett rättvist sätt, och att man strävar efter hållbar ekonomisk tillväxt och lösningar på samhällsproblem.
3. Innovation: Det främjas internationell mångfald och samarbete mellan industri, akademi och regering, och man säkerställer interoperabilitet mellan AI-system. Om det finns standardiserade specifikationer rekommenderas det att följa dessa.

Vikten av “Agil styrning” och hur man tillämpar den

“Riktlinjerna för AI-operatörer” i Japan betonar att när man bygger upp AI-styrning bör man inte anta en enhetlig strategi, utan snarare anpassa sig flexibelt efter varje företags storlek och affärsinnehåll. Istället för att bara kopiera andra företags initiativ, krävs det att allt från ledningen till fältarbetarna experimenterar och utvecklar regler som passar just deras företag och implementerar dessa. Nyckeln i denna process är att praktisera “agil styrning”.

Vad är agil styrning?

Agil styrning är en metod som inte fastställer stela regler i förväg, utan snarare innebär att man kontinuerligt driver en cykel av följande steg för att flexibelt kunna hantera förändringar i den yttre miljön och risker:

• Miljö- och riskanalys: Att korrekt förstå den yttre miljön och tekniska risker.
• Målsättning: Att sätta lämpliga mål utifrån den aktuella situationen.
• Systemdesign: Att designa effektiva AI-system för att uppnå målen.
• Drift: Att operativt genomföra de designade systemen och verifiera resultaten.
• Utvärdering: Att regelbundet utvärdera driftresultaten och göra justeringar vid behov.

Genom att kontinuerligt driva denna cykel blir det möjligt att snabbt och effektivt hantera den snabba förändringen inom teknikmiljön och marknadstrender.

De tre pelarna som stödjer agil styrning

“Agil styrning” visar på hur styrningen bör utvecklas i takt med framstegen inom AI-tekniken. Företag krävs att flexibelt anpassa sig efter sin affärsmodell och affärsmiljö, och att ledningen och personalen arbetar tillsammans i denna strävan. Dessutom kan AI-styrning göras mer effektiv genom att etablera samarbete mellan olika aktörer och internationell riskhantering. Följande element kan sägas vara viktiga i detta sammanhang:

• Säkerställande av samarbete mellan flera aktörer: Eftersom AI-teknik involverar flera aktörer från ett värdekedje- och riskkedjeperspektiv, är det viktigt att klargöra varje parts roll och ansvar och säkerställa samarbete. Detta gör det möjligt att hantera risker på ett lämpligt sätt i alla skeden av AI-systemets utveckling, tillhandahållande och användning.
• Säkerställande av lämplig datacirkulation: För att genomföra AI-styrning är det nödvändigt med en lämplig datacirkulation. Speciellt när man överväger datanvändning över flera länder, är det nödvändigt att upprätthålla datans transparens och säkerhet med hänsyn till olika länders regleringar och riskhanteringskrav.
• Engagemang från ledningen: För att uppnå effektiv AI-styrning krävs ett aktivt deltagande från ledningen. Detta innebär konkret att utforma en styrningsstrategi, organisera hela organisationen och se till att det genomsyrar företagskulturen. Ledningens engagemang är den drivkraft som får hela organisationen att sträva mot samma mål.

För mer detaljerad information om AI-styrning som företag bör bygga upp enligt “Riktlinjerna för AI-operatörer” i Japan, se följande artikel.

Relaterad artikel: Vilken AI-styrning bör företag engagera sig i? Förklaring av punkter baserade på ‘Riktlinjerna för AI-operatörer'[ja]

Vår byrås åtgärder

Monolith Advokatbyrå är en juridisk firma med omfattande erfarenhet inom IT, särskilt internet och juridik.

AI-verksamhet medför många juridiska risker och det är avgörande att ha stöd från advokater som är experter på juridiska frågor relaterade till AI. Vår byrå erbjuder avancerat juridiskt stöd genom ett team av AI-kunniga advokater och ingenjörer, inklusive kontraktsskrivning, laglighetsbedömning av affärsmodeller, skydd av immateriella rättigheter och hantering av integritetsfrågor för AI-verksamheter som ChatGPT. Följande artikel ger mer detaljerad information.

Monolith Advokatbyrås expertisområden: AI-juridik (inklusive ChatGPT m.fl.)[ja]