Mitä on AI-governanssi, johon yritysten tulisi keskittyä? Selitys AI-toimijoiden ohjeistuksen perusteella.

19. huhtikuuta 2024 (Reiwa 6) Japanin sisäasiainministeriö ja talous-, kauppa- ja teollisuusministeriö julkaisivat “AI-toimijoiden ohjeistuksen”. Tämän julkaisun tarkoituksena on edistää tekoälyn turvallista käyttöä ja nopeuttaa tekoälyn yhteiskunnallista käyttöönottoa. Ohjeistus on suunnattu tekoälyn kehittäjille, tarjoajille ja käyttäjille sekä julkisille laitoksille, koulutusorganisaatioille ja NPO-/NGO-järjestöille.

“AI-toimijoiden ohjeistuksessa” korostetaan AI-governance-rakenteen luomisen tärkeyttä kehittäjille, tarjoajille ja käyttäjille. Mutta mitä toimenpiteitä yritysten tulisi toteuttaa AI-governance-rakenteen luomiseksi?

Tässä artikkelissa käsitellään Japanin “AI-toimijoiden ohjeistuksen” pohjalta yritysten toteutettavaksi suositeltavia AI-governance-rakenteen keskeisiä kohtia.

Mikä on Japanin AI-toimijoiden ohjeistus?

Japanin AI-toimijoiden ohjeistus on vuonna (2024) Japanin sisäasiainministeriön ja talous-, kauppa- ja teollisuusministeriön yhteistyössä laatima asiakirja, jonka tarkoituksena on edistää AI:n turvallista ja luotettavaa käyttöä tarjoamalla yhtenäiset suuntaviivat AI-governanceen Japanissa.

Viite: AI-toimijoiden ohjeistus (versio 1.0) | Japanin talous-, kauppa- ja teollisuusministeriö[ja]

Ohjeistus on laadittu yhdistämällä ja tarkistamalla aiemmin luodut “AI-kehityksen ohjeistus”, “AI:n hyödyntämisen ohjeistus” ja “AI-periaatteiden toteuttamisen hallintaa koskevat ohjeistukset”. Se on suunniteltu tarjoamaan AI:n käyttäjille selkeät suuntaviivat turvallisen ja luotettavan AI:n käytön varmistamiseksi.

Lisätietoja Japanin AI-toimijoiden ohjeistuksesta löytyy artikkelista “Japanin talous-, kauppa- ja teollisuusministeriön ‘AI-toimijoiden ohjeistus’ selitettynä asianajajan toimesta”, joka on suositeltavaa lukea.

Liittyvä artikkeli: Japanin talous-, kauppa- ja teollisuusministeriön ‘AI-toimijoiden ohjeistus’ selitettynä asianajajan toimesta[ja]

Mikä on AI-governanssi?

AI-governanssi tarkoittaa Japanissa AI-toimijoiden ohjeistuksen mukaan “AI:n hyödyntämisestä aiheutuvien riskien hallintaa sellaisella tasolla, joka on sidosryhmille hyväksyttävä, samalla kun maksimoidaan siitä saatava positiivinen vaikutus (hyöty)”. Tämä määritellään teknisen, organisatorisen ja sosiaalisen järjestelmän suunnitteluna ja toimintana, joka toteutetaan sidosryhmien toimesta.

Lisäksi AI-governanssista AI-toimijoiden ohjeistuksessa todetaan, että “AI:n riskien hallinta sidosryhmille hyväksyttävällä tasolla ja siitä saatavan hyödyn maksimointi vaatii AI-governanssin rakentamista, jotta AI:ta voidaan käyttää turvallisesti ja luottavaisesti. Tämä edellyttää yhteistyötä eri toimijoiden välillä ja yhteisten suuntaviivojen noudattamista koko arvoketjussa”.

Toisin sanoen, AI-governanssin rakentaminen on tärkeää kaikille AI:n kehittämiseen, tarjoamiseen ja käyttämiseen osallistuville tahoille.

Mikä on “ketterän hallinnan” käytäntö AI-governance-rakenteen luomisessa?

AI-governancen rakentamisessa tärkeänä pidetään “ketterän hallinnan” käytäntöjen toteuttamista.

Ketterä hallinta tarkoittaa, että sen sijaan että asetettaisiin etukäteen kiinteitä sääntöjä, pyritään joustavasti vastaamaan ulkoisen ympäristön ja riskien muutoksiin. Tämä lähestymistapa käsittää “ympäristö- ja riskianalyysin”, “tavoitteiden asettamisen”, “järjestelmäsuunnittelun”, “toiminnan” ja “arvioinnin” jatkuvan syklin.

AI-liiketoiminnassa tavoitteet muuttuvat nopeasti ja ovat monimutkaisia, joten myös tavoitteet muuttuvat jatkuvasti.

Siksi AI-governancen rakentamisessa ei ole kyse sääntöjen tai menettelyjen kiinnittämisestä etukäteen, vaan tarvitaan joustavaa vastausta, joka on räätälöity kunkin yrityksen koon ja liiketoiminnan luonteen mukaan. Tästä syystä AI-toimijoiden ohjeistuksessa suositellaan governancen rakentamista ketterän hallinnan menetelmien avulla.

Ketterä tarkoittaa englanniksi “nopeaa” tai “ketterää”.

Ketterän hallinnan toteuttamista AI-toimijoiden ohjeistuksen mukaan kuvataan seuraavasti:

1. Suoritetaan “ympäristö- ja riskianalyysi”, joka analysoi ulkoisen ympäristön muutoksia, kuten AI-järjestelmien ja -palveluiden yhteiskunnallista hyväksyntää, sekä AI-järjestelmien ja -palveluiden käytön hyötyjä ja riskejä.
2. Päätetään, kehitetäänkö, tarjotaanko ja käytetäänkö AI-järjestelmiä ja -palveluita, ja jos päätetään tehdä niin, asetetaan “tavoitteet”.
3. Suunnitellaan “AI-hallintajärjestelmä” AI-governancen tavoitteiden saavuttamiseksi ja toteutetaan sen “toiminta”. Tässä yhteydessä yritysten tulee varmistaa läpinäkyvyys ja vastuullisuus (kuten oikeudenmukaisuus) ulkoisille sidosryhmille AI-governancen tavoitteiden ja niiden toiminnan suhteen.
4. Seurataan jatkuvasti AI-hallintajärjestelmän toimivuutta ja suoritetaan “arviointi”.
5. AI-järjestelmien ja -palveluiden käyttöönoton jälkeenkin otetaan huomioon ulkoisen ympäristön muutokset ja suoritetaan uudelleen “ympäristö- ja riskianalyysi”, ja tarvittaessa tarkistetaan tavoitteet.

Nämä kohdat 1–5 toteutetaan AI-toimijoiden ohjeistuksen liitteenä olevien konkreettisten toimintatavoitteiden mukaisesti, joten tarkastellaan kunkin kohdan yksityiskohtia AI-toimijoiden ohjeistuksen liitteestä[ja].

Toimintatavoitteet agile governance -käytäntöjen toteuttamiseksi

Tarkastellaan toimintatavoitteita agile governance -käytäntöjen toteuttamiseksi, pohjautuen Japanin tekoälyliiketoiminnan ohjeistuksen liitteeseen.

Ympäristö- ja riskianalyysi Japanissa

Japanissa agile governance -mallin mukaisen “ympäristö- ja riskianalyysin” toteuttamisen käytännön tavoitteet on määritelty AI-yritysten ohjeistuksen liitteessä seuraavasti:

• Hyötyjen ja riskien ymmärtäminen
• AI:n yhteiskunnallisen hyväksynnän ymmärtäminen
• Oman yrityksen AI-osaamisen tason ymmärtäminen

Hyötyjen ja riskien ymmärtäminen

“Ympäristö- ja riskianalyysin” toteuttamisen toimintatavoitteista ensimmäinen on “hyötyjen ja riskien ymmärtäminen”.

AI-toimijoiden ohjeistuksen liitteessä selitetään seuraavasti:

Toimintatavoite 1-1【Hyötyjen/riskien ymmärtäminen】

Kaikkien toimijoiden tulee johtoryhmän johdolla selkeyttää AI:n kehittämisen, tarjoamisen ja käytön tarkoitus. Sen jälkeen tulee ymmärtää konkreettisesti, mitä hyötyjä AI tarjoaa, mutta myös tunnistaa mahdolliset tahattomat riskit oman liiketoiminnan näkökulmasta. Nämä tiedot tulee raportoida johtoryhmälle, jakaa tiedot heidän kanssaan ja päivittää ymmärrystä tarpeen mukaan.

Lähde: AI-toimijoiden ohjeistuksen liite

Erityisesti seuraavat kohdat ovat tärkeitä:

• AI:n kehittämisen, tarjoamisen ja käytön tavoitteiden selkeä määrittely liiketoiminnan arvonluonnin ja yhteiskunnallisten haasteiden ratkaisemisen kannalta
• Oman yrityksen liiketoimintaan liittyvien hyötyjen ja riskien konkreettinen ymmärtäminen
• Huomioon otettavat “riskit” ja usean toimijan väliset kysymykset, hyötyjen varmistaminen ja riskien vähentäminen koko arvo-/riskiketjussa
• Raportointi- ja jakamisjärjestelmän nopea rakentaminen johtoryhmälle

Ymmärrys AI:n yhteiskunnallisesta hyväksynnästä

Toinen toimintatavoite “ympäristö- ja riskianalyysin” toteuttamiseksi on “AI:n yhteiskunnallisen hyväksynnän ymmärtäminen”.

AI-toimijoiden ohjeistuksen liitteessä selitetään seuraavasti:

Toimintatavoite 1-2【AI:n yhteiskunnallisen hyväksynnän ymmärtäminen】

Toimijoiden odotetaan ymmärtävän AI:n yhteiskunnallisen hyväksynnän nykytilan johtoportaan johtajuuden alaisuudessa ennen AI:n täysimittaisen kehittämisen, tarjoamisen ja käytön aloittamista, perustuen sidosryhmien mielipiteisiin. Lisäksi, AI-järjestelmien ja -palveluiden täysimittaisen kehittämisen, tarjoamisen ja käytön jälkeenkin odotetaan, että ulkoisen ympäristön muutokset huomioiden, sidosryhmien mielipiteet tarkistetaan tarvittaessa ajoittain uudelleen.

Lähde: AI-toimijoiden ohjeistuksen liite

Toimeenpanon kannalta keskeiset kohdat ovat seuraavat:

• Sidosryhmien tunnistaminen
• Sidosryhmien kanssa työskentely yhteiskunnallisen hyväksynnän ymmärtämiseksi ja AI:n kehittäminen, tarjoaminen ja käyttö
• AI-järjestelmien ja -palveluiden tarjoamisen aloittamisen jälkeenkin otetaan huomioon nopeasti muuttuva ulkoinen ympäristö ja tarvittaessa tarkistetaan sidosryhmien mielipiteet ajoittain uudelleen

Ymmärrys omasta AI-osaamistasosta

Kolmas toimintatavoite “ympäristö- ja riskianalyysin” toteuttamiseksi on “ymmärrys omasta AI-osaamistasosta”.

AI-toimijoiden ohjeistuksen liitteessä selitetään seuraavasti:

Toimintatavoite 1-3【Ymmärrys omasta AI-osaamistasosta】

Organisaatioiden on johdon johtajuuden alaisuudessa, toimintatavoitteiden 1-1 ja 1-2 toteuttamisen pohjalta, arvioitava omaa AI-osaamistasoaan. Tämä tehdään ottamalla huomioon AI:n käyttötarkoitukset, yrityksen toimiala ja koko sekä muut seikat, ja mikäli riskit arvioidaan vähäisiksi, voidaan osaamistason arviointi jättää tekemättä. Arvioinnissa tulee huomioida yrityksen kokemus AI-järjestelmien ja -palveluiden kehittämisessä, tarjoamisessa ja käytössä, mukaan lukien insinöörien ja muiden työntekijöiden lukumäärä ja kokemus, sekä kyseisten työntekijöiden AI-teknologian ja eettisten kysymysten ymmärrys. Osaamistasoa tulee arvioida säännöllisesti uudelleen ja tulokset tulisi mahdollisuuksien mukaan julkistaa sidosryhmille kohtuullisessa laajuudessa. Mikäli riskit arvioidaan vähäisiksi eikä osaamistason arviointia katsota tarpeelliseksi, on odotettavissa, että päätös ja sen perustelut julkistetaan sidosryhmille.

Lähde: AI-toimijoiden ohjeistuksen liite

Toiminnan toteuttamisen kannalta keskeiset kohdat ovat seuraavat:

• Arvioi AI-osaamistason arvioinnin tarpeellisuus ottaen huomioon organisaation toimiala ja koko
• Mikäli AI-osaamistason arviointi katsotaan tarpeelliseksi, visualisoi AI-riskien hallintakyky ja arvioi osaamistasoa
• Jos AI-osaamistason arviointia ei katsota tarpeelliseksi, julkaise mahdollisuuksien mukaan päätös ja sen perustelut sidosryhmille kohtuullisessa laajuudessa

Tavoitteiden asettaminen

Agile Governance -mallin “tavoitteiden asettamisen” toteuttamiseksi AI-yritysten ohjeistuksen liitteessä on esitetty seuraavat toimintatavoitteet.

Toimintatavoite 2-1【AI-governance-tavoitteiden asettaminen】

Kukin toimija harkitsee johtoryhmän johtajuuden alaisena AI-järjestelmien ja -palveluiden mahdollisesti tuomia hyötyjä/riskejä, AI-järjestelmien ja -palveluiden kehittämisen, tarjoamisen ja käytön yhteiskunnallista hyväksyntää sekä oman yrityksen AI-osaamisen tasoa samalla kun kiinnittää huomiota AI-governance-tavoitteiden asettamisprosessin merkitykseen ja asettaa omat AI-governance-tavoitteensa (esimerkiksi AI-politiikan) tai päättää olla asettamatta niitä. Lisäksi odotetaan, että asetetut tavoitteet julkaistaan sidosryhmille. Jos päätetään olla asettamatta AI-governance-tavoitteita, koska potentiaaliset riskit ovat vähäisiä, odotetaan, että tämä päätös ja sen perustelut julkaistaan sidosryhmille. Jos katsotaan, että tämän ohjeistuksen “yhteiset suuntaviivat” toimivat riittävän hyvin, voi yritys käyttää näitä “yhteisiä suuntaviivoja” omien AI-governance-tavoitteidensa sijaan.

Vaikka tavoitteita ei asetettaisikaan, odotetaan, että yritys ymmärtää tämän ohjeistuksen merkityksen ja toteuttaa tarvittaessa toimintatavoitteet 3–5.

Lähde: AI-yritysten ohjeistuksen liite

Toteutuksen kannalta keskeiset kohdat ovat seuraavat:

• Harkitse kunkin toimijan “AI-governance-tavoitteiden” asettamista
• Jos tavoitteiden asettaminen katsotaan tarpeelliseksi, aseta tavoitteet
• Jos tavoitteiden asettaminen ei ole tarpeellista, julkaise mahdollisuuksien mukaan tämä päätös ja sen perustelut sidosryhmille kohtuullisessa laajuudessa.

Järjestelmäsuunnittelu (AI-hallintajärjestelmän rakentaminen) Japanissa

Agile Governance -järjestelmäsuunnittelun (AI-hallintajärjestelmän rakentaminen) toteuttamiseksi asetetut toimintatavoitteet ovat seuraavat neljä, jotka on lueteltu Japanin AI-yritysten ohjeistuksen liitteessä:

• Tavoitteiden ja poikkeamien arvioinnin sekä poikkeamiin reagoinnin pakollisuus
• AI-hallinnan henkilöstön lukutaidon parantaminen
• Erilaisten toimijoiden ja osastojen välisen yhteistyön vahvistaminen AI-hallinnassa
• Käyttäjien tapahtumiin liittyvän taakan vähentäminen ennaltaehkäisyn ja varhaisen puuttumisen avulla

Tavoitteiden ja poikkeamien arviointi sekä poikkeamien käsittelyn välttämättömyys

Yhtenä toimintatavoitteena “Järjestelmäsuunnittelussa (AI-hallintajärjestelmän rakentamisessa)” on “Tavoitteiden ja poikkeamien arviointi sekä poikkeamien käsittelyn välttämättömyys”.

Japanin AI-toimijoiden ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 3-1【Tavoitteiden ja poikkeamien arviointi, sekä poikkeamien käsittelyn välttämättömyys】

Kaikkien osapuolten odotetaan johtoryhmän johdolla tunnistavan AI:n hallintatavoitteista poikkeavat kohdat, arvioivan poikkeamista aiheutuvat vaikutukset ja riskien ilmetessä harkitsevan niiden suuruutta, laajuutta ja esiintymistiheyttä sekä päättävän niiden hyväksyttävyydestä. Mikäli hyväksyttävyyttä ei katsota järkeväksi, on AI:n kehittämisen, tarjoamisen ja käytön menetelmiä tarkasteltava uudelleen. Tämä prosessi tulisi sisällyttää AI-hallintajärjestelmän kokonaisuuteen ja AI-järjestelmien sekä palveluiden suunnittelu-, kehitys- ja käyttövaiheisiin. Johtoryhmän on laadittava periaatteet uudelleenarvioinnin prosessille ja operatiivisen tason on konkretisoitava nämä prosessit. On tärkeää, että AI:n hallintatavoitteiden poikkeamien arvioinnissa osallistuu myös henkilöitä, jotka eivät ole suoraan mukana AI:n kehittämisessä, tarjoamisessa tai käytössä. On kuitenkin huomioitava, että pelkkä poikkeama ei ole peruste AI:n kehittämisen, tarjoamisen tai käytön mielivaltaiselle kieltämiselle. Siksi poikkeamien arviointi on askel riskien arvioinnissa ja toimii ainoastaan parannusten käynnistäjänä.

Lähde: AI-toimijoiden ohjeistuksen liite

Käytännön toteutuksen kannalta keskeiset kohdat ovat seuraavat:

• Tunnista ja arvioi, kuinka paljon nykyiset AI-järjestelmät ja palvelut sekä “AI-hallintatavoitteet” poikkeavat toisistaan
• Mikäli AI-järjestelmien ja palveluiden käytöstä tunnistetaan riskejä, päätä niiden hyväksyttävyydestä
• Jos hyväksyttävyyttä ei katsota järkeväksi, tarkastele uudelleen kehityksen, tarjoamisen ja käytön menetelmiä ja sisällytä uudelleenarvioinnin prosessi kehityksen, tarjoamisen ja käytön asianmukaisiin vaiheisiin sekä päätöksentekoprosesseihin organisaation sisällä
• Johtoryhmän tulee ottaa johtajuus näissä toimissa, kantaa vastuu päätöksistä ja varmistaa, että operatiivinen taso konkretisoi ja toteuttaa näitä jatkuvasti
• Jotta organisaation sisällä syntyisi ymmärrystä, on tärkeää jakaa päätetyt poikkeamien arviointikohdat kaikkien osapuolten kesken

AI-hallinnan henkilöstön osaamisen kehittäminen

Toinen tavoite, joka on mainittu “Järjestelmäsuunnittelussa (AI-hallintajärjestelmän rakentamisessa)”, on “AI-hallinnan henkilöstön osaamisen kehittäminen”.

Japanin AI-palveluntarjoajien ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 3-2【AI-hallintajärjestelmän henkilöstön osaamisen kehittäminen】

Kunkin toimijan odotetaan johtoryhmän johdolla strategisesti kehittävän AI-osaamistaan, jotta AI-hallintajärjestelmä toimisi asianmukaisesti. Tämä voi tarkoittaa esimerkiksi ulkopuolisten oppimateriaalien hyödyntämistä. Esimerkiksi henkilöstölle, joka vastaa AI-järjestelmien ja -palveluiden laillisista ja eettisistä näkökohdista, kuten hallituksen jäsenille, johtotiimille ja vastuuhenkilöille, voidaan tarjota koulutusta AI:n eettisyydestä ja luotettavuudesta. AI-järjestelmien ja -palveluiden kehittämis-, tarjoamis- ja käyttöprojekteissa työskenteleville voidaan järjestää koulutusta paitsi AI:n eettisyydestä myös AI-teknologiasta, mukaan lukien generatiivinen AI. Kaikille työntekijöille voidaan tarjota koulutusta AI-hallintajärjestelmän asemasta ja merkityksestä.

Lähde: Japanin AI-palveluntarjoajien ohjeistuksen liite

Käytännön vinkkejä ovat seuraavat:

• Käytä tehtävään ja vastuuseen sopivia koulutuksia ja oppimateriaaleja AI-osaamisen kehittämiseen
• Hyödynnä kunkin toimijan rooliin sopivia koulutuksia ja oppimateriaaleja
• Keksi keinoja, kuten kaikkien työntekijöiden kouluttaminen erityisen tärkeässä AI:n eettisyydessä

Yhteistyö eri toimijoiden ja osastojen välillä AI-johtamisen vahvistamiseksi

Kolmas toimintatavoite “Järjestelmäsuunnittelussa (AI-johtamisjärjestelmän rakentamisessa)” on “Yhteistyö eri toimijoiden ja osastojen välillä AI-johtamisen vahvistamiseksi”.

Japanin AI-toimijoiden ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 3-3【Yhteistyö eri toimijoiden ja osastojen välillä AI-johtamisen vahvistamiseksi】

Toimijoiden tulee, paitsi silloin kun he hoitavat kaikki tehtävät oppimiseen käytettävän datan valmistelusta AI-järjestelmien ja -palveluiden kehittämiseen, tarjoamiseen ja käyttöön omassa osastossaan, johtoportaan johtajuuden alaisuudessa ja liikesalaisuuksia kunnioittaen tehdä selväksi, mitkä AI-järjestelmien ja -palveluiden operatiiviset haasteet eivät ole ratkaistavissa yksin ja mitä tietoja niiden ratkaisemiseen tarvitaan. On odotettavaa, että tietoja jaetaan reilun kilpailun puitteissa mahdollisuuksien ja järkevyyden rajoissa. Tässä yhteydessä odotetaan, että toimijat sopivat etukäteen tiedon jakamisen laajuudesta ja harkitsevat salassapitosopimusten tekemistä, jotta tarvittava tiedonvaihto sujuisi ongelmitta.

Lähde: AI-toimijoiden ohjeistuksen liite

Käytännön toteutuksen kannalta seuraavat kohdat ovat tärkeitä:

• Identifioi ne operatiiviset haasteet ja tarvittavat tiedot AI-järjestelmien ja -palveluiden käytössä, joita ei voida ratkaista yksin.
• Jaa tietoja toimijoiden välillä, ottaen huomioon immateriaalioikeudet ja yksityisyyden, mahdollisuuksien ja järkevyyden rajoissa.

※Nämä edellyttävät huomiota erilaisiin lakeihin ja säädöksiin, toimijoiden AI-politiikkoihin, liikesalaisuuksiin, rajoitetusti jaettavaan dataan ja reilun kilpailun periaatteisiin.

Käyttäjien tapahtumiin liittyvän taakan vähentäminen ennaltaehkäisyn ja varhaisen puuttumisen avulla

Neljäntenä toimintatavoitteena “Järjestelmäsuunnittelussa (AI-hallintajärjestelmän rakentamisessa)” mainitaan “käyttäjien tapahtumiin liittyvän taakan vähentäminen ennaltaehkäisyn ja varhaisen puuttumisen avulla”.

AI-yritysten ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 3-4【Ennaltaehkäisy ja varhainen puuttuminen AI-käyttäjien sekä työn ulkopuolisten käyttäjien tapahtumiin liittyvän taakan vähentämiseksi】

Kaikkien toimijoiden odotetaan johtotason johtajuuden alaisuudessa vähentävän AI-käyttäjien sekä työn ulkopuolisten käyttäjien tapahtumiin liittyvää taakkaa tapahtumien ennaltaehkäisyn ja varhaisen puuttumisen kautta.

Lähde: AI-yritysten ohjeistuksen liite

• Ennaltaehkäise järjestelmähäiriöitä, tietovuotoja ja valituksia sekä puutu niihin varhaisessa vaiheessa, jos ne ilmenevät
• Rakenna järjestelmä tapahtumien ennaltaehkäisyyn ja varhaiseen puuttumiseen

Käyttö

Agile Governance -mallin “käytön” toteuttamiseksi AI-yritysten ohjeistuksen liitteessä esitetyt toimintatavoitteet ovat seuraavat:

• AI-hallintajärjestelmän käyttötilanteen selkeän selostettavuuden varmistaminen
• Kunkin AI-järjestelmän käyttötilanteen selkeän selostettavuuden varmistaminen
• AI-governance-käytäntöjen aktiivisen raportoinnin harkinta

AI-hallintajärjestelmän toiminnan selostettavuuden varmistaminen

Yksi “toiminnan” toteuttamisen käytännön tavoitteista on “AI-hallintajärjestelmän toiminnan selostettavuuden varmistaminen”.

Japanin AI-yritysten ohjeistuksessa todetaan seuraavaa:

Käytännön tavoite 4-1【AI-hallintajärjestelmän toiminnan selostettavuuden varmistaminen】

Kaikkien toimijoiden odotetaan johtotason johtajuuden alaisuudessa, esimerkiksi käytännön tavoitteen 3-1 mukaisen poikkeama-arvioinnin prosessin toteutuksen kirjaamisen kautta, varmistavan AI-hallintajärjestelmän toiminnan läpinäkyvyyden ja vastuullisuuden asiaankuuluvia sidosryhmiä kohtaan.

Lähde: AI-yritysten ohjeistuksen liite

Toiminnan keskeisenä kohtana on, että AI-hallintajärjestelmän toiminnasta tehdään selostettavassa tilassa oleva, asianmukainen ja kohtuullinen selonteko asiaankuuluvia sidosryhmiä varten.

Yksittäisten AI-järjestelmien toiminnan selostettavissa olevan tilan varmistaminen

Toinen toimintatavoite “toiminnan” toteuttamiseksi on “AI-hallintajärjestelmien toiminnan selostettavissa olevan tilan varmistaminen”.

Japanin AI-toimijoiden ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 4-2【Yksittäisten AI-järjestelmien toiminnan selostettavissa olevan tilan varmistaminen】

Kaikkien osapuolten odotetaan johtotason johtajuuden alaisuudessa jatkuvasti suorittavan yksittäisten AI-järjestelmien ja -palveluiden koe- ja varsinaisen toiminnan aikana tapahtuvien poikkeamien arviointia. Tämä edellyttää koe- ja varsinaisen toiminnan tilanteiden seurantaa ja tulosten kirjaamista PDCA-sykliä pyörittäen. AI-järjestelmien kehittäjiltä odotetaan, että he tukevat AI-järjestelmien tarjoajia ja käyttäjiä kyseisen seurannan toteuttamisessa.

Lähde: Japanin AI-toimijoiden ohjeistuksen liite

Käytännön vinkit ovat seuraavat:

• Seuraa kunkin osapuolen AI:n toiminnan tilannetta ja kirjaa tulokset PDCA-sykliä käyttäen.
• Jos yksittäisen osapuolen on vaikea käsitellä tilannetta yksin, tulee osapuolten tehdä yhteistyötä keskenään.

AI-governanssin aktiivisen avoimuuden harkinta Japanissa

Kolmas toimintatavoite “toiminnan” toteuttamiseksi on “AI-hallintajärjestelmän toiminnan selkeän tilan varmistaminen ja AI-governanssin käytännön tilan aktiivisen avoimuuden harkinta Japanissa”.

Japanin AI-toimijoiden ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 4-3【AI-governanssin käytännön tilan aktiivisen avoimuuden harkinta】

On odotettavissa, että kaikki toimijat harkitsevat AI-governanssin tavoitteiden asettamista, AI-hallintajärjestelmän kehittämistä ja käyttöä sekä näihin liittyvän tiedon avoimuutta osana yrityksen hallintakoodin ei-taloudellista tietoa. Tämä odotus koskee myös yrityksiä, jotka eivät ole pörssilistattuja. Lisäksi odotetaan, että jos päätetään olla julkistamatta tietoa, tämä tosiasia ja sen syyt tulee julkisesti ilmoittaa sidosryhmille.

Lähde: Japanin AI-toimijoiden ohjeistuksen liite

Käytännön toteuttamisen kannalta keskeiset kohdat ovat seuraavat:

• Harkitse AI-governanssiin liittyvän tiedon läpinäkyvyyden varmistamista, alkaen yrityksen perusajattelusta AI:hin ja päättyen AI-hallintajärjestelmän kehittämiseen ja käyttöön.
• Kun AI-governanssiin liittyvää tietoa avataan, harkitse sen sijoittamista yrityksen hallintakoodin ei-taloudellisen tiedon piiriin.
• Jos päätetään olla julkistamatta AI-governanssiin liittyvää tietoa, julkaise tämä tosiasia ja sen syyt sidosryhmille.

Arviointi

Agile Governance -arvioinnin toteuttamiseksi asetettuja toimintatavoitteita ovat seuraavat kaksi, jotka on mainittu AI-yritysten ohjeistuksen liitteessä:

• AI-hallintajärjestelmän toiminnallisuuden tarkastus
• Ulkoisten sidosryhmien mielipiteiden harkinta

 AI-hallintajärjestelmän toiminnallisuuden tarkastus

Ensimmäinen toimintatavoite arvioinnin toteuttamiseksi on “AI-hallintajärjestelmän toiminnallisuuden tarkastus”.

AI-yritysten ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 5-1【AI-hallintajärjestelmän toiminnallisuuden tarkastus】:

Kunkin toimijan odotetaan johtotason johtajuuden alaisuudessa määrittävän AI-hallintajärjestelmän suunnittelusta ja käytöstä riippumattomia asiantuntijoita, jotka arvioivat AI-hallintajärjestelmän toimivuutta AI-governance-tavoitteiden valossa. Tämä tarkoittaa, että toimintatavoitteiden 3 ja 4 käytännön toteutuksen kautta arvioidaan, toimiiko AI-hallintajärjestelmä asianmukaisesti ja edistääkö se AI-governance-tavoitteiden saavuttamista, sekä vaaditaan jatkuvaa parantamista.

Lainaus: AI-yritysten ohjeistus

Käytännön toteutuksen kannalta keskeisiä kohtia ovat:

• Johtotason tulee selkeästi ilmaista jatkuvan parantamisen arvioinnin painopisteet omilla sanoillaan
• AI-hallintajärjestelmän suunnittelusta ja käytöstä riippumattomien asiantuntijoiden määrittäminen
• AI-hallintajärjestelmän asianmukaisen toiminnan seuranta
• Jatkuvan parantamisen toteuttaminen seurantatulosten perusteella

Ulkoisten sidosryhmien mielipiteiden harkinta

Toinen toimintatavoite arvioinnin toteuttamiseksi on “Ulkoisten sidosryhmien mielipiteiden harkinta”.

AI-yritysten ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 5-2【Sidosryhmien mielipiteiden harkinta】:

Kunkin toimijan odotetaan johtotason johtajuuden alaisuudessa harkitsevan sidosryhmiltä AI-hallintajärjestelmän ja sen käytön osalta mielipiteiden pyytämistä. Jos harkinnan tuloksena päätetään, ettei kyseisiä mielipiteitä toteuteta, odotetaan toimijan selittävän syyt sidosryhmille.

Lainaus: AI-yritysten ohjeistuksen liite

Käytännön toteutuksen kannalta keskeisiä kohtia ovat:

• Sidosryhmiltä AI-hallintajärjestelmän ja sen käytön osalta mielipiteiden pyytämisen harkinta
• Mikäli kyseisiä mielipiteitä ei toteuteta, syyt tulee selittää sidosryhmille

Ympäristön ja riskien uudelleenarviointi Japanissa

Agile Governance -mallin mukaisen “Ympäristön ja riskien uudelleenarvioinnin” toteuttamiseksi asetettuja toimintatavoitteita ovat “Toimintatavoitteiden 1-1–1-3 uudelleen toteuttaminen ajallaan”.

Japanin AI-toimijoiden ohjeistuksessa todetaan seuraavaa:

Toimintatavoite 6-1【Toimintatavoitteiden 1-1–1-3 uudelleen toteuttaminen ajallaan】:

Kaikkien toimijoiden odotetaan johtoryhmän johdolla nopeasti havaitsevan ulkoisen ympäristön muutokset, kuten uusien teknologioiden esiinmarssin ja sosiaalisten järjestelmien, kuten sääntelyn, muutokset. Tämän jälkeen tulee tehdä ajantasainen uudelleenarviointi, päivittää ymmärrystä ja hankkia uusia näkökulmia, ja sen pohjalta parantaa tai uudelleenrakentaa AI-järjestelmiä sekä parantaa niiden käyttöä. Lisäksi toimintatavoitteen 5-2 toteuttamisen yhteydessä odotetaan, että harkitaan ulkopuolisten mielipiteiden hankkimista paitsi olemassa olevan AI-hallintajärjestelmän ja sen käytön osalta, myös ympäristö- ja riskianalyysin osalta, mikä on tärkeää myös tässä ohjeistuksessa korostetun Agile Governance -mallin mukaisen AI-hallinnan kokonaisvaltaisen tarkastelun kannalta.

Lähde: AI-toimijoiden ohjeistuksen liite

Käytännön toteutuksen kannalta keskeisiä kohtia ovat seuraavat:

• Uusien teknologioiden esiinmarssin, AI:hin liittyvän teknologisen innovaation ja sääntelyn mukaan lukien sosiaalisten järjestelmien muutosten havaitseminen
• Ajantasainen uudelleenarviointi, ymmärryksen päivittäminen ja uusien näkökulmien hankkiminen sekä näihin perustuvien AI-järjestelmien parannusten, uudelleenrakentamisen ja käytön muutosten toteuttaminen
• AI-hallinnan periaatteiden juurruttaminen osaksi organisaation kulttuuria

Huomioitavaa rakennettaessa AI-governanssia Japanissa

Edellä mainitut ovat Japanin “AI-toimijoiden ohjeistuksen” mukaisia käytäntöjä AI-governanssin rakentamiseen agile governance -menetelmän avulla.

Kuitenkin nämä ohjeistukset on luotu kaikille AI-toimijoille yhteisiksi, ja on tärkeää harkita yksilöllisesti, mihin liiketoimintamalliin oma yrityksesi kuuluu, millaisia AI-järjestelmiä tai -palveluita tarjoat ja miten ne soveltuvat juuri sinun yrityksesi tarpeisiin.

Millainen organisaatio ja toimintamalli on yrityksellesi tarpeen, mitä toimia ja dokumentointia vaaditaan, vaihtelee tapauskohtaisesti. Lisäksi on tärkeää arvioida, miten nämä toimet vaikuttavat yrityksesi tulevaisuuden liiketoiminnan hyötyihin ja riskien välttämiseen.

Lisäksi AI-liiketoimintaan liittyy monenlaisia juridisia riskejä. Siksi suosittelemme, että hankit asianajajan tuen jo varhaisessa vaiheessa, kun ryhdyt kehittämään vastatoimia näihin riskeihin.

Yhteenveto: AI-toimijoiden ohjeistuksen optimointi on asianajajan tehtävä

Tässä artikkelissa olemme käsitelleet AI-governance-rakenteen luomista Japanin AI-toimijoiden ohjeistuksen mukaisesti.

AI-governance-menetelmät on määritelty yksityiskohtaisesti Japanin AI-toimijoiden ohjeistuksessa, ja johtajien on osana governancea perustettava organisaatioita yrityksen sisälle ja laadittava dokumentaatiota.

AI-liiketoiminnan nopeasti muuttuvassa maailmassa on erityisen haastavaa optimoida toimintaa vastaamaan vastikään luotuja ja monimutkaisia ohjeistuksia. Suosittelemme, että otatte varhaisessa vaiheessa yhteyttä asiantuntijoihin, jotka ovat perehtyneet sekä IT-alaan että oikeudellisiin kysymyksiin, ja rakennatte yhdessä yrityksellenne sopivimman AI-governance-rakenteen.

Monolith-oikeustoimiston tarjoamat ratkaisut

Monolith-oikeustoimisto on IT-alan, erityisesti internetin ja lain yhdistävän kokemuksen omaava lakitoimisto.

AI-liiketoimintaan liittyy monia oikeudellisia riskejä, ja tekoälyyn liittyvissä oikeudellisissa kysymyksissä on välttämätöntä saada tukea asianajajilta, jotka ovat perehtyneet AI:n oikeudellisiin näkökohtiin. Toimistomme tarjoaa AI:ssa kokeneiden asianajajien ja insinöörien tiimin avulla korkeatasoista oikeudellista tukea AI-liiketoiminnalle, mukaan lukien ChatGPT, sopimusten laatimisessa, liiketoimintamallien laillisuuden arvioinnissa, immateriaalioikeuksien suojelussa ja yksityisyyden suojaamisessa. Lisätietoja on alla olevassa artikkelissa.

Monolith-oikeustoimiston palvelualueet: AI (ChatGPT jne.) oikeudelliset palvelut[ja]