MONOLITH LAW OFFICE+81-3-6262-3248Arkisin 10:00-18:00 JST [English Only]

MONOLITH LAW MAGAZINE

General Corporate

EU:ssa vireillä olevan tekoälyä koskevan sääntelyn nykytila ja näkymät – Selvitys myös japanilaisyritysten vaikutuksista

General Corporate

EU:ssa vireillä olevan tekoälyä koskevan sääntelyn nykytila ja näkymät – Selvitys myös japanilaisyritysten vaikutuksista

AI:n kehityksen myötä työkaluiksi otetaan käyttöön esimerkiksi ChatGPT:n kaltaisia AI-työkaluja, ja AI-liiketoiminta kasvaa vilkkaasti. Samalla kansainväliset AI-säädökset herättävät yhä enemmän huomiota.

Japanissa talous-, kauppa- ja teollisuusministeriö on julkaissut “AI-periaatteiden soveltamisen hallintalinjaukset Versio 1.1″[ja] (kirjoitushetkellä). 14. kesäkuuta 2023 (2023) EU:n Euroopan parlamentti hyväksyi maailman ensimmäisen kansainvälisen “AI-säädöslain”, joka on herättänyt huomiota myös Japanissa.

Tässä artikkelissa esittelemme AI-säädöslain nykytilaa ja näkymiä sekä selitämme sen vaikutuksia japanilaisiin yrityksiin.

Mikä on AI-sääntelylaki (AI Act)?

14. kesäkuuta 2023, EU:n Euroopan parlamentti hyväksyi kattavan ‘AI-sääntelyehdotuksen’, joka kohdistuu AI:n kaikenlaiseen käyttöön. Se on 85 artiklasta koostuva maailman ensimmäinen kansainvälinen ‘AI-sääntelylaki (AI Act)’, joka toimii EU:n yhtenäisenä sääntönä (toissijainen lainsäädäntö).

Jatkossa vuoden 2023 aikana pyritään saavuttamaan sopimus kolmen osapuolen (Euroopan komissio, Euroopan parlamentti ja Eurooppa-neuvosto) välisissä epävirallisissa neuvotteluissa (trilogi). Lainsäädäntöeliminä toimivien Euroopan parlamentin ja Eurooppa-neuvoston hyväksynnän jälkeen laki on tarkoitus saattaa voimaan, ja sen odotetaan astuvan voimaan vuonna 2024.

EU:n oikeusjärjestelmä

EU:n oikeusjärjestelmä koostuu kolmesta osasta: primaarioikeudesta (sopimukset), sekundaarioikeudesta (yhteisölainsäädäntö) ja oikeuskäytännöstä.

Sekundaarioikeus perustuu primaarioikeuteen (sopimuksiin) ja se koostuu laeista, jotka säätelevät jäsenmaita suoraan tai epäsuorasti EU:n alueella. Tätä kutsutaan myös EU-oikeudeksi tai johdetuksi oikeudeksi.

Yleisesti ottaen sekundaarioikeus jakautuu viiteen eri tyyppiin, mutta “EU:n tekoälylainsäädäntö” kuuluu asetuksiin (Regulation), mikä tarkoittaa, että se sitoo suoraan EU:n jäsenmaita yhtenäisenä sääntönä.

EU:n lainsäädännössä (sekundaarioikeus) on viisi päätyyppiä:

  • Asetukset (Regulation): Sitovat kaikkia jäsenmaita ja niillä on suora sovellettavuus (ne tulevat osaksi kansallista lainsäädäntöä ilman ratifiointiprosessia) heti kun ne hyväksytään.
  • Direktiivit (Directive): Jäsenmaiden on säädettävä uutta kansallista lainsäädäntöä tai muutettava olemassa olevaa lainsäädäntöä tavoitteiden saavuttamiseksi, mikä asettaa niille oikeudellisia velvoitteita.
  • Päätökset (Decision): Yksi oikeudellisesti sitovan lain muoto, joka kohdistuu ei yleisesti vaan erityisesti määriteltyihin kohteisiin, kuten tiettyihin jäsenmaihin, yrityksiin tai yksityishenkilöihin.
  • Suositukset (Recommendation): Euroopan komissio suosittelee jäsenvaltioiden hallituksille, yrityksille tai yksityishenkilöille tiettyjen toimien tai toimenpiteiden toteuttamista. Niillä ei ole oikeudellista sitovuutta tai pakottavaa voimaa, mutta ne voivat edistää lainsäädännön kehittämistä tai muuttamista EU:n jäsenmaissa.
  • Mielipiteet (Opinion): Tunnetaan myös nimellä “näkemys”, ja niissä Euroopan komissio esittää mielipiteensä tietyistä aiheista. Niillä ei ole oikeudellista sitovuutta tai pakottavaa voimaa.

“Regulation” on sekundaarioikeuden muoto, jolla on eniten pakottavaa voimaa, ja esimerkiksi GDPR (General Data Protection Regulation) eli “yleinen tietosuoja-asetus” on yksi asetuksen esimerkeistä.

AI-sääntelyn soveltamisala

EU:n “AI-sääntely” tulee suoraan sovellettavaksi EU:n alueella ja sillä on oikeudellista sitovuutta myös EU:n ulkopuolisissa kauppakumppanimaissa. Sääntelyn kohteena ovat yritykset, jotka tuovat AI-järjestelmiä ja -palveluita Euroopan markkinoille, ja siihen kuuluvat AI:n kehittäjät, käyttöönottohenkilöt, tarjoajat, maahantuojat, jälleenmyyjät ja käyttäjät.

AI-sääntelyssä määritellään tarkat vaatimukset tietyille AI-järjestelmille ja yritysten velvollisuudet, mutta samalla se pyrkii vähentämään hallinnollista ja taloudellista taakkaa pienille ja keskisuurille yrityksille (SME).

Kyseinen lakiehdotus on osa laajaa AI-pakettia, joka pyrkii takaamaan AI:n turvallisuuden ja perusoikeudet sekä vahvistamaan AI:n käyttöönottoa, investointeja ja innovaatioita koko EU:ssa.

EU:n sääntelyn on noudatettava perusperiaatteita, jotka on määritelty Euroopan unionin perussopimuksessa. Tämä tarkoittaa, että myös AI-teknologiassa on taattava ihmisoikeudet ja vapaudet EU:n alueella, ja tätä varten tarvitaan suojatoimia.

Lakiehdotuksessa selitetään sääntelyn tavoitteet “edistämään luotettavan AI:n käyttöä ihmisen valvonnassa ja takaamaan suojan AI:n riskeiltä terveydelle, turvallisuudelle, perusoikeuksille, demokratialle ja oikeusvaltioperiaatteelle sekä ympäristölle”.

Erityisesti seuraavat “kaikkiin AI-järjestelmiin sovellettavat yleiset periaatteet” on kirjattu:

  • Ihmisen itsemääräämisoikeus ja valvonta (human agency and oversight)
  • Tekninen luotettavuus ja turvallisuus (technical robustness and safety)
  • Yksityisyys ja datanhallinta (privacy and data governance)
  • Läpinäkyvyys (transparency)
  • Monimuotoisuus, syrjimättömyys ja oikeudenmukaisuus (diversity, non-discrimination and fairness)
  • Sosiaalinen ja ympäristöllinen hyvinvointi (social and environmental well-being)

Tässä sääntelyssä korostetaan, että AI-periaatteiden saavuttamiseksi on välttämätöntä varmistaa AI-kehittäjien, käyttäjien ja tarjoajien AI-lukutaito.

Rikkomustapauksessa voidaan määrätä suuria sakkoja maailmanlaajuisen liikevaihdon perusteella (enintään 30 miljoonaa euroa, noin 4,7 miljardia jeniä tai maailmanlaajuisen liikevaihdon 6 %, kumpi vain on suurempi), ja on olemassa riski, että AI-liiketoiminta EU:n alueella voi tulla mahdottomaksi.

Näin ollen myös Japanin yritykset, jotka jo harjoittavat AI-liiketoimintaa EU:n markkinoilla tai harkitsevat tulevaisuudessa EU-markkinoille laajentumista, vaaditaan noudattamaan EU:n uusia AI-sääntöjä.

Tekoälyn sääntelyn tausta

Tekoälyn sääntelyn taustaa

Generatiivinen tekoäly on hyödyllinen työkalu, mutta se kantaa mukanaan riskejä, kuten rikollisuuden edistämistä ja demokratian uhkaamista. Tekoälyn teknologian kehittyessä ja yleistyessä nämä ongelmat ovat muodostuneet väistämättömiksi haasteiksi.

Vuodesta 2016 lähtien Euroopan unioni (EU), Yhdysvallat ja Kiina ovat julkaisseet tekoälyyn liittyviä suuntaviivoja ja kansallisia strategia-asiakirjoja. Erityisesti EU on edistänyt tekoälyn ja big datan sääntelyn kehittämistä, ja vuosien 2017 ja 2022 välillä on luotu tärkeitä suuntaviivoja, julistuksia ja sääntelyehdotuksia.

Esimerkiksi huhtikuussa 2016 säädettiin ‘Yleinen tietosuoja-asetus (GDPR)’, ja 21. huhtikuuta 2021 EU julkisti ‘Tekoälyn sääntelyehdotuksen’. ‘Euroopan datanhallintalaki (DGA)’ säädettiin 30. toukokuuta 2022 ja se tuli voimaan 24. syyskuuta 2023.

Nämä säännökset pyrkivät varmistamaan, että tekoälyä ja big dataa käytetään turvallisesti ja oikeudenmukaisesti koko yhteiskunnassa, samalla kun ne edistävät innovaatiota ja talouskasvua.

EU on omaksunut digitaalisen strategian nimeltään ‘A Europe fit for the Digital Age’ (Digitaaliaikaan sopiva Eurooppa).

‘Tekoälyn sääntelyehdotuksen’ julkistamisen jälkeen, ottaen huomioon generatiivisen tekoälyn nopean kehityksen ja leviämisen, Euroopan komissio hyväksyi 14. kesäkuuta 2023 päivitetyn ehdotuksen, joka sisältää generatiiviseen tekoälyyn liittyviä uusia näkökulmia ja vaatimuksia.

Päivämäärä Kokous
21. huhtikuuta 2021EU:n komissio julkisti ‘EU:n tekoälyn sääntelyehdotuksen’
11. toukokuuta 2023‘Sisämarkkina- ja kuluttajansuojavaliokunta’ ja ‘Kansalaisten vapauksien sekä oikeus- ja sisäasioiden valiokunta’ hyväksyivät muutosehdotuksen
14. kesäkuuta 2023EU:n parlamentti hyväksyi muutosehdotuksen
24. lokakuuta 2023Neljäs trilogi (kolmikantaneuvottelu) pidettiin
Väliaikainen sopimus
6. joulukuuta 2023Viimeinen trilogi (kolmikantaneuvottelu) suunniteltu
EU:n parlamentin ja neuvoston hyväksyntä
‘EU:n tekoälyn sääntelylaki’ säädettiin
Vuoden 2024 jälkipuoliskoToteutus suunniteltu

AI-sääntelyn ominaisuudet

AI-sääntelyn ominaisuudet

“AI-sääntelylain” ydin koostuu kolmesta pääominaisuudesta: “riskiperusteisesta AI-luokittelusta”, “vaatimuksista ja velvoitteista” sekä “innovaation tukemisesta”.

Tämä sääntely perustuu niin kutsuttuun “riskiperusteiseen lähestymistapaan”, jossa AI:n riskitasot jaotellaan neljään luokkaan, ja kullekin tasolle sovelletaan vastaavia sääntelytoimenpiteitä.

Erityisesti, kuten alla olevasta taulukosta näkyy, AI-järjestelmien neljälle riskitasolle on määritelty kielletyt toiminnot sekä vaatimukset ja velvoitteet. Korkean riskin AI:n osalta käyttötarkoitukset on määritelty turvaamaan ihmisten fyysistä koskemattomuutta ja elämää, itsemääräämisoikeutta, demokratiaa ja asianmukaista menettelyä.

RiskitasoKäyttörajoituksetKohde-AI-järjestelmätVaatimukset & Velvoitteet
 <Kielletty riski>          
EU:n arvojen vastaisen AI:n kielto
Kielletty①Alitajuiset tekniikat
②Haavoittuvuuksien hyväksikäyttö
③Sosiaalinen pisteytys
④Julkisilla paikoilla “reaaliaikaisesti” etäbiometristen tunnistusjärjestelmien käyttö lainvalvontatarkoituksiin (poikkeuksia lukuun ottamatta)
Kielletty
<Korkea riski>
・Säänneltävien tuotteiden turvallisuuskomponentit
・Tiettyjen alojen AI-järjestelmät + terveydelle, turvallisuudelle, perusoikeuksille ja ympäristölle merkittävää riskiä aiheuttava AI
Vaatimusten noudattaminen ja yhteensopivuuden arviointi edellytyksenä①Biometrinen tunnistus & luokittelu (teollisuuskoneet, lääkintälaitteet)
②Kriittisen infrastruktuurin hallinta & operointi
③Koulutus & ammattikoulutus
④Työllisyys, työntekijöiden hallinta ja itsenäisen ammatinharjoittamisen mahdollisuudet
⑤Välttämättömät yksityiset & julkiset palvelut
⑥Lainvalvonta (kaikki toimijat ovat lainvalvontaviranomaisia)
⑦Maahanmuutto, turvapaikanhaku & rajavalvonta (kaikki toimijat ovat asianomaisia viranomaisia)
⑧Oikeuslaitoksen ja demokraattisten prosessien hallinta
Ankarat sääntelytoimenpiteet, kuten riskienhallintajärjestelmät, datanhallinta, tekniset dokumentit, lokitietojen säilytys, ihmisen valvontatoimenpiteet ja yhteensopivuuden arviointimenettelyt
<Rajoitettu riski>
Transparency-velvoite sovellettavissa oleviin AI-järjestelmiin
Transparency-velvoite ehtona①Chatbotit ja muut luonnollisen henkilön kanssa vuorovaikutuksessa olevat AI-järjestelmät
②Tunteiden tunnistusjärjestelmät & biometriset luokittelujärjestelmät
③Deepfake-generoivat AI-järjestelmät
Rajoitetut velvoitteet, kuten mallin suunnittelu siten, ettei laitonta sisältöä tuoteta, tekijänoikeuksin suojatun datan julkaisu koulutuksessa käytettäväksi, AI:n käytön ennakkotiedotus
<Minimaalinen riski>
Muut kuin yllä mainitut järjestelmät
Ei rajoituksiaMuut kuin yllä mainitut järjestelmätToimintasääntöjen suositus

AI-sääntelyn vaikutukset Japaniin

EU on kansainvälisesti edelläkävijä ihmisoikeuksien turvaamisessa, henkilötietojen suojelussa ja ympäristönsuojelussa, ja on ottanut käyttöön sääntelyä, joka on muodostunut muiden maiden järjestelmien suunnittelun “kultaiseksi standardiksi”.

Japanissa henkilötietojen suojelulain uudistaminen on edennyt paitsi hajautetun sääntelyn yhdenmukaistamisen myös EU:n GDPR:n (General Data Protection Regulation) vaatimusten täyttämisen myötä. Lisäksi on olemassa lainsäädäntöä, kuten “Erityisten digitaalisten alustojen läpinäkyvyyden ja oikeudenmukaisuuden parantamista koskeva laki” (voimaantullut 1. helmikuuta 2021), joka on suunniteltu EU:n lainsäädännön pohjalta.

Japanissa ei tällä hetkellä ole AI:ta koskevaa kovaa lainsäädäntöä, vaan maassa noudatetaan pehmeää lainsäädäntöä ja itsevalvontaa.

Kuten aiemmin mainittiin, EU:n “AI-sääntelylaki” sovelletaan suoraan EU:n jäsenvaltioihin, mutta sillä on myös rajat ylittävä soveltaminen, kun toimintaa harjoitetaan EU:n alueella, ja se koskee myös EU:n ulkopuolella sijaitsevia yrityksiä.

Kuten myöhemmin selitämme, EU:n alueelle toimitettavien AI-tuotteiden osalta voi olla sovellettavissa useita eri näkökulmista määriteltyjä lakeja, ja niiden huomioon ottaminen on välttämätöntä. Japanilaisyritysten on seurattava tulevia suuntauksia ja toteutettava asianmukaisia toimenpiteitä lain noudattamiseksi.

Generoivan AI:n sisältävän muutosehdotuksen hyväksyminen

Generoivan AI:n sisältävän muutosehdotuksen hyväksyminen

EU:n AI-sääntelylaki on laki, johon on sovellettu EU:n kolmen toimielimen (Euroopan neuvosto, Euroopan parlamentti ja Euroopan komissio) muutosehdotuksia.

11. toukokuuta 2023, IMCO (Sisämarkkina- ja kuluttajansuojavaliokunta) ja LIBE (Kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunta) hyväksyivät AI-sääntelylakiin liittyvän muutosehdotuksen.

Nämä muutosehdotukset hyväksyttiin Euroopan parlamentissa 14. kesäkuuta 2023.

Raporttiin sisältyy tärkeitä lainsäädäntöehdotuksen muutoksia, kuten ennakoivan poliisitoiminnan kieltäminen, useiden lisäysten tekeminen korkean riskin itsenäisten AI-järjestelmien luetteloon ja uuden, vahvan ja kattavan roolin saavan AI-toimiston (EAIB, Euroopan tekoälykomitean korvaava elin) perustaminen.

Lisäksi on ehdotettu GDPR:n (tietosuojalaki) kanssa tiiviimpää yhteistyötä, sidosryhmien osallistumisen lisääntymistä tietyillä alueilla sekä generoivan AI:n ja yleiskäyttöisen AI:n erityisiä säännöksiä.

Myöhemmin, 24. lokakuuta 2023, pidettiin neljäs trilogi (kolmikantaneuvottelu) AI-sääntelylakiin liittyen, ja poliittisesti arkaluonteisissa kysymyksissä saavutettiin merkittävää edistystä. Erityisesti kiistanalaisen korkean riskin AI-järjestelmien suodatusmekanismin (Art. 6) osalta saavutettiin alustava yhteisymmärrys.

Lisäksi annettiin poliittisia ohjeita perusmallien/yleiskäyttöisten AI-järjestelmien hallinnasta, kieltoasioista ja lainvalvontaviranomaisten tulevasta suunnasta, ja tekninen tiimi velvoitettiin työskentelemään edellä mainittuihin kysymyksiin liittyvien konkreettisten tekstiehdotusten parissa.

Tekoälyn sääntelyyn liittyvät lait

Tekoälyn sääntelylakiin liittyy useita eri näkökulmista määriteltyjä lakeja. Nämä kolme lakia on säädetty Euroopan unionin (EU) toimesta digitaalisen tilan henkilötietojen suojan ja reilun kilpailun varmistamiseksi.

DSA (Digital Services Act)

EU:n “Digital Services Act” (DSA) on 16. marraskuuta 2022 (2024. helmikuun 17. päivästä lähtien täysimääräisesti voimaan tuleva) säännöstö, joka kattaa EU:n sähköisen kaupankäynnin.

Vuonna 2000 EU:ssa säädetty sähköisen kaupankäynnin direktiivi on ollut voimassa, mutta internetin ja online-alustojen kaltaisten digitaalisten ympäristöjen kehityksen myötä sen soveltaminen on muodostunut haastavaksi. Tämän vuoksi direktiiviä on uudistettu ja EU:n yhtenäiset säännöt, DSA, on otettu käyttöön.

DSA:n tavoitteena on varmistaa EU:n sisämarkkinoiden välityspalveluiden asianmukainen toiminta, suojella käyttäjien perusoikeuksia ja ylläpitää turvallisempaa digitaalista ympäristöä. Sääntelyn piiriin kuuluvat online-välityspalvelut, hosting-palvelut ja online-alustat (mukaan lukien VLOP ja VLOSE).

Laki kattaa laajasti sekä BtoB- että BtoC-suhteet, määritellen vastuun laittoman sisällön julkaisemisesta ja riitatilanteiden käsittelyn.

Käytännössä laki velvoittaa poistamaan laittoman sisällön ja tuotteet tai palvelut, vahvistaa käyttäjien perusoikeuksien suojelua ja edellyttää kattavia sääntöjä läpinäkyvyyden varmistamiseksi ja vastuullisuuden lisäämiseksi.

Lisäksi EU:n alueella toimiville, kuukausittain keskimäärin yli 45 miljoonaa käyttäjää palveleville VLOP:lle (Very Large Online Platform) eli “jättimäisille online-alustoille” ja VLOSE:lle (Very Large Online Search Engine) eli “jättimäisille online-hakukoneille” on asetettu tiukemmat säännöt.

Nimettyjen VLOP:ien ja VLOSE:ien on mukautettava järjestelmänsä, resurssinsa ja prosessinsa DSA:n vaatimuksiin neljän kuukauden kuluessa päätöksen ilmoittamisesta, otettava käyttöön lieventäviä toimenpiteitä ja perustettava itsenäiset järjestelmät lain noudattamiseksi. Tämän jälkeen niiden on suoritettava tarkastus ja ensimmäinen vuosittainen riskiarviointi sekä raportoitava tuloksista Euroopan komissiolle.

DSA:n on tarkoitus tulla täysimääräisesti sovellettavaksi 17. helmikuuta 2024 alkaen, ja VLOP:ien ja VLOSE:ien lisäksi muiden yritysten DSA:n noudattamista tullaan valvomaan Euroopan komission ja jäsenvaltioiden viranomaisten toimesta.

Jäsenvaltioiden on perustettava 17. helmikuuta 2024 mennessä “Digital Services Coordinator” eli digitaalisten palveluiden koordinaattori, jolla on itsenäinen valvontavaltuus DSA:n noudattamisen osalta, ja jolle on annettu oikeus panna täytäntöön sanktioita, mukaan lukien rikesakot.

Toisaalta VLOP:ien ja VLOSE:ien osalta Euroopan komissio valvoo suoraan ja sillä on oikeus panna täytäntöön rangaistukset.

Rikkomuksen tapauksessa määrättävän sakon yläraja on kyseisen yrityksen edellisen vuoden maailmanlaajuisen vuosimyynnin 6 %.

Tämä laki on osa EU:n “A Europe fit for the Digital Age” -nimellä tunnettua digitaalista strategiaa ja pyrkii vastaamaan digitaalisen aikakauden uusiin haasteisiin ja riskeihin.

DMA (Digital Markets Act)

EU:n “Digitaalisten markkinoiden laki” (DMA = Digital Markets Act) tulee pääosin voimaan 2. toukokuuta 2023, ja sen tarkoituksena on varmistaa, että digitaaliset markkinat ovat oikeudenmukaiset ja kilpailukykyiset sekä estää tiettyjä digitaalisia alustoja hallitsemasta markkinoita.

Sääntelyn kohteena ovat määritellyt portinvartijat, joiden velvollisuudet on asetettu, ja rikkomustapauksissa voidaan määrätä sanktioita, kuten enintään 10 prosentin suuruisia sakkoja globaalista liikevaihdosta.

“Portinvartija” tarkoittaa Euroopan unionin alueella toimivia suurimpia digitaalisia alustoja, jotka ovat saavuttaneet pysyvän aseman markkinoilla tietyillä digitaalisen sektorin osa-alueilla ja täyttävät tietyt kriteerit, kuten käyttäjämäärän, liikevaihdon ja pääoman suhteen.

Euroopan komissio on määrä nimetä uusimmat portinvartijat 6. syyskuuta 2023 mennessä, ja näille yrityksille annetaan enintään kuuden kuukauden siirtymäaika (maaliskuu 2024 asti) uusien Digitaalisten markkinoiden lain velvoitteiden noudattamiseksi. Tällä kertaa portinvartijoiksi nimettiin Alphabet, Amazon, Apple, ByteDance, Meta ja Microsoft, ja näiden portinvartijoiden tarjoamat yhteensä 22 pääasiallista alustaa ja palvelua nimettiin lain kohteeksi.

Tämä laki pyrkii estämään suurten digitaalisten alustojen markkinavoiman väärinkäytön ja helpottamaan uusien toimijoiden markkinoille tuloa.

GDPR (Yleinen tietosuoja-asetus)

GDPR (Yleinen tietosuoja-asetus) on EU:n uusi “tietosuojalaki”, joka tuli voimaan 25. toukokuuta 2018.

Se on oikeudellinen kehys, joka asettaa suuntaviivat henkilötietojen keräämiselle ja käsittelylle sekä EU:n sisällä että sen ulkopuolella. Tämä säädös velvoittaa organisaatioita, jotka toimivat EU:ssa tai keräävät tietoja EU:n alueella olevista ihmisistä.

Liittyvä artikkeli: Selitämme, miten luoda GDPR:n mukainen tietosuojakäytäntö[ja]

Odotettavissa olevat AI-säätelyn suuntaukset

Odotettavissa olevat AI-säätelyn suuntaukset

Käymme seuraavaksi läpi AI:n riskiluokittelutaulukossa mainittuja AI-järjestelmiä, joihin yritysten tulisi erityisesti kiinnittää huomiota.

Sosiaalisen luottopisteytyksen käyttökielto

EU:n sääntelylainsäädännön “kielletyt riskit” -luokkaan kuuluu yhtenä AI-järjestelmänä sosiaalinen luottopisteytys (social credit score), joka tarkistusehdotuksen myötä kielletään kokonaisvaltaisesti, ei pelkästään julkisissa laitoksissa.

Sosiaalinen luottopisteytys viittaa järjestelmään, joka pisteyttää yksittäisten kansalaisten sosiaalista asemaa ja käyttäytymistä.

Kiinassa se toimii valvontayhteiskunnan työkaluna ja on kansallisen politiikan mukaisesti rakentanut sosiaalisen luottamusjärjestelmän neljälle alueelle: julkiset palvelut, kaupankäynti, yhteiskunta ja oikeuslaitos.

Konkreettisiin rajoituksiin kuuluu muun muassa lentokoneiden ja nopeiden junayhteyksien käyttökielto, yksityiskoulujen ulkopuolelle jättäminen, NPO-järjestöjen perustamiskielto, arvostettujen työpaikkojen saannin estäminen, hotellien käyttökielto, internet-yhteyden nopeuden alentaminen sekä henkilötietojen julkaiseminen verkkosivuilla ja mediassa. Toisaalta korkeat pisteet voivat tuoda mukanaan erilaisia “etuja”.

Kuitenkin tällainen järjestelmä herättää huolta yksilön yksityisyydestä ja vapaudesta, ja sen käyttö on herättänyt paljon keskustelua.

Sosiaalisen luottopisteytyksen käyttökielto EU:n alueella on tarkoitettu varmistamaan, että AI-teknologian käyttö on oikeudenmukaista ja läpinäkyvää.

Generatiivisen tekoälyn rajoitusten tiukentaminen

EU:n sääntelylaissa ‘rajoitetun riskin’ AI-järjestelmiin kuuluu yhtenä esimerkkinä generatiivinen tekoäly.

Generatiivinen tekoäly (Generative AI) on tekoälyn laji, joka luo uutta sisältöä tai ratkaisuja oppimisdatan perusteella, ja se on saanut viime aikoina paljon huomiota, kuten Chat GPT. Generatiivisella tekoälyllä on kuitenkin useita haasteita, ja juuri tästä syystä sääntelyä pidetään tarpeellisena.

Tekoälyn sääntelylaissa on generatiivisen tekoälyn nopean kehityksen ja yleistymisen myötä lisätty ajatuksia ja vaatimuksia koskien generatiivista tekoälyä.

Erityisesti OpenAI:n kaltaisilta generatiivisen tekoälyn toimittajilta vaaditaan, että heidän on paljastettava tekijänoikeudella suojatun datan käyttö, jota on hyödynnetty LLM:ssä (Large Language Model – laaja-alainen kielimalli) oppimiseen.

Tämän toimenpiteen tarkoituksena on varmistaa generatiivisen tekoälyn läpinäkyvyys ja tehostaa riskienhallintaa sääntelyn avulla.

EU:n lainsäädännössä on perinteisesti korostettu ‘läpinäkyvyyden’ (Transparency) periaatetta, kuten GDPR:ssä (General Data Protection Regulation – yleinen tietosuoja-asetus), ja se on asettanut ennakkoon ilmoitusvelvollisuuden suojatoimista sekä tekoälyn käytöstä ja tarkoituksesta asianosaisille. Tämä periaate on muodostunut kansainväliseksi ‘kultaiseksi standardiksi’.

Tunteiden tunnistamisen AI:n käyttörajoitukset

EU:n sääntelylaissa ‘rajoitetun riskin’ piiriin kuuluva tunteiden tunnistamisen AI on yksi niistä AI-järjestelmistä, joihin sovelletaan läpinäkyvyysvelvoitetta, ja sille asetetaan rajoitettuja velvoitteita, kuten ennakkotiedotus AI:n käytöstä.

‘Tunteiden tunnistamisen AI’ viittaa tekoälyyn, joka pystyy lukemaan ihmisen tunteiden muutoksia.

Erityisesti seuraavat neljä tyyppiä ovat olemassa, ja ne analysoivat iloa, vihaa, surua ja kiinnostuksen tasoa mikrofonien, kameroiden ja sensorien kautta:

  • Tekstin tunteiden tunnistamisen AI: Analysoi ihmisen kirjoittaman tekstin tai äänidatasta muunnetun tekstin ja arvioi tunteita.
  • Äänen tunteiden tunnistamisen AI: Analysoi ihmisen tuottaman äänen perusteella tunteita.
  • Ilmeiden tunteiden tunnistamisen AI: Lukee tunteita kasvojen ilmeistä kameran välityksellä.
  • Biometrisen tiedon tunteiden tunnistamisen AI: Tunnistaa tunteita aivokäyrästä, pulssista ja muista biometrisistä tiedoista.

Näitä teknologioita hyödynnetään monenlaisissa tilanteissa, kuten asiakaspalvelussa, puhelinkeskuksissa ja myyntityössä. Teknologian kehittyessä tulevaisuudessa odotetaan sen käyttöönottoa myös terveydenhuoltoalalla.

Kuitenkin biometristen tietojen ja kerättyjen henkilötietojen yksityisyydensuojan sekä siihen liittyvän lainsäädännön kehittäminen on tarpeen.

Yhteenveto: EU:n AI-sääntelyn nykytila ja tulevaisuuden näkymät

Olemme käsitelleet EU:n “AI-sääntelyä” koskevan nykytilan ja tulevaisuuden näkymiä sekä sen vaikutuksia japanilaisiin yrityksiin. On todennäköistä, että maailman ensimmäinen “EU:n AI-sääntely” asettaa kansainvälisen “kultaisen standardin”.

EU:n markkinoille laajentuvien japanilaisten yritysten kannalta on tärkeää seurata tätä AI-sääntelyn kehitystä. Suosittelemme konsultoimaan lakimiestä, joka on perehtynyt kansainväliseen oikeudelliseen ympäristöön ja AI-teknologiaan, kun kyse on EU:n AI-sääntelystä.

Toimenpiteemme esittely

Monolith Lakitoimisto on IT-alan, erityisesti internetin ja oikeudellisten kysymysten, rikkaan kokemuksen omaava lakitoimisto. AI-liiketoimintaan liittyy monia oikeudellisia riskejä, ja AI:n oikeudellisiin ongelmiin perehtyneen asianajajan tuki on välttämätöntä. Toimistomme tarjoaa AI:hin perehtyneiden asianajajien ja insinöörien tiimin avulla korkeatasoista oikeudellista tukea AI-liiketoiminnalle, mukaan lukien ChatGPT, sopimusten laatimisessa, liiketoimintamallien laillisuuden arvioinnissa, immateriaalioikeuksien suojelussa ja yksityisyyden käsittelyssä. Lisätietoja on alla olevassa artikkelissa.

Monolith Lakitoimiston palvelualueet: AI (muun muassa ChatGPT) oikeudelliset palvelut[ja]

Managing Attorney: Toki Kawase

The Editor in Chief: Managing Attorney: Toki Kawase

An expert in IT-related legal affairs in Japan who established MONOLITH LAW OFFICE and serves as its managing attorney. Formerly an IT engineer, he has been involved in the management of IT companies. Served as legal counsel to more than 100 companies, ranging from top-tier organizations to seed-stage Startups.

TOPへ戻る