Un avocat explică conținutul 'Ghidului pentru operatorii de AI' al Ministerului Economiei, Comerțului și Industriei

În anul 2024 (Reiwa 6), Ministerul Economiei, Comerțului și Industriei din Japonia a compilat “Ghidul pentru Operatorii de AI (Versiunea 1.0)[ja]“, care, pe fondul progresului rapid al tehnologiei AI și al importanței gestionării riscurilor și a provocărilor etice în implementarea socială a acesteia, a fost creat ca un indicator esențial pentru direcția guvernanței AI pe care companiile ar trebui să o urmeze, cu scopul de a asigura utilizarea adecvată a AI și de a îmbunătăți încrederea socială. Acest ghid, ca un soft law fără forță juridică obligatorie, clarifică rolurile fiecărui actor și se concentrează pe un conținut care prioritizează o abordare bazată pe risc și coerența cu sistemele internaționale.

În plus, o caracteristică distinctivă a acestui ghid este adoptarea conceptului de “guvernanță agilă”, care nu se bazează pe reguli fixe, ci se adaptează flexibil la schimbările de mediu. Prin analiza mediului și a riscurilor, stabilirea obiectivelor, operarea și evaluarea ciclurilor într-un mod continuu, companiile pot reduce riscurile și pot realiza dezvoltarea durabilă a tehnologiei în timpul dezvoltării, oferirii și utilizării AI. De asemenea, colaborarea între mai mulți actori, circulația adecvată a datelor și implicarea activă a managementului sunt subliniate ca piloni care susțin o guvernanță eficientă.

Publicarea Ghidului pentru Operatorii de AI de către Ministerul Economiei, Comerțului și Industriei și Contextul său

În aprilie 2024, Ministerul Economiei, Comerțului și Industriei din Japonia a elaborat și publicat “Ghidul pentru Operatorii de AI (Versiunea 1.0)[ja]“. Acest ghid este poziționat ca un set de linii directoare fără forță juridică obligatorie, menit să sprijine dezvoltarea și implementarea tehnologiei AI în societate. Prin urmare, spre deosebire de legile care impun obligații, acesta oferă concepte și principii de bază, precum și linii directoare care pot servi ca referință pentru operatorii care doresc să le pună în practică. Structura ghidului include o secțiune principală care descrie conceptele și principiile, și un anex care prezintă metode specifice de implementare.

Abordarea bazată pe „Principiile unei societăți AI centrate pe om”

„Ghidul pentru operatorii de AI” se bazează pe „Principiile unei societăți AI centrate pe om”, care au fost stabilite în martie 2019 (Reiwa 1). Aceste principii susțin ideea fundamentală că „nu oamenii sunt cei care sunt utilizați de AI, ci oamenii sunt cei care utilizează AI”. Mai exact, AI ar trebui să fie sub controlul uman, servind ca un mijloc de extindere a capacităților umane, și trebuie evitată o dependență excesivă care ar putea duce la manipularea oamenilor.

Mai mult, AI nu ar trebui să se limiteze la a fi un substitut pentru munca umană, ci ar trebui să funcționeze ca un instrument avansat și convenabil care să sporească creativitatea și abilitățile umane. Prin urmare, atunci când se utilizează AI, utilizatorii trebuie să decidă cum să o folosească și să ia decizii responsabile în acest sens.

Consolidarea și Revizuirea Ghidurilor Anterioare

Acest ghid a fost elaborat prin consolidarea și revizuirea celor trei principale ghiduri anterioare.

• “Ghidul pentru Dezvoltarea AI” (2017): Explică principiile de bază și punctele de atenție în dezvoltarea AI.
• “Ghidul pentru Utilizarea AI” (2019): Prezintă principiile de bază și explicațiile lor pentru utilizarea AI.
• “Ghidul de Guvernanță pentru Practicarea Principiilor AI” (2021): Oferă obiective de acțiune concrete și exemple de practici pentru a promova implementarea socială a AI.

Acestea au fost utilizate ca linii directoare pe care operatorii de afaceri AI din Japonia ar trebui să le respecte. Noul “Ghid pentru Operatorii de Afaceri AI” integrează aceste elemente și include considerații privind tendințele internaționale și ascensiunea noilor tehnologii.

Procesul de elaborare și istoricul publicării

Versiunea propusă a “Ghidului pentru operatorii de AI” a fost prezentată pentru prima dată în cadrul Consiliului Strategic pentru AI al Cabinetului Japoniei (a 7-a întâlnire) care a avut loc pe 21 decembrie 2023 (2023). Ulterior, pe 19 ianuarie 2024 (2024), ghidul a fost oficial publicat sub egida Ministerului Afacerilor Interne și Comunicațiilor și a Ministerului Economiei, Comerțului și Industriei, iar între 20 ianuarie și 19 februarie 2024 (2024) s-a desfășurat o perioadă de consultare publică. După acest proces de colectare a feedback-ului, pe 19 aprilie 2024 (2024), “Ghidul pentru operatorii de AI (Versiunea 1.0)” a fost finalizat și publicat.

Semnificația Ghidurilor

În timp ce Uniunea Europeană a adoptat Legea privind Reglementarea AI ca așa-numitul “hard law”, “Ghidurile pentru Operatorii de AI” din Japonia reprezintă ceea ce se numește “soft law” și nu au forță juridică obligatorie, ci oferă principii fundamentale și linii directoare de comportament pe care operatorii de AI ar trebui să le practice. În contextul dezvoltării tehnologiei AI, acestea constituie un pas important pentru promovarea utilizării adecvate în societate și pentru construirea unei societăți AI de încredere. Operatorii sunt încurajați să folosească aceste ghiduri ca referință pentru a elabora politici proprii în ceea ce privește dezvoltarea și utilizarea AI în cadrul companiilor lor.

Principiile fundamentale ale „Ghidului pentru Operatorii de AI” sub legislația japoneză

„Ghidul pentru Operatorii de AI” din Japonia este structurat în jurul a trei principii fundamentale, menite să promoveze dezvoltarea tehnologiei AI și implementarea acesteia în societate într-un mod adecvat.

Susținerea inițiativelor voluntare ale operatorilor

Ghidul pentru Operatorii de AI recomandă o abordare bazată pe riscuri, care sugerează direcția măsurilor pe care companiile ar trebui să le ia în funcție de magnitudinea și probabilitatea riscurilor. Această abordare promovează măsuri flexibile, adaptate la conținutul și nivelul riscurilor, presupunând că riscurile pot varia semnificativ în funcție de cazul de utilizare și de natura modelului AI. Este important de remarcat că riscurile asociate cu fiecare caz de utilizare nu corespund întotdeauna cu dimensiunea companiei, ceea ce necesită o evaluare atentă a naturii riscului.

Pentru tipurile de risc ridicat, se ia în considerare reglementarea legală, în timp ce pentru tipurile de risc scăzut se pot folosi metode flexibile de reglementare, cum ar fi certificarea privată sau autodeclarația. Această abordare permite evitarea reglementărilor excesive și asigură o gestionare eficientă a riscurilor.

Coordonarea cu discuțiile internaționale

Piața tehnologiei AI se extinde dincolo de frontiere, iar pentru ca companiile japoneze să-și mențină competitivitatea la nivel internațional, este esențial să asigure conformitatea cu sistemele și principiile străine. Principiile fundamentale și conceptele din acest ghid sunt bazate pe liniile directoare internaționale, cum ar fi Principiile AI ale OECD, iar în anexă sunt clarificate relațiile cu ghidurile din alte țări.

Având în vedere că modelele și serviciile AI fac parte dintr-o piață transfrontalieră, este crucial pentru companiile japoneze să asigure interoperabilitatea cu sistemele străine pentru a prospera la nivel global. În plus, atunci când se stabilesc anumite reguli, este important să se evite situații în care companiile japoneze să suporte o povară disproporționată, diminuându-le competitivitatea, și să se asigure că sistemele sunt eficiente și pentru companiile străine, menținând astfel un teren de joc echitabil pentru toate companiile, atât interne cât și externe.

Claritate pentru cititor

Ghidul pentru Operatorii de AI pune accent pe ușurința de înțelegere pentru cititor. În mod particular, se disting riscurile și politicile de răspuns care trebuie luate în considerare pentru fiecare subiect în parte, cum ar fi „dezvoltatorii de AI”, „furnizorii de AI” și „utilizatorii de AI”.

„Multi-Stakeholder” și „Living Document”

Pe lângă acestea, adoptarea conceptelor de „Multi-Stakeholder” și „Living Document” reprezintă alte caracteristici ale Ghidului pentru Operatorii de AI. Cu alte cuvinte, ghidul este elaborat prin discuții repetate între părțile interesate multiple, inclusiv instituții de educație și cercetare, societatea civilă, inclusiv consumatorii, și companii private, punând accent pe eficacitate și legitimitate. În plus, ca un „Living Document”, este planificată actualizarea periodică a ghidului, în conformitate cu îmbunătățirile iterative ale guvernanței AI, inspirându-se din conceptul de guvernanță agilă.

Ghidul privind distincția și domeniul de aplicare al entităților în „Ghidul Operatorilor AI” din Japonia

Unul dintre aspectele importante ale „Ghidului Operatorilor AI” este modul în care distinge entitățile vizate în funcție de caracteristicile lor și clarifică conținutul pe care acestea ar trebui să-l abordeze. În acest ghid, „Dezvoltatorii AI”, „Furnizorii AI” și „Utilizatorii AI” sunt considerați entități vizate, în timp ce „Utilizatorii în afara activităților profesionale” și „Furnizorii de date” sunt excluși din domeniul de aplicare.

Rolurile și responsabilitățile dezvoltatorilor, furnizorilor și utilizatorilor AI

Dezvoltatorii AI sunt entitățile responsabile de prelucrarea datelor înainte de utilizarea AI, învățarea și procesul de dezvoltare. Aceasta include activități precum prelucrarea datelor de învățare colectate, generarea modelului AI și verificarea utilității prin teste. Aceste procese constituie fundamentul pentru asigurarea performanței și fiabilității AI, astfel încât dezvoltatorii sunt solicitați să gestioneze datele în mod adecvat și să construiască modele de înaltă calitate.

Furnizorii AI sunt entitățile care se ocupă cu implementarea și furnizarea sistemelor AI. Aceștia integrează modelele AI în sisteme existente sau nou create și, după ce le coordonează cu alte sisteme, le oferă utilizatorilor. De asemenea, pot include cazuri în care promovează utilizarea adecvată a sistemelor AI prin conștientizare și suport operațional sau când operează și oferă direct servicii AI. Astfel, ei sprijină utilizatorii să folosească sistemele AI în mod sigur și eficient.

Utilizatorii AI sunt entitățile care folosesc sistemele și serviciile AI. Utilizatorii operează sistemele AI în mod adecvat și beneficiază de avantajele acestora, ținând cont de avertismentele furnizate de furnizori. În același timp, ei poartă responsabilitatea de a folosi sistemele AI în conformitate cu intenția de design. Astfel, acțiunile utilizatorilor influențează acceptarea socială și fiabilitatea sistemelor AI.

Entitățile excluse din domeniul de aplicare

În contrast, „Furnizorii de date” și „Utilizatorii în afara activităților profesionale” sunt excluși din domeniul de aplicare al ghidului. Furnizorii de date sunt cei care furnizează date pentru învățarea AI și pot include diverse persoane juridice sau fizice, precum și date furnizate prin senzori sau sisteme. Pe de altă parte, utilizatorii în afara activităților profesionale sunt cei care beneficiază de avantajele sistemelor sau serviciilor AI în afara activităților de afaceri și, în unele cazuri, pot fi afectați de deciziile luate de AI.

De exemplu, în serviciile AI care utilizează datele candidaților la locuri de muncă, „Dezvoltatorii AI” sunt cei care dezvoltă modelul AI, „Furnizorii AI” sunt cei care oferă serviciul, iar companiile care folosesc acest serviciu sunt „Utilizatorii AI”. În schimb, candidații din trecut corespund „Furnizorilor de date”, iar aplicanții care sunt evaluați de serviciu sunt „Utilizatorii în afara activităților profesionale”.

Ghidul Comun al Principiilor pentru Operatorii de AI sub Legislația Japoneză

Ghidul pentru Operatorii de AI din Japonia stabilește zece principii comune pe care toți operatorii, indiferent de atribuțiile lor, trebuie să le urmeze. Aceste principii sunt clasificate în două categorii: cele pe care fiecare operator trebuie să le abordeze individual și cele care necesită colaborare cu societatea, fiind poziționate ca un cadru pentru guvernanța AI.

Cele șapte principii pe care operatorii trebuie să le abordeze individual

1. Centrare pe om: Utilizarea AI trebuie să respecte demnitatea umană, să înțeleagă acuratețea și limitele rezultatelor și să evite utilizarea în scopuri inadecvate. De asemenea, este necesară atenția la utilizarea AI care poate distorsiona informațiile și valorile, limitând opțiunile, asemenea bulelor de filtrare.
2. Siguranță: Este necesară efectuarea unei analize de risc și implementarea măsurilor adecvate pentru a asigura că sistemele AI nu deviază de la scopul lor inițial. Asigurarea acurateței și transparenței datelor, precum și actualizarea adecvată a modelelor AI, sunt de asemenea esențiale.
3. Echitate: Trebuie să ne străduim ca rezultatele AI să nu promoveze prejudecăți sau discriminare. Este necesară intervenția judecății umane în deciziile AI și luarea în considerare a potențialelor părtiniri.
4. Protecția intimității: Este necesară conformitatea cu standardele internaționale de protecție a datelor personale și respectarea liniilor directoare și normelor internaționale privind intimitatea. De asemenea, este importantă asigurarea interoperabilității în transferul transfrontalier de date personale.
5. Securitate: Este necesară menținerea confidențialității, integrității și disponibilității sistemelor AI și implementarea măsurilor rezonabile bazate pe nivelul tehnologic. Este necesară și pregătirea pentru atacuri externe, răspunzând la riscurile actuale.
6. Transparență: Procesele de învățare și de raționament ale sistemelor AI trebuie să fie verificabile și, la nevoie, să se ofere explicații. Totuși, nu se cere divulgarea algoritmilor sau a codului sursă, respectându-se intimitatea și secretele comerciale.
7. Răspundere: În cazul erorilor în rezultatele AI, este necesar să acceptăm feedback-ul și să efectuăm monitorizare obiectivă. Se așteaptă elaborarea unei politici de răspuns către părțile interesate și raportarea periodică a progresului.

Cele trei principii de abordat în colaborare cu societatea

1. Educație și literație: Este necesară educația pentru a asigura că toți cei implicați în AI dobândesc o literație AI adecvată și promovarea conștientizării caracteristicilor și riscurilor AI către părțile interesate.
2. Asigurarea unei concurențe corecte: Este necesară crearea unui mediu în care noile afaceri și servicii care utilizează AI să poată concura corect, vizând creșterea economică durabilă și soluționarea problemelor sociale.
3. Inovație: Este promovată diversitatea internațională și colaborarea între industrie, universități și guvern, asigurând interconectivitatea între sistemele AI. Dacă există specificații standard, conformarea cu acestea este recomandată.

Importanța și metodele de practică ale “Agile Governance” sub legislația japoneză

“Ghidul pentru operatorii de AI” subliniază că în construirea guvernanței AI nu este adecvat să se adopte o abordare uniformă, ci este necesară o adaptare flexibilă în funcție de dimensiunea și tipul de afaceri al fiecărei companii. În loc să imite pur și simplu inițiativele altor companii, se cere ca de la conducerea executivă până la personalul operațional să experimenteze prin încercare și eroare și să proiecteze și să implementeze reguli adaptate propriilor nevoi. Practicarea “Agile Governance” este cheia acestui proces.

Ce este Agile Governance?

Agile Governance se referă la o abordare care nu stabilește reguli fixe în avans, ci rotește continuu următorul ciclu pentru a răspunde flexibil la schimbările mediului extern și la riscurile tehnologice:

• Analyzează mediul și riscurile: Înțelege precis mediul extern și riscurile tehnologice.
• Stabilește obiective: Setează obiective adecvate situației actuale.
• Proiectează sistemul: Creează un sistem AI eficient pentru atingerea obiectivelor.
• Implementare: Operează sistemul proiectat și verifică rezultatele.
• Evaluare: Evaluează periodic rezultatele operațiunilor și ajustează după necesitate.

Continuând să rotești acest ciclu, devine posibil să răspunzi rapid și eficient la mediul tehnologic și la tendințele pieței în schimbare rapidă.

Cele trei piloni care susțin Agile Governance

“Agile Governance” indică modul în care guvernanța ar trebui să evolueze odată cu progresul tehnologiei AI. Companiile sunt solicitate să răspundă flexibil în funcție de modelul lor de afaceri și de mediul de afaceri, și să se angajeze într-un efort unitar de la conducerea executivă până la personalul operațional. În plus, stabilirea unei colaborări între entități și a unei gestionări a riscurilor la nivel internațional poate face guvernanța AI mai eficientă. În acest proces, următoarele elemente pot fi considerate importante:

• Asigurarea colaborării între multiple entități: Tehnologia AI implică mai multe părți din perspectiva lanțului de valoare și a lanțului de risc, deci este esențial să clarifici rolurile și responsabilitățile fiecăruia și să asiguri colaborarea. Acest lucru permite o gestionare adecvată a riscurilor la fiecare etapă de dezvoltare, furnizare și utilizare a sistemelor AI.
• Asigurarea unei circulații adecvate a datelor: Pentru implementarea guvernanței AI, circulația adecvată a datelor este indispensabilă. În special, atunci când se prevede utilizarea datelor în mai multe țări, este necesar să menții transparența și securitatea datelor, luând în considerare reglementările și cerințele de gestionare a riscurilor din fiecare țară.
• Angajamentul conducerii executive: Pentru a realiza o guvernanță AI eficientă, este necesară implicarea activă a conducerii executive. În mod specific, este esențial să elaborezi o strategie de guvernanță, să organizezi un sistem la nivelul întregii organizații și să promovezi aceasta ca parte a culturii corporative. Angajamentul conducerii executive devine forța motrice pentru ca întreaga organizație să urmărească același obiectiv.

Detalii despre guvernanța AI pe care companiile ar trebui să o construiască, așa cum este prezentată în “Ghidul pentru operatorii de AI”, sunt introduse în detaliu în articolul de mai jos.

Articolul conex: Ce presupune guvernanța AI pe care companiile ar trebui să o abordeze? Explicarea punctelor bazate pe ‘Ghidul pentru operatorii de AI'[ja]

Ghidul măsurilor noastre de intervenție

Cabinetul de Avocatură Monolith este o firmă de avocatură cu experiență bogată în IT, în special în domeniul internetului și al legii.

Afacerile bazate pe AI implică numeroase riscuri legale, iar suportul unui avocat versat în problemele legale legate de AI este esențial. Cabinetul nostru oferă suport juridic avansat pentru afacerile AI, inclusiv ChatGPT, prin intermediul unei echipe de avocați și ingineri specializați în AI, oferind servicii precum crearea de contracte, evaluarea legalității modelelor de afaceri, protecția drepturilor de proprietate intelectuală și conformitatea cu reglementările privind confidențialitatea. Detalii suplimentare sunt furnizate în articolul de mai jos.

Domeniile de practică ale Cabinetului de Avocatură Monolith: Jurisprudență AI (inclusiv ChatGPT etc.)[ja]