Care este situația actuală a legilor care reglementează inteligența artificială? Comparație între Japonia și UE și puncte de acțiune explicative

Generatoarele de AI, precum ChatGPT, au devenit un fenomen major. Acestea sunt acum integrate în scena de afaceri, fiind considerate catalizatorul „a patra revoluție AI”. În concordanță, se lucrează la nivel global la dezvoltarea unui cadru legal pentru reglementarea AI.

Acest articol abordează legile legate de AI, explicând gestionarea adecvată a drepturilor de proprietate intelectuală și a informațiilor confidențiale, precum datele personale.

Definiția și istoria AI (Inteligenței Artificiale)

AI (artificial intelligence) se referă la „inteligența artificială”. Din punct de vedere legal, nu există o definiție strictă, fiind propuse diverse definiții. Iată câteva exemple:

AI este descris ca un ansamblu de tehnologii, software-uri, sisteme de calcul și algoritmi care reproduc pe computer capacitățile intelectuale umane.

Printre principalele tipuri de AI specializat se numără:

• Procesarea limbajului natural (traducere automată, analiză sintactică, analiză morfologică, RNN etc.)
• Sistemele expert care imită raționamentul și judecata specialiștilor
• Recunoașterea de imagini și de voce care detectează și extrage anumite modele din date

Domeniul AI (Inteligenței Artificiale) a fost subiect de cercetare și dezvoltare încă din anii 1950, perioada de început a erei calculatoarelor. Primul boom AI a avut loc până în anii 1970, concentrându-se pe cercetarea „explorării și raționamentului”, iar al doilea boom AI a avut loc în anii 1980, când cercetarea „reprezentării cunoștințelor” a dus la apariția sistemelor expert, marcând două paradigme majore în acest domeniu.

Începând cu anii 2000, apariția datelor mari și, după 2012, recunoașterea utilității învățării profunde (deep learning) în procesarea imaginilor prin lansarea Alexnet au adus o recunoaștere globală și o accelerare rapidă a cercetării, ducând la al treilea boom AI.

Între 2016 și 2017, au apărut AI-uri care implementează învățarea profundă (deep learning) și învățarea prin întărire (Q-learning, metode de gradient al politicii), marcând o revoluție majoră în al treilea boom AI, cu progrese notabile în procesarea limbajului natural și procesarea vizuală prin imagini, dar și influențând semnificativ dezvoltarea tehnologică, sociologia, etica și economia.

La 30 noiembrie 2022, lansarea ChatGPT de către OpenAI, un AI generativ pentru procesarea limbajului natural, a atras atenția ca un instrument universal, stimulând activitatea în afacerile AI generative. Unii numesc acest fenomen social al patrulea boom AI.

Scene de afaceri unde trebuie verificate legile privind AI 

Inteligența artificială generativă, o formă de AI, este un instrument util, dar, pe de altă parte, poate răspândi informații false, poate facilita criminalitatea și, uneori, poate reprezenta un risc atât de mare încât să amenințe democrația.

Riscurile asociate cu AI au devenit acum provocări inevitabile. Prin urmare, vom explica scenele de afaceri în care este necesară verificarea reglementărilor legale, din perspectiva utilizatorilor și a furnizorilor.

Utilizarea AI pentru generarea de texte

De la lansarea ChatGPT în noiembrie 2022, AI-ul generativ de texte a atras atenția la nivel mondial ca un instrument versatil, capabil să răspundă la cereri complexe, oferind eficiență în muncă și un raport cost-performanță favorabil.

Pe de altă parte, riscurile asociate cu utilizarea AI-ului generativ de texte au devenit cunoscute. Este esențial să fim conștienți de aceste riscuri potențiale și să respectăm legile relevante pentru a le evita.

ChatGPT, reprezentativ pentru AI-ul generativ de texte, prezintă riscul de scurgere a informațiilor introduse de utilizatori (prompturi) dacă nu se iau măsuri de precauție. Având funcția de a colecta, stoca și utiliza prompturile, există un risc de scurgere a informațiilor confidențiale personale sau corporative, precum și a informațiilor secrete obținute prin acorduri de confidențialitate (NDA).

În plus, există riscuri specifice ChatGPT, cum ar fi generarea și răspândirea de informații false (halucinații), încălcarea drepturilor de autor, printre altele. Prin urmare, este indispensabilă verificarea faptelor pentru conținutul generat.

Utilizarea AI pentru generarea de imagini

Când se utilizează AI pentru generarea de imagini în afaceri, este esențial să se țină cont de riscul de încălcare a drepturilor de autor.

Conform OpenAI, drepturile de autor pentru imaginile și textele generate de ChatGPT aparțin, în principiu, utilizatorului care le-a generat. Utilizatorii pot folosi ChatGPT pentru orice scop, inclusiv comercial.

Totuși, este necesară atenție în utilizare, deoarece datele de instruire ale ChatGPT includ o cantitate mare de conținut disponibil pe internet, majoritatea fiind opere protejate de drepturi de autor (texte, imagini, muzică, videoclipuri etc.). Astfel, conținutul generat poate încălca drepturile de autor ale altora.

Dezvoltarea AI și oferirea de servicii AI generative

Afacerile AI implică diverse legi, iar la nivel mondial se lucrează la stabilirea unui cadru legal. Prin urmare, este necesară o atitudine flexibilă pentru a respecta legile existente și a răspunde noilor reglementări.

În capitolul următor, vom explica legile legate de AI în Japonia și „Legea de reglementare a AI” a UE, prima lege internațională de acest gen, adoptată în decembrie 2023.

Legislația japoneză privind AI

În prezent, în Japonia, AI nu este reglementat prin legi cu forță obligatorie, ci se adoptă o politică de auto-reglementare. Aici vom explica legile actuale care trebuie luate în considerare atunci când se utilizează AI.

Referință: Ministerul Economiei, Comerțului și Industriei | „Ghidul de guvernanță pentru practicarea principiilor AI ver. 1.1”[ja]

Legea drepturilor de autor

În ianuarie 2019 (Era Reiwa 1), „Legea revizuită a drepturilor de autor” a fost implementată, introducând o nouă excepție la restricțiile de drepturi (o prevedere care nu necesită permisiune) pentru „analiza informațiilor” (Articolul 30-4, Paragraful 1, Punctul 2 al aceleiași legi). Utilizările care nu au ca scop bucurarea de idei sau sentimente exprimate în operele protejate de dreptul de autor, cum ar fi analiza informațiilor în dezvoltarea AI sau în etapa de învățare, pot fi efectuate fără permisiunea deținătorului drepturilor de autor.

Această revizuire a clarificat că învățarea automată, inclusiv învățarea profundă a AI, este inclusă în „analiza informațiilor” prin definirea termenului.

În cazul utilizării pentru analiza informațiilor (extragerea informațiilor legate de limbaj, sunet, imagine și alte elemente dintr-o mare cantitate de opere protejate de dreptul de autor sau alte informații și efectuarea de comparații, clasificări sau alte analize ale acestor informații)

Legea drepturilor de autor, Articolul 30-4, Paragraful 1, Punctul 2

Pe de altă parte, este necesară atenție în cazul în care operele create cu ajutorul AI prezintă similitudini sau dependențe față de alte opere protejate de dreptul de autor, deoarece acestea pot constitui o încălcare a drepturilor de autor.

De asemenea, introducerea unei opere protejate de dreptul de autor ca prompt în ChatGPT poate duce la încălcarea dreptului de reproducere și alte drepturi. Modificarea operelor altora folosind AI generativ poate rezulta, de asemenea, în încălcarea drepturilor de adaptare și alte drepturi.

Conform termenilor de utilizare OpenAI, drepturile asupra conținutului creat cu ChatGPT aparțin utilizatorului și utilizarea comercială este permisă, dar în cazul în care este dificil de determinat dacă conținutul încalcă drepturile de autor, se recomandă consultarea unui specialist.

În cazul în care deținătorul drepturilor de autor indică o încălcare a drepturilor de autor, există posibilitatea de a fi tras la răspundere civilă (oprirea utilizării, despăgubiri pentru daune, compensații morale, restabilirea onoarei etc.) sau penală.

Legea prevenirii concurenței neloiale

La 1 iulie 2019 (Era Reiwa 1), Legea revizuită privind prevenirea concurenței neloiale a fost implementată. Până atunci, era dificil să se prevină concurența neloială pentru obiecte care nu erau protejate de legea brevetelor sau de legea drepturilor de autor, sau care nu se încadrau în „secretele comerciale” conform Legii prevenirii concurenței neloiale.

Prin urmare, această revizuire a introdus măsuri civile (dreptul de a solicita oprirea utilizării, estimarea sumei despăgubirilor etc.) împotriva obținerii ilegale sau utilizării ilegale a datelor de valoare (date cu acces limitat) și altor acțiuni rău intenționate.

Legislația UE privind utilizarea IA

Sistemul juridic al UE este format din trei părți: dreptul primar (tratate), dreptul secundar (legislația UE) și jurisprudența. Dreptul secundar, bazat pe dreptul primar (tratate), constă în legislația care obligă direct sau indirect statele membre și este cunoscut sub numele de drept derivat al UE. Există cinci tipuri principale de drept secundar, dar „Regulamentul privind IA” al UE este un regulament, ceea ce înseamnă că este o regulă unificată care obligă direct statele membre ale UE.

Pe de altă parte, o directivă (Directive) impune statelor membre ale UE o obligație legală indirectă de a adopta sau modifica legislația națională pentru a implementa conținutul directivei. Termenul este, în general, de trei ani de la publicarea în Jurnalul Oficial al UE.

Articol asociat: O lectură obligatorie pentru companiile care se extind în Europa: Puncte cheie despre sistemul juridic și legislația UE[ja]

În acest capitol, vom discuta despre cele mai recente tendințe legate de „directive” și „regulamente” în contextul reglementărilor legale ale UE privind utilizarea IA.

Proiectul de Directivă privind Responsabilitatea AI

La 28 septembrie 2022, Comisia Europeană a publicat, alături de „Proiectul de Directivă privind Responsabilitatea pentru Produse”, „Proiectul de Directivă privind Responsabilitatea AI”. Acesta stabilește regulile privind responsabilitatea legală în afacerile AI din UE (Uniunea Europeană), conform „Legii Japoneze de Reglementare a AI”, devenind un cadru legal important. Deoarece va intra sub incidența „Directivei Japoneze privind Acțiunile Colective” a UE, aplicabilă din iunie 2023, companiile japoneze relevante trebuie să fie conștiente de conținutul său.

Reprezintă o schimbare majoră a regulilor legale privind responsabilitatea civilă pentru software, inclusiv sistemele AI din UE, adaptate la economia circulară a erei digitale și la lanțurile de valoare globale.

Articolul asociat: Care este stadiul actual și perspectivele Legii de Reglementare a AI în UE? Impactul asupra companiilor japoneze explicat[ja]

Scopul „Proiectului de Directivă privind Responsabilitatea AI” este de a stabili reguli pentru responsabilitatea civilă bazată pe cauze externe contractului, pentru daunele cauzate de sistemele AI, îmbunătățind astfel funcționarea pieței interne a UE.

Adică, nu se limitează la responsabilitatea contractuală (responsabilitatea pentru neexecutarea obligațiilor contractuale și responsabilitatea pentru neconformitate), ci include daunele bazate pe neglijență (cum ar fi responsabilitatea pentru acte ilicite), care nu sunt limitate la cele care decurg din insuficiența siguranței prevăzute de „Directiva privind Responsabilitatea pentru Produse”. Este necesar să se acorde atenție acestui aspect.

De exemplu, se consideră că daunele cauzate de discriminare prin sistemele de recrutare AI sunt, de asemenea, incluse.

Acest proiect de directivă introduce măsuri de atenuare a sarcinii probei pentru dezvoltatorii de „sisteme AI cu risc înalt” specificate în „Legea de Reglementare a AI”, pentru a aborda problema cutiei negre a AI, inclusiv „presupunerea cauzalității” și „sistemul de divulgare a probelor”.

În cazul nerespectării ordinului de divulgare a probelor, „Proiectul de Directivă privind Responsabilitatea AI” impune obligația de a presupune neglijența și cauzalitatea, iar „Proiectul de Directivă de Amendare a Responsabilității pentru Produse” impune presupunerea defectelor și a cauzalității, aplicând sancțiuni mai severe decât legea japoneză de procedură civilă pentru a asigura conformitatea.

Acest proiect de directivă este limitat, în prima etapă, la măsurile de atenuare a sarcinii probei asociate cu black box-ul AI, stabilind noi prevederi pentru calitatea de reclamant, divulgarea probelor, conservarea probelor și presupunerea cauzalității, cu specificarea fiecărui criteriu.

A doua etapă prevede revizuirea și evaluarea. Comisia Europeană va stabili un program de monitorizare, va revizui informațiile despre incidente și va evalua adecvarea și necesitatea introducerii unei responsabilități fără culpă (responsabilitate strictă) pentru operatorii de sisteme AI cu risc înalt, precum și necesitatea asigurării obligatorii, raportându-se la Consiliul European și Parlamentul European.

Propunerea de modificare a Directivei privind răspunderea pentru produse

“Directiva privind răspunderea pentru produse” este o lege a UE adoptată în 1985 pentru a proteja consumatorii, stabilind responsabilitatea producătorilor pentru daunele cauzate de produsele defecte.

Propunerea de modificare include “software-ul” ca nou obiect al răspunderii pentru produse, adăugându-l la categoria “produselor”. Astfel, dacă un sistem AI, care este un tip de software, prezintă defecte, operatorul sistemului AI va fi supus răspunderii fără vină. De asemenea, criteriile pentru determinarea existenței unui defect includ acum capacitatea de învățare continuă după instalare și actualizările de software.

În legislația actuală din Japonia, “Legea japoneză privind răspunderea pentru produse”, software-ul, în general, nu este considerat un bun mobil, deci nu este inclus în categoria “produselor” care sunt subiectul legii. Totuși, propunerea de modificare abordează schimbarea conceptului de “produs”. Aceasta introduce, de asemenea, “măsuri de ușurare a sarcinii probei”, care ar putea avea un impact semnificativ asupra software-ului, inclusiv sistemelor AI și produselor tehnologice avansate.

Legea de Reglementare a IA

“Legea de Reglementare a IA (AI Act)” este un set de reguli unificate la nivelul UE, destinat afacerilor cu IA, fiind prima lege internațională care reglementează IA, compusă din 85 de articole. A fost adoptată la 9 decembrie 2023, în urma unui acord provizoriu între Comisia Europeană, Parlamentul European și Consiliul European. Se preconizează că va intra în vigoare și va fi aplicată integral în 2024.

Această lege este o parte centrală a strategiei digitale a UE, cunoscută sub numele de “A Europe fit for the Digital Age” (O Europă pregătită pentru era digitală), și își propune să răspundă la noile provocări și riscuri ale erei digitale în evoluție. De asemenea, face parte dintr-un pachet extins de IA care vizează asigurarea siguranței IA și a drepturilor fundamentale, precum și întărirea eforturilor, investițiilor și inovațiilor legate de IA în întreaga UE.

Legea de Reglementare a IA a UE se aplică direct statelor membre ale UE, dar are și aplicabilitate extrateritorială, fiind aplicabilă și afacerilor care operează în interiorul UE, precum și celor situate în afara UE.

În caz de încălcare, se pot impune sancțiuni financiare semnificative pe baza vânzărilor globale (până la 30 de milioane de euro sau 6% din cifra de afaceri globală, în funcție de care este mai mare), existând și riscul ca afacerile cu IA să nu mai poată opera în cadrul UE.

Prin urmare, companiile care au deja implementat IA pe piața UE, inclusiv cele japoneze, precum și cele care intenționează să intre pe piața UE, trebuie să se conformeze noilor reglementări privind IA ale UE.

Structura “Legii de Reglementare a IA” se bazează pe trei caracteristici principale: “clasificarea IA bazată pe risc”, “cerințele și obligațiile” și “suportul pentru inovație”.

Reglementările se aplică afacerilor care introduc sisteme și servicii de IA pe piața europeană, incluzând dezvoltatorii, implementatorii, furnizorii, importatorii, distribuitorii și utilizatorii de IA.

Riscurile asociate IA sunt clasificate în patru niveluri, fiecare cu reglementările sale specifice. Pentru a atinge principiile IA, este esențial să se asigure alfabetizarea în IA a dezvoltatorilor, utilizatorilor și furnizorilor, conform unor directive clare.

Pentru mai multe detalii, vă rugăm să consultați articolul asociat: Starea actuală și perspectivele Legii de Reglementare a IA în UE? Impactul asupra companiilor japoneze explicat[ja]

Aspecte legale de reținut în legătură cu AI

Acest capitol explică în principal punctele de atenție legale când companiile doresc să utilizeze AI generativ.

Despre drepturile de autor ale creațiilor AI

În ceea ce privește creațiile generate de AI generativ, se pot considera următoarele aspecte legale:

• Dacă aceste creații încalcă drepturile de autor sau nu
• Dacă creațiile generate de AI pot fi recunoscute cu drepturi de autor

Așa cum am menționat anterior, creațiile generate de ChatGPT pot constitui o încălcare a drepturilor de autor dacă se recunoaște similaritatea sau dependența față de o operă protejată de drepturi de autor. Pe de altă parte, se pune întrebarea dacă creațiile generate de AI generativ pot fi recunoscute cu drepturi de autor.

Conform legii drepturilor de autor, o “operă” este definită ca o “expresie creativă a ideilor sau sentimentelor”. Deoarece AI nu are idei sau sentimente, există opinia că conținutul creat de AI generativ nu poate fi recunoscut cu drepturi de autor.

Totuși, procesul de generare a conținutului de către AI poate fi un “black box” (proces de decizie opac) pentru utilizatori, făcând dificilă obținerea rezultatului dorit de la AI. În cazurile în care se recunoaște că utilizatorul a avut o contribuție creativă în etapa de prompt, se poate considera că “ideile sau sentimentele” utilizatorului au fost “exprimate creativ” prin intermediul AI generativ, și astfel, ar putea fi recunoscute drepturi de autor.

Despre prelucrarea datelor personale în utilizarea AI

La utilizarea AI, este necesar să se acorde atenție posibilității de încălcare a legii protecției datelor personale. Este necesar să se ia măsuri, cum ar fi evitarea introducerii de informații personale și private.

În cazul în care se introduc date personale în prompt, acest lucru poate constitui o furnizare de date personale către terți din partea furnizorului de servicii. În general, este necesar consimțământul persoanei în cauză pentru a furniza date personale către terți, astfel că, în lipsa acestui consimțământ, se poate încălca legea protecției datelor personale.

În cazul ChatGPT, chiar dacă se introduc accidental date personale, sistemul este conceput să nu le poată afișa în chat. Aceasta este politica OpenAI de a nu salva sau urmări informațiile personale, însă este important de reținut că alte servicii sau platforme pot avea politici diferite, necesitând prudență.

Măsuri de gestionare a riscurilor atunci când companiile se implică în AI

Măsurile de gestionare a riscurilor variază în funcție de strategia de afaceri a companiei, scopul utilizării AI și reglementările legale relevante, astfel încât este esențial să se adopte măsuri de gestionare a riscurilor adecvate situației și obiectivului.

Pentru ca companiile care utilizează AI generativ să minimizeze riscurile, ar trebui să ia în considerare următoarele puncte:

1. Dezvoltarea personalului: Utilizarea adecvată a AI generativ necesită cunoștințe și competențe specializate. Este important să se asigure că angajații înțeleg metodele adecvate de utilizare prin educație și formare.
2. Elaborarea, implementarea și gestionarea ghidurilor interne: Elaborarea unor ghiduri interne privind utilizarea AI generativ și asigurarea respectării acestora de către angajați poate reduce riscurile.
3. Construirea unei organizații de promovare pentru utilizarea și măsurile de gestionare a riscurilor AI: Este eficient să se stabilească o organizație care să promoveze utilizarea AI generativ și să plaseze o echipă responsabilă de gestionarea riscurilor în cadrul organizației.
4. Implementarea sistemului: Pentru a introduce adecvat AI generativ, este necesar să se selecteze și să se proiecteze cu atenție sistemul.

În plus, riscurile asociate cu utilizarea AI generativ sunt diversificate și includ scurgeri de informații, încălcări ale drepturilor și ale intimității, preocupări legate de acuratețea și siguranța informațiilor, precum și riscuri de părtinire. Pentru a evita aceste riscuri, este esențial să se introducă un cadru adecvat de guvernanță și gestionare a riscurilor.

Articolul asociat: “Riscurile asociate cu implementarea ChatGPT în companii. Explicarea cazurilor de scurgere de informații confidențiale și a măsurilor de prevenire”[ja]

Concluzie: Legile AI sunt în curs de dezvoltare, necesitând o actualizare constantă

Legislația privind afacerile AI, începând cu prima lege internațională a „Regulamentului AI” în UE (adoptată pe 9 decembrie 2023), este într-un stadiu de dezvoltare a cadrului legal, ceea ce necesită ca întreprinderile să respecte legile existente, dar și să adopte o abordare flexibilă față de noile legi.

În Japonia, nu există încă legi care să reglementeze direct AI, dar este esențial să înțelegem și să ne conformăm corespunzător legilor asociate, cum ar fi Legea drepturilor de autor, Legea protecției datelor personale și Legea prevenirii concurenței neloiale. De asemenea, este necesar să monitorizăm cu atenție tendințele de modificare a legislației asociate și să răspundem rapid la acestea.

Ghidul măsurilor noastre

Cabinetul de Avocatură Monolith este un birou de avocatură cu experiență bogată în IT, în special în ceea ce privește internetul și legea. Afacerile AI implică multe riscuri legale, iar suportul unui avocat familiarizat cu problemele legale legate de AI este esențial.

Cabinetul nostru oferă suport juridic avansat pentru afacerile AI, inclusiv ChatGPT, printr-o echipă de avocați și ingineri familiarizați cu AI, care se ocupă de crearea de contracte, evaluarea legalității modelelor de afaceri, protecția drepturilor de proprietate intelectuală și conformitatea cu reglementările privind confidențialitatea. Detalii suplimentare sunt disponibile în articolul de mai jos.

Domenii de practică ale Cabinetului de Avocatură Monolith: Jurisprudența AI (inclusiv ChatGPT etc.)[ja]