Care sunt riscurile contractuale ale implementării AI în companii? Explicarea 'Checklist-ului' elaborat de Ministerul Economiei, Comerțului și Industriei pentru a preveni crizele înainte de a se produce.
În ultimii ani, implementarea inteligenței artificiale (AI) în mediul de afaceri a cunoscut o avansare semnificativă. Cu toate acestea, utilizarea și dezvoltarea AI implică riscuri și provocări legale specifice, diferite de cele ale sistemelor tradiționale.
În acest context, în luna februarie a anului Reiwa 7 (2025), Ministerul Economiei, Comerțului și Industriei din Japonia a elaborat și publicat “Checklist-ul pentru Contracte legate de Utilizarea și Dezvoltarea AI”. Acest checklist este conceput ca un instrument practic de asistență pentru diverse companii implicate în contracte și utilizarea serviciilor AI, facilitând organizarea și verificarea eficientă a termenilor contractuali.
În acest articol, vom explica, pe baza “Checklist-ului pentru Contracte legate de Utilizarea și Dezvoltarea AI”, cum să clasificăm contractele legate de AI și la ce aspecte să fim atenți atunci când încheiem contracte, pentru a utiliza AI în mod eficient în afaceri.
Checklist pentru Contractele de Utilizare și Dezvoltare AI și Serviciile Vizate de AI în Japonia
Checklist-ul pentru Contractele de Utilizare și Dezvoltare AI vizează o gamă largă de servicii legate de AI, inclusiv AI generativ, și nu este limitat la anumite sectoare industriale sau tehnologii AI specifice.
Checklist-ul este structurat din două perspective, „Input” și „Output”, pentru a organiza sistematic punctele de discuție practice legate de furnizarea și utilizarea serviciilor. Aceasta abordare permite acoperirea tuturor aspectelor legate de ciclul de viață al serviciilor AI, facilitând în același timp extragerea elementelor relevante pentru fiecare parte în parte, în funcție de interesele proprii ale companiei.
Ce înseamnă inputul și outputul în „Checklist-ul pentru Contracte în Utilizarea și Dezvoltarea AI” sub Legea Japoneză
Checklist-ul este structurat pe baza a două faze în serviciile AI:
【Input】
Se referă la informațiile și datele furnizate și utilizate în construcția, învățarea și operarea serviciilor AI, precum și la specificații și condiții. De exemplu, sunt incluse datele pentru învățare, algoritmi, reguli de afaceri și condiții ale sistemului. Dacă aceste inputuri sunt insuficiente sau inadecvate, ele pot afecta direct performanța și fiabilitatea outputurilor AI, motiv pentru care reprezintă elemente importante de luat în considerare.
【Output】
Se referă la rezultatele procesate, inferate sau generate de AI, precum și la modul în care aceste rezultate sunt gestionate, utilizate sau publicate. De exemplu, sunt incluse textele și imaginile generate, rezultatele inferențelor, bazele deciziilor, domeniul de oferire externă și localizarea responsabilității.
Rezultatele outputurilor AI necesită verificări legate de acuratețe, transparență și riscuri legale. „Checklist-ul pentru Contracte în Utilizarea și Dezvoltarea AI” organizează punctele importante de discuție din practica contractuală din ambele perspective: input (furnizarea de informații preliminare) și output (rezultatele AI și gestionarea acestora).
Definiția fiecărui participant
În contractele legate de AI, rolurile participanților, cum ar fi “persoana care dezvoltă AI”, “persoana care furnizează AI” și “persoana care utilizează AI”, pot varia în funcție de tipul serviciului AI.
Să luăm ca exemplu cazul în care un serviciu AI generic este finisat și implementat pentru o anumită companie (tipul descris în secțiunea următoare, 【Tipul 2: Personalizat】). În acest caz, se presupune că se integrează un serviciu AI generic oferit de o altă companie și se ajustează (personalizează) conform specificațiilor companiei client.
În acest moment, furnizorul de servicii de personalizare B devine “furnizorul serviciului AI (vendor)” în relația cu compania A (utilizatorul AI) care primește personalizarea (vezi diagrama de mai jos ①).
Pe de altă parte, în relația cu compania C (dezvoltatorul AI/furnizorul AI) care oferă AI-ul generic de bază (vezi diagrama de mai jos ②), compania B devine utilizatorul serviciului AI.
Astfel, un singur participant poate deveni “furnizor” sau “utilizator” în funcție de partenerul cu care interacționează, motiv pentru care este esențial să clarificăm poziția și domeniul de responsabilitate al fiecăruia atunci când încheiem un contract.
Tipuri de contracte în cadrul „Checklist-ului pentru Contracte de Utilizare și Dezvoltare AI” sub legislația japoneză
Acest checklist clasifică contractele legate de serviciile AI, organizându-le în trei tipuri reprezentative de contracte. Scopul este de a facilita înțelegerea părților contractante asupra punctelor de verificare specifice poziției și obiectivelor lor.
Fiecare tip de contract prezintă puncte de discuție și riscuri caracteristice, iar înțelegerea tipului adecvat este esențială în funcție de scopul implementării AI și de forma de oferire a serviciilor.
Mai jos, vă vom prezenta în detaliu cele trei tipuri de contracte.
Tipul 1: Utilizarea serviciilor generale
Acest tip se referă la contractele în care utilizatorii folosesc direct servicii AI deja dezvoltate și disponibile public.
Un exemplu tipic ar fi utilizarea serviciilor AI de generare, precum ChatGPT sau AI-uri generatoare de imagini (de exemplu: DALL·E, Stable Diffusion), direct pe web.
În general, aceste servicii presupun ca utilizatorii să fie de acord cu termenii și condițiile de utilizare prestabilite de furnizor. Este rar posibil ca utilizatorii să negocieze sau să modifice conținutul contractului.
Pe lista de verificare, punctul central de discuție este modul în care utilizatorii înțeleg și gestionează riscurile atunci când folosesc servicii AI oferite sub condiții prestabilite.
Tip 2: Modelul Personalizat
Acest tip de contract presupune că furnizorul de servicii AI își adaptează modelele și tehnologiile existente în funcție de nevoile specifice ale companiei utilizatoare.
De exemplu, se poate ca un model AI deținut de furnizor să fie supus unui proces de învățare suplimentar cu datele și regulile deținute de utilizator sau să se ajusteze și modifice anumite părți ale sistemului. Imaginați-vă dezvoltarea unui chatbot de marketing care este implementat în cadrul unei companii. Un AI generativ standard poate fi finisat pentru a răspunde specific nevoilor acelei companii prin încărcarea bazei de date a produselor companiei și învățarea din întrebările clienților.
În astfel de contracte, furnizorul oferă tehnologia și know-how-ul dezvoltat inițial, adaptându-le pentru a satisface cerințele specifice ale utilizatorului. Lista de verificare va include aspecte principale precum atribuirea drepturilor de proprietate intelectuală pentru părțile personalizate, posibilitatea de reutilizare și împărțirea responsabilităților.
De asemenea, în funcție de conținutul personalizării, natura produsului final și tipul contractului pot suferi modificări, astfel încât este esențial să se clarifice rolurile părților implicate și definițiile inputurilor și outputurilor.
Tip 3: Dezvoltare de la zero
Acest tip de contract presupune că utilizatorul îi încredințează furnizorului de servicii AI sarcina de a dezvolta un sistem AI complet nou. Cunoscut în general sub denumirea de “dezvoltare de la zero”, acesta implică construirea unui model sau sistem AI dedicat, personalizat pentru a se potrivi cu activitățile și nevoile utilizatorului.
În acest caz, datele pentru instruire și specificațiile sunt adesea furnizate de utilizator, iar modelul AI sau produsele dezvoltate sunt proiectate pe baza cerințelor specifice ale utilizatorului.
Prin urmare, următoarele aspecte sunt deosebit de importante în contract:
- Clarificarea domeniului și conținutului produselor finale
- Stabilirea obiectivelor de precizie și performanță
- Furnizarea și gestionarea datelor pentru instruire
- Proprietatea intelectuală și atribuirea produselor finale
- Responsabilitatea pentru întreținere și actualizări
Acest tip de contract necesită o coordonare foarte atentă între furnizor și utilizator în ceea ce privește designul și specificațiile, astfel încât lista de verificare necesită o examinare detaliată.
Haideți să examinăm acum câteva exemple concrete de input și output, având ca referință diagrama de mai jos.
Checklist: Intrările (Input)
Intrările, așa cum am menționat anterior, se referă la conținutul introdus în AI. Exemple concrete includ datele pentru învățare, algoritmi și prompturi (instrucțiuni sau comenzi adresate AI).
În serviciile de AI, intrările sunt esențiale. Fără acestea, furnizorii nu pot avansa în proiectarea, învățarea și procesarea inferenței AI. Atunci, la ce aspecte ar trebui să fim atenți când furnizăm intrări?
Tratarea inputurilor de la utilizatori către furnizori sub legislația japoneză
Prin urmare, este necesar ca utilizatorii să stabilească clar în clauzele contractuale dacă există o obligație de a furniza informații (denumite “inputuri”) precum date de învățare, reguli, specificații etc., furnizorilor și care sunt detaliile acestei obligații. Concret, acestea includ următoarele aspecte:
- Ce tip de inputuri va furniza utilizatorul
- Termenul, formatul și standardele de calitate pentru furnizare
- Condițiile pe care trebuie să le îndeplinească inputurile furnizate de utilizator furnizorului (natura, cantitatea, granularitatea și alte detalii)
- Dacă conținutul menționat mai sus este acceptabil în lumina scopului utilizării serviciului de către utilizator
Tratarea informațiilor furnizate de furnizori către terți sub legislația japoneză
În serviciile de inteligență artificială (AI), furnizorii construiesc și oferă AI folosind inputurile (de exemplu, date sau specificații) primite de la utilizatori.
Totuși, este esențial să verificăm în contract dacă furnizorul poate oferi sau reutiliza aceste inputuri către terți, stabilind clar permisiunea și condițiile pentru “furnizarea externă”.
În special, inputurile pot include know-how-ul operațional al utilizatorului, informații confidențiale, date personale și proprietate intelectuală, ceea ce poate duce la riscuri semnificative dacă sunt oferite terților.
Prin urmare, este necesar să verificăm dacă următoarele aspecte sunt clarificate în contract:
- Dacă furnizorul poate oferi inputurile primite de la utilizatori către terți
- În cazul în care furnizarea externă este permisă, există restricții privind destinatarii, domeniul și scopul acesteia?
- Tratarea inputurilor care conțin drepturi de proprietate intelectuală sau informații confidențiale ale utilizatorului
Dacă există preocupări cu privire la cele trei puncte menționate, se pot lua în considerare măsuri precum “a nu furniza informații inutile” sau “a renunța la încheierea contractului dacă furnizarea inputurilor către terți nu este acceptabilă”.
Gestionarea Inputurilor de la Furnizori Sub Legislația Japoneză
În serviciile AI, inputurile pe care utilizatorii le furnizează vânzătorilor (de exemplu, date pentru învățare, reguli operaționale, specificații etc.) pot include adesea informații personale, confidențiale sau proprietate intelectuală.
Prin urmare, este esențial să clarificăm ce responsabilități poartă furnizorii în ceea ce privește manipularea și sistemul de gestionare a acestor inputuri.
Ce aspecte contractuale ar trebui să organizăm în ceea ce privește gestionarea inputurilor? Iată câteva exemple:
(Existența și nivelul obligațiilor de gestionare)
- Ce obligații de gestionare are furnizorul pentru inputurile primite de la utilizatori
- În cazul în care furnizorul are obligații de gestionare, care sunt standardele și conținutul răspunsurilor necesare
- Dacă utilizatorii pot solicita audituri sau furnizarea de informații cu privire la sistemul de gestionare al furnizorului
- Dacă sistemul de gestionare este adecvat în raport cu scopul utilizării serviciului de către utilizatori
(Perioada de retenție a inputurilor)
- Cât timp poate păstra furnizorul inputurile
- Ce măsuri va lua furnizorul după încheierea perioadei de retenție
(Obligația de ștergere)
- Dacă furnizorul are obligația de a șterge inputurile la cererea utilizatorului sau la încheierea contractului
- Dacă există o obligație de a emite un certificat de ștergere (de exemplu, un certificat de distrugere)
- Dacă aceste măsuri de ștergere sunt adecvate în raport cu scopurile operaționale ale utilizatorului
Când furnizarea de date personale este implicată, este necesar să organizăm schema de manipulare a datelor personale, ținând cont de faptul că utilizarea în scopuri proprii sau compararea de către furnizor poate constitui o furnizare către terți și poate necesita consimțământul persoanei în cauză.
În cazul în care datele personale sunt subcontractate, este necesar să evaluăm dacă autoritatea de supraveghere pe care o putem exercita asupra furnizorului este la un nivel suficient pentru a procesa ca subcontractare (în caz contrar, să luăm în considerare procesarea ca o furnizare către terți). De asemenea, atunci când transferul datelor personale în străinătate este implicat, este necesar să fim atenți la faptul că, indiferent de existența unei “furnizări” conform legii protecției datelor personale, poate fi necesar să furnizăm informații despre datele personale deținute.
Când furnizarea de informații personale este implicată, în cazul unei scurgeri de informații personale de către furnizor, utilizatorul poate fi obligat să raporteze la autoritățile de supraveghere, ceea ce necesită o atenție deosebită.
În ceea ce privește obligația de ștergere, dacă legislația aplicabilă cere ca furnizorul să aibă o obligație de ștergere, este posibil să solicităm ștergerea ca un exercițiu de drepturi în afara contractului.
Checklist: Rezultatele Output
Rezultatele output, pe înțelesul tuturor, reprezintă rezultatele generate de AI. De obicei, acestea sunt sub formă de text sau imagini, dar pot include și coduri de programare, planuri de design sau materiale pentru strategii de marketing, iar formele de output sunt diverse. Acestea pot conține informații cu grad înalt de confidențialitate, așadar este esențial să le gestionăm cu atenție.
Când utilizatorii distribuie output-ul către terți
Prin utilizarea serviciilor de AI, cum ar fi AI-ul generativ, utilizatorii pot obține diverse tipuri de output (texte generate, imagini, rezultate de inferență etc.).
Aceste output-uri nu sunt doar folosite intern, ci pot fi, de asemenea, oferite sau dezvăluite clienților, partenerilor de afaceri sau utilizatorilor generali.
Totuși, output-ul generat de AI poate include riscuri precum informații inexacte, încălcarea drepturilor sau probleme etice. Pentru a preveni distribuirea neintenționată către terți (inclusiv scurgeri de informații), este necesar să construim un sistem de management adecvat și să implementăm educația corporativă corespunzătoare.
Prin urmare, când utilizatorii oferă output-ul către exterior, este crucial să se ia în considerare acordurile contractuale și gestionarea riscurilor. Verificați următoarele puncte cheie:
- Dacă utilizatorii pot oferi output-ul către terți
- În cazul în care utilizatorii pot distribui către terți, care sunt condițiile de distribuire (destinatarii, domeniul de distribuire și alte condiții). În cazul serviciilor bazate pe utilizare, este necesar să se indice faptul că rezultatele provin din servicii bazate pe AI
- Dacă conținutul de mai sus este acceptabil în lumina scopului utilizării serviciului de către utilizatori
Output-ul de la furnizor către utilizator (b−5−1)
Output-ul obținut prin utilizarea serviciilor de AI (texte generate, imagini, planuri de design, rapoarte etc.) poate reprezenta un produs valoros pentru utilizatori.
Însă, în ceea ce privește drepturile asupra acestui output, întrebările precum “Cine deține drepturile?” și “Este permisă utilizarea liberă?” trebuie clarificate în contract pentru a evita probleme ulterioare. În mod specific, următoarele aspecte trebuie clarificate:
- Dacă utilizatorii obțin anumite drepturi, cum ar fi drepturile de proprietate intelectuală, asupra output-ului
- În cazul în care utilizatorii obțin drepturi, care sunt condițiile de dobândire a drepturilor (obiectul transferului de drepturi, existența sau absența unei contraprestații, prezența sau conținutul licenței și alte condiții)
- Dacă conținutul de mai sus este acceptabil în lumina scopului utilizării serviciului de către utilizatori
Aspecte de luat în considerare când utilizați un checklist
Acest checklist nu are forța legală a unui contract, ci este destinat să organizeze punctele de discuție contractuale din perspectiva ambelor părți, utilizator și furnizor, în ceea ce privește furnizarea și utilizarea serviciilor legate de inteligența artificială (AI) în Japonia. Prin urmare, atunci când încheiați un contract real, este necesar să selectați elementele de verificare necesare, luând în considerare circumstanțele specifice ale acelui contract (cum ar fi forma contractului, conținutul serviciului, natura inputurilor și outputurilor, drepturile și obligațiile părților) și să concretizați condițiile contractuale pentru fiecare element în parte.
Decizia cu privire la modul în care să răspundeți pe baza checklistului depinde de circumstanțele specifice ale fiecărui utilizator, așadar este necesar să luați în considerare în mod comprehensiv circumstanțele relevante, inclusiv următoarele elemente:
- Conținutul serviciilor legate de AI furnizate de vânzător
- Forma contractului (termeni de utilizare sau contracte individuale)
- Riscurile acceptării termenilor contractuali
- Fezabilitatea îndeplinirii fiecărei obligații contractuale
- Existența serviciilor sau metodelor alternative în lumina scopului utilizării AI
- Efortul necesar pentru negocierile contractuale
- Poate fi redus riscul prin metode externe contractului (cum ar fi operațiunile reale)
Concluzie: Consultați un specialist pentru contractele AI
Până acum, ne-am uitat în detaliu la punctele de discuție contractuale legate de input și output, tipurile de contracte și aspectele de care trebuie să ținem cont în utilizarea acestora, bazându-ne pe “Checklist-ul pentru contractele de utilizare și dezvoltare AI” publicat de Ministerul Economiei, Comerțului și Industriei din Japonia.
Se preconizează că tehnologiile AI, inclusiv AI generativ, vor fi integrate tot mai mult în nucleul afacerilor în viitor. Cu toate acestea, utilizarea lor implică numeroase puncte legale și practice, cum ar fi drepturile de autor, protecția datelor personale, confidențialitatea, posibilitatea reutilizării și distribuția responsabilităților, care necesită o organizare atentă.
Pentru a utiliza AI-ul în mod adecvat, nu este suficient doar să implementăm tehnologia, ci este esențial să clarificăm drepturile și obligațiile părților prin intermediul “contractelor” și să prevenim riscurile înainte de a se materializa. În special, în cazul contractelor complexe AI, este sigur și practic să avansăm cu ajutorul sfaturilor departamentelor juridice și de proprietate intelectuală din cadrul companiei, precum și a experților externi.
În timp ce promovăm utilizarea AI-ului, să nu neglijăm verificarea conținutului contractelor și colaborarea cu specialiștii pentru a minimiza riscurile legale.
Ghidul măsurilor noastre de intervenție
Cabinetul de Avocatură Monolith este o firmă de avocatură cu o înaltă specializare în IT, în special în dreptul internetului și al tehnologiei informației. Oferim o gamă largă de suport legal, de la companii listate pe Bursa de Valori din Tokyo până la întreprinderi startup, incluzând redactarea și revizuirea contractelor. Pentru detalii suplimentare, vă rugăm să consultați articolul de mai jos.
Domeniile de practică ale Cabinetului de Avocatură Monolith: Dreptul corporativ pentru IT și startup-uri[ja]
Category: IT
