Care sunt riscurile de scurgere a informațiilor cu ChatGPT? Prezentarea a 4 măsuri de precauție esențiale

În ultima vreme, “ChatGPT” a atras atenția publicului. Este un AI generativ care poate crea manuscrise, programe, partituri muzicale și desene, captând astfel interesul în diverse domenii.

Abrevierea GPT din “ChatGPT” vine de la “Generative Pre-training Transformer” și se referă la capacitatea de a pre-învăța o cantitate mare de texte, imagini și audio (prin extensii), permițând desfășurarea unor conversații naturale, asemenea unui om.

Datorită abilității sale de a gestiona sarcini complexe, ChatGPT este privit ca un instrument care promite eficientizarea muncii și un raport cost-performanță avantajos, atrăgând atenția în acest sens. Utilizarea ChatGPT este deja în curs de expansiune în diverse domenii, iar multe companii tech încep să dezvolte propriile sisteme AI.

Pe lângă numeroasele oportunități de afaceri pe care tehnologia AI, inclusiv ChatGPT, le prezintă, există și riscuri potențiale precum problemele de drepturi de autor, răspândirea informațiilor incorecte, scurgerile de informații confidențiale, problemele de confidențialitate și posibilitatea de a fi folosit în atacuri cibernetice.

În acest articol, un avocat va explica măsurile ce trebuie luate pentru a preveni riscurile de scurgere a informațiilor în contextul utilizării ChatGPT.

Riscurile de scurgere a informațiilor asociate cu ChatGPT

Riscurile asociate cu implementarea ChatGPT în cadrul companiilor includ în principal următoarele patru aspecte:

• Riscuri de securitate (scurgeri de informații, acuratețe, vulnerabilități, disponibilitate etc.)
• Riscuri de încălcare a drepturilor de autor
• Riscuri de utilizare abuzivă (atacuri cibernetice etc.)
• Provocări etice

Riscul de scurgere a informațiilor legat de ChatGPT se referă la posibilitatea ca informațiile confidențiale introduse în ChatGPT să fie văzute de angajații OpenAI sau de alți utilizatori, sau să fie folosite ca date pentru învățare.

Conform politicii de utilizare a datelor OpenAI, în absența unei solicitări de “opt-out” sau dacă nu se utilizează API-ul ChatGPT, datele introduse de utilizatori în ChatGPT pot fi colectate și utilizate (pentru învățare) de către OpenAI (vom explica mai detaliat mai târziu).

Exemple de cazuri în care utilizarea ChatGPT a dus la scurgeri de informații

Aici vom prezenta cazuri în care utilizarea ChatGPT a dus la scurgerea informațiilor personale înregistrate sau a informațiilor confidențiale introduse.

Cazuri de scurgere a informațiilor personale

La data de 24 martie 2023, OpenAI a anunțat că a descoperit un bug care a făcut ca informații personale, inclusiv ultimele patru cifre ale numărului de card de credit și data de expirare a acestuia, să fie afișate unor utilizatori, din cauza căruia ChatGPT a fost scos temporar offline pe 20 martie. S-a raportat că informațiile personale scurse aparțineau unui număr de membri (aproximativ 1,2% din abonați) ai planului plătit “ChatGPT Plus”.

În plus, în același timp cu acest bug, a fost raportat și un alt bug care a făcut ca istoricul de chat al unui utilizator să fie afișat altor utilizatori.

Ca urmare, la 31 martie 2023, autoritatea de protecție a datelor din Italia a emis o ordonanță de îmbunătățire către Open AI, impunând restricții temporare asupra procesării datelor utilizatorilor din această țară, pe motiv că ChatGPT colectează și stochează date personale fără o bază legală adecvată. Ca răspuns, OpenAI a blocat accesul la ChatGPT din Italia. Acest bloc a fost ridicat la 28 aprilie același an, după ce OpenAI a îmbunătățit gestionarea datelor personale.

Cazuri de scurgere a informațiilor confidențiale din companii

În februarie 2023, compania americană de securitate cibernetică Cyberhaven a publicat un raport privind utilizarea ChatGPT de către companiile cliente.

Conform raportului, dintre cei 1,6 milioane de angajați ai companiilor cliente care utilizează produsele Cyberhaven, 8,2% dintre lucrătorii din domeniul cunoașterii au folosit cel puțin o dată ChatGPT la locul de muncă, iar dintre aceștia, 3,1% au introdus date confidențiale ale companiei în ChatGPT.

De asemenea, într-un caz din Coreea de Sud, la 30 martie 2023, media coreeană “Economist” a raportat că o divizie internă a Samsung Electronics a permis utilizarea ChatGPT, ceea ce a dus la introducerea de informații confidențiale. Deși Samsung Electronics a emis avertismente privind securitatea informațiilor interne, au existat angajați care au introdus codul sursă al programului și conținutul întâlnirilor.

În acest context, există țări și companii care impun restricții asupra utilizării ChatGPT, în timp ce altele promovează o politică de încurajare a utilizării sale. La introducerea ChatGPT, ar trebui să se ia în considerare riscul de scurgere a informațiilor și să se evalueze cu atenție.

Patru măsuri pentru a preveni scurgerile de informații cu ChatGPT

Odată ce o scurgere de informații are loc, consecințele pot fi grave, incluzând nu doar responsabilitatea legală, dar și pierderi semnificative de încredere și reputație. Prin urmare, este esențial să se asigure un sistem adecvat de gestionare a informațiilor în cadrul companiei și să se implementeze programe de educație corespunzătoare.

În continuare, vă vom prezenta patru măsuri pentru a preveni scurgerile de informații utilizând ChatGPT.

Măsura 1: Stabilirea regulilor de utilizare

În primul rând, este esențial să determinăm poziția companiei noastre față de ChatGPT și să includem în regulamentul intern articole referitoare la utilizarea ChatGPT. Este important să stabilim și să operăm cu reguli clare, cum ar fi să nu introducem informații personale sau confidențiale.

În acest context, ar fi de dorit să elaborăm un ghid de utilizare a ChatGPT specific companiei noastre. De asemenea, în contractele cu terțe părți, ar trebui să includem articole referitoare la utilizarea ChatGPT.

La data de 1 mai 2023 (Reiwa 5), Asociația Japoneză pentru Învățare Profundă (JDLA) a compilat problemele etice, legale și sociale (ELSI) legate de ChatGPT și a publicat “Ghidul de utilizare a AI-ului generativ”.

În diferite domenii, inclusiv în mediul academic și guvernamental, s-a început elaborarea de ghiduri. Referindu-ne la acestea, putem elabora un ghid clarificat pentru utilizarea ChatGPT în compania noastră, ceea ce ne poate ajuta să evităm anumite riscuri.

Referință: Asociația Japoneză pentru Învățare Profundă (JDLA) | Ghidul de utilizare a AI-ului generativ[ja]

Totuși, dacă ghidul elaborat nu este bine cunoscut și aplicat cu strictețe, acesta nu va avea sens. Un ghid în sine nu este suficient ca măsură de precauție.

Măsura 2: Stabilirea unui sistem pentru prevenirea scurgerilor de informații

Ca măsură de prevenire a erorilor umane, implementarea unui sistem numit DLP (Data Loss Prevention), care previne scurgerea datelor specifice, face posibilă prevenirea transmiterii și copierii informațiilor confidențiale.

DLP este un sistem care monitorizează datele în mod constant, nu utilizatorii, identificând și protejând automat informațiile confidențiale și datele importante. Utilizând DLP, în cazul detectării informațiilor secrete, este posibil să se notifice alerte sau să se blocheze acțiunile.

Deși este posibilă prevenirea sigură a scurgerilor de informații din interior, menținând costurile de administrare la un nivel scăzut, este necesară o înțelegere avansată a sistemelor de securitate și implementarea lor fără probleme poate fi dificilă pentru companiile care nu dispun de un departament tehnic.

Măsura 3: Utilizarea unor instrumente pentru prevenirea scurgerilor de informații

După cum am menționat anterior, ca măsură preventivă directă, puteți refuza colectarea datelor introduse în ChatGPT prin solicitarea unei opțiuni de „opt-out”.

Puteți solicita „opt-out” din ecranul de setări al ChatGPT. Cu toate acestea, dacă solicitați opt-out, istoricul prompturilor nu va mai fi salvat, ceea ce poate fi considerat inconvenabil de către mulți utilizatori.

Ca alternativă la setările de opt-out, puteți introduce instrumente care utilizează „API”-ul ChatGPT.

„API (Application Programming Interface)” se referă la interfața pe care OpenAI o publică pentru a integra ChatGPT în serviciile proprii sau în instrumente externe. OpenAI a declarat explicit că nu folosește informațiile introduse sau primite prin „API”-ul ChatGPT pentru a-și dezvolta sau îmbunătăți serviciile.

Acest lucru este clarificat și în termenii și condițiile de utilizare ale ChatGPT. Conform termenilor și condițiilor:

3. Conținut

(c) Utilizarea conținutului pentru îmbunătățirea serviciilor

Noi nu folosim Conținutul pe care îl furnizați sau îl primiți de la API-ul nostru („Conținutul API”) pentru a dezvolta sau îmbunătăți Serviciile noastre. 

Poate folosim Conținutul din Serviciile care nu sunt legate de API-ul nostru („Conținutul Non-API”) pentru a ajuta la dezvoltarea și îmbunătățirea Serviciilor noastre.

 Dacă nu doriți ca Conținutul Non-API să fie folosit pentru îmbunătățirea Serviciilor, vă puteți dezabona completând acest formular. Vă rugăm să rețineți că în unele cazuri acest lucru poate limita capacitatea Serviciilor noastre de a aborda mai bine cazul dvs. de utilizare specific.

Citat: Site-ul oficial OpenAI｜Termenii și condițiile de utilizare ale ChatGPT

Măsura 4: Implementarea unor traininguri interne pentru IT Literacy

Pe lângă măsurile prezentate până acum, este esențial să creștem literația în securitate a angajaților companiei prin intermediul unor traininguri interne.

Chiar și în cazul companiei Samsung Electronics, unde au fost efectuate campanii de conștientizare a securității informației în interiorul companiei, introducerea de informații confidențiale a dus la scurgeri de informații. Prin urmare, pe lângă protejarea împotriva scurgerilor de informații din punct de vedere al sistemului, este recomandabil să implementăm traininguri interne legate de cunoștințele despre ChatGPT și IT Literacy.

Cum să răspundeți în cazul unei scurgeri de informații prin ChatGPT

În cazul nefericit al unei scurgeri de informații, este esențial să investigăm rapid circumstanțele și să implementăm măsuri de remediere.

În cazul scurgerii de informații personale, este obligatoriu să raportăm incidentul la Comisia de Protecție a Datelor Personale conform Legii Protecției Datelor Personale Japoneze și să notificăm persoanele afectate despre incident. Dacă scurgerea de informații personale încalcă drepturile sau interesele părții adverse, poate rezulta răspunderea pentru daune civile. Mai mult, dacă informațiile personale sunt furate sau furnizate cu intenții ilegale, poate fi pusă în discuție și răspunderea penală.

În cazul scurgerii de secrete comerciale sau informații tehnice, conform Legii Japoneze împotriva Concurenței Neloiale, putem solicita părții care a primit informațiile să le șteargă sau să ia alte măsuri. Dacă scurgerea de secrete comerciale sau informații tehnice a adus un beneficiu nedrept părții adverse, poate rezulta răspunderea pentru daune civile. În plus, dacă secretele comerciale sau informațiile tehnice sunt obținute sau utilizate prin mijloace ilegale, poate fi pusă în discuție și răspunderea penală.

Dacă scurgerea de informații se produce prin încălcarea obligației de confidențialitate profesională, persoana responsabilă poate fi trasă la răspundere penală conform Codului Penal Japonez sau altor legi aplicabile. De asemenea, dacă încălcarea obligației de confidențialitate profesională cauzează daune părții adverse, poate rezulta răspunderea pentru daune civile.

Prin urmare, este necesar să răspundem rapid în funcție de natura informațiilor scurse și este crucial să avem un sistem pregătit în avans pentru a face față acestor situații.

Articol relevant: Ce trebuie să facă companiile în cazul unei scurgeri de informații[ja]

Articol relevant: Ce măsuri administrative trebuie să ia companiile în cazul unei scurgeri de informații personale?[ja]

Concluzie: Pregătirea unei structuri pentru riscul de scurgere a informațiilor ChatGPT

Aici am explicat riscul de scurgere a informațiilor asociat cu ChatGPT și măsurile de precauție necesare. În afacerile care utilizează AI, cum ar fi ChatGPT, care evoluează rapid, vă recomandăm să consultați un avocat cu experiență și cunoștințe aprofundate despre riscurile legale și să pregătiți în avans un sistem intern care să răspundă acestor riscuri.

Nu doar în cazul scurgerilor de informații, ci și pentru evaluarea legalității modelului de afaceri bazat pe AI, crearea de contracte și termeni de utilizare, protecția drepturilor de proprietate intelectuală și conformitatea cu reglementările privind confidențialitatea, colaborarea cu avocați care au cunoștințe și experiență în domeniul AI și al legii vă va oferi liniștea sufletească.

Ghidul măsurilor implementate de firma noastră

Cabinetul de Avocatură Monolith este o firmă de avocatură cu experiență bogată în IT, în special în domeniul internetului și al legii. Afacerile AI implică numeroase riscuri legale, iar suportul unui avocat specializat în probleme legale legate de AI este esențial. Cabinetul nostru oferă suport juridic avansat pentru afacerile AI, inclusiv ChatGPT, prin intermediul unei echipe de avocați și ingineri specializați în AI, oferind servicii precum redactarea de contracte, evaluarea legalității modelelor de afaceri, protecția drepturilor de proprietate intelectuală și conformitatea cu reglementările privind confidențialitatea. Detalii suplimentare sunt furnizate în articolul de mai jos.

Domeniile de practică ale Cabinetului de Avocatură Monolith: Jurisprudența AI (inclusiv ChatGPT)[ja]