Ποιοι είναι οι κίνδυνοι διαρροής πληροφοριών του ChatGPT; Παρουσίαση τεσσάρων απαραίτητων μέτρων προστασίας

Το “ChatGPT”, το οποίο πρόσφατα έχει προσελκύσει πολλή προσοχή, είναι ένα παραγωγικό AI που έχει την ικανότητα να δημιουργεί κείμενα, προγραμματισμό, παρτιτούρες και ακόμα και σχέδια, κερδίζοντας έτσι το ενδιαφέρον σε διάφορους τομείς.

Το GPT στο ChatGPT σημαίνει “Generative Pre-training Transformer” και αναφέρεται σε ένα σύστημα που μπορεί να προπονηθεί εκ των προτέρων σε μεγάλο όγκο κειμένων, εικόνων και ηχητικών δεδομένων (με επεκτάσεις), επιτρέποντας τη δημιουργία φυσικών ανθρώπινων συνομιλιών.

Λόγω της ικανότητάς του να ανταποκρίνεται σε περίπλοκες εργασίες, το ChatGPT έχει αποκτήσει φήμη ως εργαλείο που μπορεί να βελτιώσει την αποδοτικότητα των εργασιών και να προσφέρει υψηλή κοστολογική απόδοση. Η χρήση του ChatGPT έχει ήδη προχωρήσει σε διάφορους τομείς και πολλές τεχνολογικές εταιρείες έχουν ξεκινήσει τη δημιουργία των δικών τους προσαρμοσμένων AI συστημάτων.

Ενώ η τεχνολογία AI όπως το ChatGPT προσφέρει πολλές επιχειρηματικές ευκαιρίες, έχουν επισημανθεί και πιθανοί κίνδυνοι, όπως ζητήματα πνευματικής ιδιοκτησίας, διάδοση παραπληροφόρησης, διαρροή εμπιστευτικών πληροφοριών, ζητήματα ιδιωτικότητας και η πιθανότητα κακόβουλης χρήσης σε κυβερνοεπιθέσεις.

Σε αυτό το άρθρο, ένας δικηγόρος θα εξηγήσει τα μέτρα που πρέπει να ληφθούν για την αντιμετώπιση των κινδύνων διαρροής πληροφοριών κατά τη χρήση του ChatGPT.

Κίνδυνοι Διαρροής Πληροφοριών Σχετικά με το ChatGPT

Οι κίνδυνοι που συνδέονται με την εισαγωγή του ChatGPT σε μια επιχείρηση περιλαμβάνουν κυρίως τα εξής τέσσερα σημεία:

• Κίνδυνοι ασφάλειας (διαρροή πληροφοριών, ακρίβεια, ευπάθεια, διαθεσιμότητα κ.ά.)
• Κίνδυνοι παραβίασης πνευματικών δικαιωμάτων
• Κίνδυνοι δυνατότητας κακόβουλης χρήσης (π.χ. κυβερνοεπιθέσεις)
• Προκλήσεις σε επίπεδο ηθικής

Ο κίνδυνος διαρροής πληροφοριών σχετικά με το ChatGPT αναφέρεται στο ενδεχόμενο διαρροής εμπιστευτικών πληροφοριών, εάν αυτές εισαχθούν στο ChatGPT, και στη συνέχεια να γίνουν ορατές σε εργαζόμενους της OpenAI ή άλλους χρήστες, ή να χρησιμοποιηθούν ως δεδομένα εκπαίδευσης.

Σύμφωνα με την πολιτική χρήσης δεδομένων της OpenAI, εκτός αν ο χρήστης διαμεσολαβήσει μέσω του «API» του ChatGPT ή υποβάλει αίτηση «opt-out», τα δεδομένα που εισάγονται από τον χρήστη στο ChatGPT μπορεί να συλλέγονται και να χρησιμοποιούνται (για εκπαίδευση) από την OpenAI (θα αναλύσουμε αυτό περαιτέρω αργότερα).

Περιστατικά διαρροής πληροφοριών λόγω χρήσης του ChatGPT

Εδώ θα παρουσιάσουμε περιπτώσεις όπου η χρήση του ChatGPT οδήγησε σε διαρροή εγγεγραμμένων προσωπικών πληροφοριών και εισαγωγής εμπιστευτικών δεδομένων.

Περιπτώσεις διαρροής προσωπικών πληροφοριών

Στις 24 Μαρτίου 2023, η OpenAI ανακοίνωσε ότι στις 20 Μαρτίου είχε απενεργοποιήσει προσωρινά το ChatGPT λόγω ενός σφάλματος που εμφάνιζε σε ορισμένους χρήστες προσωπικές πληροφορίες άλλων χρηστών, όπως τα τέσσερα τελευταία ψηφία του αριθμού της πιστωτικής κάρτας και την ημερομηνία λήξης της κάρτας. Οι πληροφορίες αυτές διέρρευσαν από ένα μικρό ποσοστό (περίπου 1.2%) των συνδρομητών του πληρωμένου προγράμματος “ChatGPT Plus”.

Επιπλέον, ανακοινώθηκε ότι υπήρχε ένα ταυτόχρονο σφάλμα που εμφάνιζε στο ιστορικό συνομιλιών τα ιστορικά άλλων χρηστών.

Ως αποτέλεσμα, στις 31 Μαρτίου 2023, η ιταλική αρχή προστασίας δεδομένων εξέδωσε μια εντολή βελτίωσης προς την Open AI, επιβάλλοντας προσωρινούς περιορισμούς στην επεξεργασία δεδομένων των χρηστών της χώρας, καθώς η συλλογή και αποθήκευση προσωπικών δεδομένων από το ChatGPT για σκοπούς μάθησης έλειπε νομική βάση. Σε αντίδραση, η OpenAI απέκλεισε την πρόσβαση στο ChatGPT από την Ιταλία, η οποία αργότερα αφαιρέθηκε στις 28 Απριλίου του ίδιου έτους, μετά τη βελτίωση της διαχείρισης προσωπικών δεδομένων από την OpenAI.

Περιπτώσεις διαρροής εμπιστευτικών εταιρικών πληροφοριών

Τον Φεβρουάριο του 2023, η αμερικανική εταιρεία κυβερνοασφάλειας Cyberhaven δημοσίευσε μια έκθεση σχετικά με τη χρήση του ChatGPT από πελάτες εταιρείες.

Σύμφωνα με την έκθεση, από τους 1.6 εκατομμύρια εργαζομένους πελατών που χρησιμοποιούν τα προϊόντα της Cyberhaven, το 8.2% των γνωστικών εργαζομένων είχε χρησιμοποιήσει το ChatGPT στον χώρο εργασίας τουλάχιστον μία φορά, και το 3.1% είχε εισάγει εταιρικά εμπιστευτικά δεδομένα στο ChatGPT.

Σε ένα περιστατικό από την Κορέα, στις 30 Μαρτίου 2023, τα κορεατικά μέσα ενημέρωσης «Economist» ανέφεραν ότι ένα τμήμα της Samsung Electronics είχε επιτρέψει τη χρήση του ChatGPT και συνέβη ένα περιστατικό όπου εισήχθησαν εμπιστευτικές πληροφορίες. Παρά τις προειδοποιήσεις για την ασφάλεια των εταιρικών πληροφοριών, υπήρξαν εργαζόμενοι που εισήγαγαν πηγαίο κώδικα προγραμμάτων και περιεχόμενο συσκέψεων.

Σε αυτό το πλαίσιο, υπάρχουν χώρες και εταιρείες που επιβάλλουν περιορισμούς στη χρήση του ChatGPT, ενώ άλλες τον προωθούν. Κατά την εισαγωγή του ChatGPT, θα πρέπει να ληφθεί υπόψη ο κίνδυνος διαρροής πληροφοριών και να γίνει προσεκτική εξέταση.

Τέσσερα μέτρα προστασίας από διαρροές πληροφοριών μέσω του ChatGPT

Μια διαρροή πληροφοριών, μόλις συμβεί, μπορεί να οδηγήσει σε νομικές ευθύνες και σημαντικές απώλειες σε εμπιστοσύνη και φήμη. Για αυτό το λόγο, η ενίσχυση του συστήματος διαχείρισης πληροφοριών και η εκπαίδευση εντός της εταιρείας είναι κρίσιμης σημασίας για την πρόληψη διαρροών πληροφοριών.

Παρακάτω, θα σας παρουσιάσουμε τέσσερα μέτρα για την προστασία από διαρροές πληροφοριών μέσω του ChatGPT.

Μέτρο 1: Καθιέρωση Κανόνων Χρήσης

Αρχικά, καθορίστε τη στάση της εταιρείας σας απέναντι στο ChatGPT και ενσωματώστε στον εσωτερικό κανονισμό της εταιρείας σας τις διατάξεις που αφορούν τη χρήση του ChatGPT. Είναι σημαντικό να καθορίσετε και να εφαρμόσετε σαφείς κανόνες, όπως τη μη εισαγωγή προσωπικών ή εμπιστευτικών πληροφοριών.

Σε αυτό το πλαίσιο, θα ήταν επιθυμητό να δημιουργήσετε έναν οδηγό χρήσης του ChatGPT για την εταιρεία σας. Επιπλέον, στα συμβόλαια με τρίτους, προσθέστε διατάξεις που αφορούν τη χρήση του ChatGPT.

Στις 1 Μαΐου 2023 (2023), η Εταιρεία Ιαπωνικής Βαθιάς Μάθησης (Japanese Deep Learning Association – JDLA) συνόψισε τα ηθικά, νομικά και κοινωνικά ζητήματα (ELSI) που σχετίζονται με το ChatGPT και δημοσίευσε τις “Οδηγίες Χρήσης της Γενετικής AI”.

Στους τομείς της βιομηχανίας, της ακαδημαϊκής κοινότητας και της διοίκησης, έχει ξεκινήσει η εξέταση για τη δημιουργία οδηγιών. Αξιοποιώντας αυτές τις οδηγίες ως αφετηρία, μπορείτε να δημιουργήσετε έναν οδηγό με σαφείς κανόνες χρήσης του ChatGPT για την εταιρεία σας, προσδοκώντας έτσι να αποφύγετε ορισμένους κινδύνους.

Αναφορά: Εταιρεία Ιαπωνικής Βαθιάς Μάθησης (Japanese Deep Learning Association – JDLA) | Οδηγίες Χρήσης της Γενετικής AI[ja]

Ωστόσο, οι οδηγίες που έχουν καθιερωθεί δεν έχουν νόημα εάν δεν γίνουν γνωστές και δεν εφαρμοστούν πλήρως. Οι οδηγίες από μόνες τους δεν αποτελούν επαρκή μέτρα.

Μέτρο 2: Οργάνωση συστήματος για την πρόληψη διαρροής πληροφοριών

Ως μέτρο για την πρόληψη των ανθρώπινων λαθών, η εισαγωγή ενός συστήματος που ονομάζεται DLP (Data Loss Prevention), μπορεί να αποτρέψει την αποστολή και αντιγραφή ευαίσθητων πληροφοριών, προλαμβάνοντας έτσι τη διαρροή συγκεκριμένων δεδομένων.

Το DLP είναι ένα σύστημα που παρακολουθεί συνεχώς τα δεδομένα αντί για τους χρήστες, αναγνωρίζοντας και προστατεύοντας αυτόματα τις ευαίσθητες πληροφορίες και τα σημαντικά δεδομένα. Χρησιμοποιώντας το DLP, είναι δυνατόν να ειδοποιηθείτε με ειδοποιήσεις ή να μπλοκάρετε ενέργειες όταν ανιχνευθούν ευαίσθητες πληροφορίες.

Ενώ είναι δυνατόν να προλάβετε τη διαρροή πληροφοριών από εσωτερικές πηγές με χαμηλό κόστος διαχείρισης, απαιτείται μια προχωρημένη κατανόηση των συστημάτων ασφαλείας και η ομαλή εισαγωγή τους μπορεί να είναι δύσκολη για εταιρείες χωρίς τεχνικό τμήμα.

Μέτρο 3: Χρήση εργαλείων για την πρόληψη διαρροής πληροφοριών

Όπως αναφέρθηκε παραπάνω, ως άμεσο προληπτικό μέτρο, μπορείτε να αρνηθείτε τη συλλογή δεδομένων που εισάγετε στο ChatGPT κάνοντας αίτηση για “opt-out”.

Μπορείτε να κάνετε αίτηση για “opt-out” από την οθόνη ρυθμίσεων του ChatGPT. Ωστόσο, πολλοί μπορεί να βρουν ανασταλτικό το γεγονός ότι, κάνοντας αίτηση για opt-out, δεν θα διατηρούνται τα ιστορικά των προτροπών, κάτι που μπορεί να είναι ανασταλτικό.

Εκτός από τη ρύθμιση opt-out, υπάρχει η επιλογή εισαγωγής εργαλείων που χρησιμοποιούν το “API” του ChatGPT.

Το “API (Application Programming Interface)” είναι ένα πρόγραμμα διεπαφής που η OpenAI έχει δημοσιεύσει για την ενσωμάτωση του ChatGPT σε εταιρικές υπηρεσίες ή εξωτερικά εργαλεία. Η OpenAI έχει δηλώσει ότι δεν χρησιμοποιεί πληροφορίες που εισέρχονται ή εξέρχονται μέσω του “API” του ChatGPT για να αναπτύξει ή να βελτιώσει τις υπηρεσίες της.

Αυτό είναι επίσης σαφώς αναφερόμενο στους όρους χρήσης του ChatGPT. Σύμφωνα με τους όρους χρήσης:

3. Περιεχόμενο

(c) Χρήση περιεχομένου για τη βελτίωση των υπηρεσιών

Δεν χρησιμοποιούμε Περιεχόμενο που παρέχετε στο API μας ή λαμβάνετε από αυτό (“Περιεχόμενο API”) για να αναπτύξουμε ή να βελτιώσουμε τις Υπηρεσίες μας.

Μπορεί να χρησιμοποιήσουμε Περιεχόμενο από Υπηρεσίες που δεν είναι μέσω του API μας (“Περιεχόμενο μη-API”) για να βοηθήσουμε στην ανάπτυξη και βελτίωση των Υπηρεσιών μας.

Εάν δεν επιθυμείτε τη χρήση του Περιεχομένου σας μη-API για τη βελτίωση των Υπηρεσιών, μπορείτε να επιλέξετε opt-out συμπληρώνοντας αυτή τη φόρμα. Παρακαλώ σημειώστε ότι σε κάποιες περιπτώσεις αυτό μπορεί να περιορίσει την ικανότητα των Υπηρεσιών μας να ανταποκριθούν καλύτερα στην συγκεκριμένη χρήση που επιθυμείτε.

Πηγή: Επίσημη ιστοσελίδα OpenAI｜Όροι χρήσης ChatGPT

Μέτρο 4: Εφαρμογή Εσωτερικών Σεμιναρίων Ψηφιακής Γραμματοσύνης

Εκτός από τα μέτρα που έχουμε παρουσιάσει μέχρι τώρα, είναι σημαντικό να αυξήσουμε την επίγνωση ασφάλειας των εργαζομένων μέσω της διεξαγωγής εσωτερικών σεμιναρίων.

Όπως φαίνεται και από το παράδειγμα της Samsung Electronics, παρά την ενημέρωση για την πληροφοριακή ασφάλεια εντός της εταιρείας, η εισαγωγή εμπιστευτικών πληροφοριών οδήγησε σε διαρροή πληροφοριών. Εκτός από την προστασία από διαρροές πληροφοριών σε επίπεδο συστημάτων, είναι επιθυμητό να εφαρμόζουμε εσωτερικά σεμινάρια για την γνώση σχετικά με το ChatGPT και την ψηφιακή γραμματοσύνη.

Αντιμετώπιση περιπτώσεων διαρροής πληροφοριών μέσω ChatGPT

Σε περίπτωση που συμβεί διαρροή πληροφοριών, είναι σημαντικό να προχωρήσετε άμεσα σε έρευνα των γεγονότων και σε ανάληψη αντίστοιχων μέτρων.

Σε περίπτωση διαρροής προσωπικών δεδομένων, είναι υποχρεωτικό να αναφέρετε το περιστατικό στην Επιτροπή Προστασίας Προσωπικών Δεδομένων βάσει του Νόμου για την Προστασία Προσωπικών Δεδομένων. Επιπλέον, πρέπει να ενημερώσετε και τον ίδιο τον ενδιαφερόμενο για το συμβάν. Αν η διαρροή προσωπικών δεδομένων προκαλέσει παραβίαση των δικαιωμάτων ή των συμφερόντων του αντισυμβαλλόμενου, μπορεί να υπάρξει ευθύνη για αστική αποζημίωση. Επιπρόσθετα, αν κάποιος κλέψει ή παρέχει προσωπικά δεδομένα με παράνομο σκοπό, μπορεί να κατηγορηθεί ποινικά.

Σε περίπτωση διαρροής εμπορικών μυστικών ή τεχνικών πληροφοριών, μπορείτε να ζητήσετε μέτρα όπως η διαγραφή από τον παραλήπτη βάσει του Νόμου κατά του Αθέμιτου Ανταγωνισμού. Εάν η διαρροή εμπορικών μυστικών ή τεχνικών πληροφοριών επιτρέψει στον αντισυμβαλλόμενο να αποκομίσει άδικο όφελος, μπορεί να υπάρξει ευθύνη για αστική αποζημίωση. Επιπρόσθετα, αν κάποιος αποκτήσει ή χρησιμοποιήσει εμπορικά μυστικά ή τεχνικές πληροφορίες με παράνομο τρόπο, μπορεί να κατηγορηθεί ποινικά.

Αν προκύψει διαρροή πληροφοριών λόγω παραβίασης της επαγγελματικής υποχρέωσης εχεμύθειας, μπορεί να υπάρξει ποινική ευθύνη βάσει του Ποινικού Κώδικα ή άλλων νόμων. Επιπλέον, αν η παραβίαση της επαγγελματικής υποχρέωσης εχεμύθειας προκαλέσει ζημιά στον αντισυμβαλλόμενο, μπορεί να υπάρξει ευθύνη για αστική αποζημίωση.

Επομένως, είναι απαραίτητο να αντιδράσετε γρήγορα ανάλογα με το είδος της διαρροής πληροφοριών και να έχετε προετοιμάσει εκ των προτέρων το ανάλογο σύστημα αντιμετώπισης.

Σχετικό άρθρο: Τι πρέπει να κάνει μια εταιρεία όταν συμβεί διαρροή πληροφοριών[ja]

Σχετικό άρθρο: Τι να κάνετε αν συμβεί διαρροή προσωπικών δεδομένων; Εξηγούμε τις διοικητικές ενέργειες που πρέπει να λάβει μια εταιρεία[ja]

Συνοπτικά: Προετοιμασία για τον κίνδυνο διαρροής πληροφοριών του ChatGPT

Σε αυτό το σημείο, αναλύσαμε τον κίνδυνο διαρροής πληροφοριών του ChatGPT και τα μέτρα που πρέπει να ληφθούν. Στον τομέα των AI επιχειρήσεων που χρησιμοποιούν τον γρήγορα εξελισσόμενο ChatGPT και παρόμοιες τεχνολογίες, συνιστούμε τη συμβουλή με έναν έμπειρο δικηγόρο που είναι ειδικός στα νομικά ρίσκα και την προετοιμασία της εταιρικής δομής σας ανάλογα με αυτά τα ρίσκα.

Πέρα από τον κίνδυνο διαρροής πληροφοριών, εάν συνεργάζεστε με δικηγόρους που έχουν γνώσεις και εμπειρία και στα δύο πεδία, της AI και του δικαίου, μπορείτε να είστε ήσυχοι για την νομιμότητα του επιχειρησιακού μοντέλου που βασίζεται στην AI, τη δημιουργία συμβάσεων και όρων χρήσης, την προστασία των δικαιωμάτων πνευματικής ιδιοκτησίας και την αντιμετώπιση θεμάτων απορρήτου.

Οδηγίες για τα Μέτρα που Λαμβάνει το Δικηγορικό μας Γραφείο

Το Δικηγορικό Γραφείο Monolith είναι ένα γραφείο με πλούσια εμπειρία στον τομέα της πληροφορικής, και ειδικότερα στο διαδίκτυο και το δίκαιο. Οι επιχειρήσεις AI συνοδεύονται από πολλούς νομικούς κινδύνους και η υποστήριξη από δικηγόρους που είναι ειδικοί στα νομικά ζητήματα που αφορούν την AI είναι απαραίτητη. Το γραφείο μας παρέχει προηγμένη νομική υποστήριξη σε επιχειρήσεις AI, όπως το ChatGPT, μέσω μιας ομάδας δικηγόρων ειδικευμένων στην AI και μηχανικών, προσφέροντας υπηρεσίες όπως η σύνταξη συμβάσεων, η εξέταση της νομιμότητας των επιχειρηματικών μοντέλων, η προστασία των δικαιωμάτων πνευματικής ιδιοκτησίας και η αντιμετώπιση θεμάτων απορρήτου. Περισσότερες λεπτομέρειες μπορείτε να βρείτε στο παρακάτω άρθρο.

Τομείς εξειδίκευσης του Δικηγορικού Γραφείου Monolith: Νομικά θέματα AI (όπως το ChatGPT κ.ά.)[ja]