Τι είναι η διακυβέρνηση της Τεχνητής Νοημοσύνης που πρέπει να αναλάβουν οι επιχειρήσεις; Εξηγώντας τα κρίσιμα σημεία με βάση τις «Οδηγίες για τους Φορείς Επιχειρήσεων AI»

Στις 19 Απριλίου 2024 (令和6年), τα Ιαπωνικά Υπουργεία Εσωτερικών Υποθέσεων και Επικοινωνιών καθώς και το Υπουργείο Οικονομίας, Εμπορίου και Βιομηχανίας δημοσίευσαν τις “Οδηγίες για Επιχειρήσεις AI”. Ο σκοπός τους είναι να προωθήσουν την ασφαλή χρήση της AI και να ενθαρρύνουν την κοινωνική εφαρμογή της AI. Οι εν λόγω οδηγίες απευθύνονται σε επιχειρήσεις, δημόσιους φορείς, εκπαιδευτικά ιδρύματα, NPO και NGO που εμπλέκονται στην ανάπτυξη, παροχή και χρήση της AI.

Στις “Οδηγίες για Επιχειρήσεις AI”, τονίζεται η σημασία της δημιουργίας μιας δομής διακυβέρνησης AI για κάθε φορέα που αναπτύσσει, παρέχει ή χρησιμοποιεί AI. Ποιες είναι όμως οι απαιτήσεις για τις επιχειρήσεις όσον αφορά την κατασκευή μιας τέτοιας δομής διακυβέρνησης AI;

Σε αυτό το άρθρο, θα αναλύσουμε τα κρίσιμα σημεία της διακυβέρνησης AI που οι επιχειρήσεις πρέπει να εφαρμόσουν βάσει των “Οδηγιών για Επιχειρήσεις AI”.

Τι είναι οι Οδηγίες για Επιχειρήσεις AI στην Ιαπωνία

Οι Οδηγίες για Επιχειρήσεις AI (AI事業者ガイドライン) αποτελούν ένα σύνολο κατευθυντήριων γραμμών που διαμορφώθηκαν το 2024 από το Υπουργείο Εσωτερικών και Επικοινωνιών και το Υπουργείο Οικονομίας, Εμπορίου και Βιομηχανίας της Ιαπωνίας, με σκοπό την προώθηση της ασφαλούς και αξιόπιστης χρήσης της AI. Στόχος τους είναι να παρουσιάσουν ένα ενιαίο πλαίσιο κατευθύνσεων για τη διακυβέρνηση της AI στη χώρα μας.

Πηγή：Οδηγίες για Επιχειρήσεις AI (Έκδοση 1.0)｜Υπουργείο Οικονομίας, Εμπορίου και Βιομηχανίας[ja]

Οι Οδηγίες αυτές αποτελούν το αποτέλεσμα της ενοποίησης και αναθεώρησης των προηγούμενων “Οδηγιών για την Ανάπτυξη AI”, “Οδηγιών για την Εκμετάλλευση AI” και “Οδηγιών Διακυβέρνησης για την Εφαρμογή των Αρχών AI”. Σκοπός τους είναι να παρέχουν στις επιχειρήσεις που χρησιμοποιούν AI μια σαφή κατεύθυνση για την ασφαλή και αξιόπιστη χρήση της AI.

Για περισσότερες πληροφορίες σχετικά με τις Οδηγίες για Επιχειρήσεις AI, δείτε την ανάλυση που έχει κάνει ένας δικηγόρος στο άρθρο “Εξήγηση των Οδηγιών για Επιχειρήσεις AI από το Υπουργείο Οικονομίας, Εμπορίου και Βιομηχανίας”.

Σχετικό άρθρο：Εξήγηση των Οδηγιών για Επιχειρήσεις AI από το Υπουργείο Οικονομίας, Εμπορίου και Βιομηχανίας[ja]

Τι είναι η Διακυβέρνηση της Τεχνητής Νοημοσύνης

Η Διακυβέρνηση της Τεχνητής Νοημοσύνης, σύμφωνα με τις Οδηγίες για τους Φορείς Επιχειρήσεων AI στην Ιαπωνία, ορίζεται ως “η διαχείριση των κινδύνων που προκύπτουν από τη χρήση της AI σε ένα επίπεδο αποδεκτό από τους ενδιαφερόμενους, ενώ ταυτόχρονα επιδιώκεται η μεγιστοποίηση των θετικών αντικτύπων (οφελών) που προκύπτουν από αυτήν, μέσω του σχεδιασμού και της λειτουργίας τεχνικών, οργανωτικών και κοινωνικών συστημάτων από τους ενδιαφερόμενους.”

Επιπλέον, σχετικά με τη Διακυβέρνηση της Τεχνητής Νοημοσύνης, οι Οδηγίες για τους Φορείς Επιχειρήσεων AI τονίζουν ότι “για την ασφαλή και αξιόπιστη χρήση της AI, είναι σημαντικό να υπάρχει συνεργασία μεταξύ των διαφόρων φορέων και να εφαρμόζονται κοινές κατευθυντήριες αρχές σε ολόκληρη την αλυσίδα αξίας, διαχειριζόμενοι τους κινδύνους που σχετίζονται με την AI σε ένα αποδεκτό επίπεδο για τους ενδιαφερόμενους και μεγιστοποιώντας τα οφέλη που προκύπτουν από αυτήν.”

Συνεπώς, η δημιουργία ενός πλαισίου Διακυβέρνησης της Τεχνητής Νοημοσύνης είναι σημαντική για κάθε φορέα που αναπτύσσει, παρέχει ή χρησιμοποιεί AI.

Τι είναι η Πρακτική του “Agile Governance” στη Δημιουργία Διακυβέρνησης AI στην Ιαπωνία

Στη δημιουργία διακυβέρνησης AI, θεωρείται σημαντικό να εφαρμόζεται η πρακτική του “Agile Governance”.

Το “Agile Governance” αναφέρεται σε μια προσέγγιση που αντί να θέτει στατικούς κανόνες εκ των προτέρων, προσαρμόζεται ευέλικτα στις αλλαγές του εξωτερικού περιβάλλοντος και των κινδύνων, περιλαμβάνοντας την “ανάλυση περιβάλλοντος και κινδύνων”, “θέσπιση στόχων”, “σχεδιασμό συστημάτων”, “λειτουργία” και “αξιολόγηση” σε έναν συνεχή κύκλο.

Στις επιχειρήσεις που αφορούν την AI, οι στόχοι είναι συχνά πολύπλοκοι και αλλάζουν γρήγορα.

Γι’ αυτό, στη δημιουργία διακυβέρνησης AI δεν είναι προτιμότερο να θεσπίζονται στατικοί κανόνες ή διαδικασίες εκ των προτέρων, αλλά απαιτείται μια ευέλικτη προσέγγιση που να προσαρμόζεται στο μέγεθος και τον τύπο της κάθε επιχείρησης. Γι’ αυτό το λόγο, οι οδηγίες για τους φορείς εκμετάλλευσης AI συνιστούν την κατασκευή διακυβέρνησης μέσω της μεθόδου Agile Governance.

Το “Agile” στα αγγλικά σημαίνει “ευκίνητος” ή “ευέλικτος”.

Η εφαρμογή του Agile Governance στις οδηγίες για τους φορείς εκμετάλλευσης AI περιγράφεται ως εξής:

1. Εκτελούμε “ανάλυση περιβάλλοντος και κινδύνων” για την κοινωνική αποδοχή των συστημάτων και υπηρεσιών AI και την ανάλυση των οφελών και κινδύνων που συνδέονται με τη χρήση τους.
2. Αποφασίζουμε εάν θα αναπτύξουμε, προσφέρουμε ή χρησιμοποιήσουμε συστήματα και υπηρεσίες AI και, εάν ναι, “θέτουμε στόχους”.
3. Σχεδιάζουμε “συστήματα διαχείρισης AI” για να επιτύχουμε τους καθορισμένους στόχους διακυβέρνησης AI και τα “λειτουργούμε”. Κατά τη διάρκεια αυτής της διαδικασίας, οι επιχειρήσεις πρέπει να διασφαλίζουν τη διαφάνεια και την ευθύνη (όπως η δικαιοσύνη) στους εξωτερικούς ενδιαφερόμενους μεριδίους.
4. Παρακολουθούμε συνεχώς εάν το σύστημα διαχείρισης AI λειτουργεί αποτελεσματικά και “αξιολογούμε” την απόδοσή του.
5. Ακόμη και μετά την έναρξη λειτουργίας των συστημάτων και υπηρεσιών AI, επανεκτελούμε την “ανάλυση περιβάλλοντος και κινδύνων” λαμβάνοντας υπόψη τις αλλαγές του εξωτερικού περιβάλλοντος και επανεξετάζουμε τους στόχους όπου χρειάζεται.

Συγκεκριμένοι στόχοι για την εφαρμογή αυτών των βημάτων 1-5 περιγράφονται στο παράρτημα των οδηγιών για τους φορείς εκμετάλλευσης AI, το οποίο μπορείτε να βρείτε εδώ[ja]. Ας εξετάσουμε κάθε σημείο συγκεκριμένα.

Στόχοι Δράσης για την Εφαρμογή της Ευέλικτης Διακυβέρνησης

Ας εξετάσουμε τους στόχους δράσης για την εφαρμογή της ευέλικτης διακυβέρνησης, βάσει του παραρτήματος των οδηγιών για τους φορείς τεχνητής νοημοσύνης.

Ανάλυση Περιβάλλοντος & Κινδύνου

Για την εφαρμογή της “Ανάλυσης Περιβάλλοντος & Κινδύνου” στο πλαίσιο της Ατζέντας Ευέλικτης Διακυβέρνησης, τα επιδιωκόμενα στόχοι δράσης που αναφέρονται στο παράρτημα των οδηγιών για τους φορείς επιχειρήσεων AI είναι τα εξής τρία:

• Κατανόηση των οφελών/κινδύνων
• Κατανόηση της κοινωνικής αποδοχής του AI
• Κατανόηση του επιπέδου εξοικείωσης της εταιρείας με το AI

Κατανόηση Οφελών/Κινδύνων

Ένας από τους στόχους που τίθενται για την εκτέλεση της “Ανάλυσης Περιβάλλοντος και Κινδύνων” είναι η “Κατανόηση Οφελών/Κινδύνων”.

Στο παράρτημα των Οδηγιών για τους Φορείς Επιχειρήσεων AI εξηγείται ως εξής:

Στόχος Δράσης 1-1【Κατανόηση Οφελών/Κινδύνων】

Κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, θα πρέπει να καθορίσει σαφώς τους σκοπούς ανάπτυξης, προσφοράς και χρήσης της AI και, στο πλαίσιο της επιχείρησης του κάθε φορέα, να κατανοήσει συγκεκριμένα όχι μόνο τα οφέλη που προκύπτουν από την AI αλλά και τους μη επιθυμητούς κινδύνους, να αναφέρει αυτά στη διοικητική ομάδα, να τα μοιραστεί μαζί της και να ανανεώνει την κατανόηση αυτών εγκαίρως.

Πηγή: Παράρτημα των Οδηγιών για τους Φορείς Επιχειρήσεων AI

Ιδιαίτερα σημαντικά σημεία είναι τα εξής:

• Να ορίσετε σαφώς τους σκοπούς ανάπτυξης, προσφοράς και χρήσης της AI, όπως η δημιουργία αξίας στην επιχείρηση και η επίλυση κοινωνικών προβλημάτων
• Να κατανοήσετε συγκεκριμένα τα οφέλη και τους κινδύνους που συνδέονται με την επιχείρησή σας
• Να είστε προσεκτικοί στους «κινδύνους» που πρέπει να αποφύγετε και στα ζητήματα που αφορούν πολλούς φορείς, εξασφαλίζοντας οφέλη και μειώνοντας τους κινδύνους σε ολόκληρη την αλυσίδα αξίας/κινδύνου
• Να δημιουργήσετε ένα σύστημα για την άμεση αναφορά/κοινοποίηση στη διοικητική ομάδα

Κατανόηση της Κοινωνικής Αποδοχής του AI

Ένας από τους στόχους που τίθενται για την εκτέλεση της “Ανάλυσης Περιβάλλοντος και Κινδύνων” είναι η “Κατανόηση της Κοινωνικής Αποδοχής του AI”.

Στο παράρτημα των Οδηγιών για τους Φορείς Επιχειρήσεων AI εξηγείται ως εξής:

Στόχος Δράσης 1-2【Κατανόηση της Κοινωνικής Αποδοχής του AI】

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, θα κατανοήσει την τρέχουσα κατάσταση της κοινωνικής αποδοχής βασισμένη στις απόψεις των ενδιαφερομένων πριν από την πλήρη ανάπτυξη, προσφορά και χρήση του AI. Επιπλέον, αναμένεται ότι μετά την πλήρη ανάπτυξη, προσφορά και χρήση των συστημάτων και υπηρεσιών AI, οι φορείς θα επανεξετάζουν τακτικά τις απόψεις των ενδιαφερομένων ανάλογα με τις αλλαγές του εξωτερικού περιβάλλοντος.

Πηγή: Παράρτημα των Οδηγιών για τους Φορείς Επιχειρήσεων AI

Οι κύριες πτυχές για την εφαρμογή είναι οι εξής:

• Προσδιορισμός των ενδιαφερομένων
• Ενθάρρυνση των ενδιαφερομένων να κατανοήσουν την κοινωνική αποδοχή και να αναπτύξουν, προσφέρουν και χρησιμοποιήσουν το AI
• Επανεξέταση των απόψεων των ενδιαφερομένων ανάλογα με τις αλλαγές του εξωτερικού περιβάλλοντος, ακόμη και μετά την έναρξη προσφοράς των συστημάτων και υπηρεσιών AI

Κατανόηση του Επιπέδου Εξοικείωσης με την AI της Εταιρείας σας

Το τρίτο στοιχείο που αναφέρεται ως στόχος δράσης για την «Ανάλυση Περιβάλλοντος και Κινδύνων» είναι η «Κατανόηση του Επιπέδου Εξοικείωσης με την AI της Εταιρείας σας».

Στο παράρτημα των Οδηγιών για τους Φορείς AI εξηγείται ως εξής:

Στόχος Δράσης 1-3【Κατανόηση του Επιπέδου Εξοικείωσης με την AI της Εταιρείας σας】

Κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, και με βάση την εφαρμογή των στόχων δράσης 1-1 και 1-2, εκτός αν κρίνει ότι το ρίσκο είναι ελάχιστο μετά από αξιολόγηση της χρήσης της AI, του επιχειρηματικού τομέα και του μεγέθους της εταιρείας, πρέπει να αξιολογήσει το επίπεδο εξοικείωσης με την AI με βάση τον βαθμό εμπειρίας στην ανάπτυξη, προσφορά και χρήση συστημάτων και υπηρεσιών AI της εταιρείας, τον αριθμό και την εμπειρία των μηχανικών και άλλων εργαζομένων που συμμετέχουν στην ανάπτυξη, προσφορά και χρήση των συστημάτων και υπηρεσιών AI, καθώς και το επίπεδο γνώσης και ηθικής σχετικά με την AI των εν λόγω εργαζομένων. Επιπλέον, αναμένεται να επαναξιολογούν τακτικά το επίπεδο εξοικείωσης με την AI και, όπου είναι δυνατόν, να δημοσιεύουν τα αποτελέσματα στους ενδιαφερόμενους μέσα σε λογικά πλαίσια. Σε περίπτωση που κρίνουν ότι το ρίσκο είναι ελάχιστο και δεν αξιολογούν το επίπεδο εξοικείωσης με την AI, αναμένεται να δημοσιεύουν το γεγονός αυτό μαζί με τους λόγους στους ενδιαφερόμενους.

Πηγή: Παράρτημα των Οδηγιών για τους Φορείς AI

Οι κύριοι πόντοι για την εφαρμογή είναι οι εξής:

• Εξέταση της ανάγκης για αξιολόγηση του επιπέδου εξοικείωσης με την AI, με βάση τον επιχειρηματικό τομέα και το μέγεθος της κάθε εταιρείας
• Εάν κριθεί απαραίτητη η αξιολόγηση του επιπέδου εξοικείωσης με την AI, να καταστήσουμε ορατή την ικανότητα ανταπόκρισης στους κινδύνους της AI και να αξιολογήσουμε το επίπεδο εξοικείωσης
• Ακόμη και αν κριθεί ότι δεν είναι απαραίτητη η αξιολόγηση του επιπέδου εξοικείωσης με την AI, να δημοσιεύσουμε το γεγονός αυτό μαζί με τους λόγους στους ενδιαφερόμενους, όπου είναι δυνατόν, μέσα σε λογικά πλαίσια

Ορισμός Στόχων

Στο πλαίσιο της εφαρμογής της αντίληψης της Agile Governance, οι οδηγίες για τους φορείς AI στην Ιαπωνία περιλαμβάνουν τους ακόλουθους στόχους δράσης.

Στόχος Δράσης 2-1【Ορισμός Στόχων AI Governance】

Κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, πρέπει να εξετάσει την οριστικοποίηση των στόχων AI Governance, λαμβάνοντας υπόψη τα πιθανά οφέλη/κινδύνους που μπορεί να προκύψουν από τα συστήματα και τις υπηρεσίες AI, την κοινωνική αποδοχή σχετικά με την ανάπτυξη, παροχή και χρήση των συστημάτων και υπηρεσιών AI, καθώς και το επίπεδο εξοικείωσης με την AI της εταιρείας τους. Επιπλέον, αναμένεται να δημοσιοποιήσουν τους στόχους που έχουν οριστεί στους ενδιαφερόμενους. Σε περίπτωση που οι φορείς αποφασίσουν να μην ορίσουν στόχους AI Governance λόγω της εκτίμησης ότι οι πιθανοί κίνδυνοι είναι ασήμαντοι, αναμένεται να δημοσιοποιήσουν αυτή την απόφαση μαζί με τους λόγους της. Εάν κρίνεται ότι οι «Κοινές Οδηγίες» των οδηγιών λειτουργούν επαρκώς, τότε μπορούν να υιοθετήσουν αυτές τις οδηγίες ως τους στόχους τους αντί για τους δικούς τους στόχους AI Governance.

Ακόμη και αν δεν οριστούν στόχοι, αναμένεται ότι οι φορείς θα κατανοήσουν τη σημασία αυτών των οδηγιών και θα εφαρμόσουν κατάλληλα τις δράσεις που αφορούν τους στόχους 3 έως 5.

Πηγή: Οδηγίες για τους φορείς AI

Οι κύριες πτυχές για την εφαρμογή είναι οι εξής:

• Εξέταση του αν οι φορείς πρέπει να ορίσουν «Στόχους AI Governance»
• Εάν κριθεί απαραίτητο, ορισμός των στόχων
• Ακόμη και αν κριθεί ότι δεν είναι απαραίτητος ο ορισμός στόχων, δημοσιοποίηση αυτής της απόφασης μαζί με τους λόγους, εφόσον είναι εφικτό και εντός λογικών ορίων.

Σχεδιασμός Συστημάτων (Κατασκευή Συστημάτων Διαχείρισης AI)

Στο πλαίσιο της εφαρμογής του σχεδιασμού συστημάτων (κατασκευή συστημάτων διαχείρισης AI) με βάση την αντίληψη της ευέλικτης διακυβέρνησης, τέσσερις κύριοι στόχοι δράσης που αναφέρονται στις οδηγίες για τους φορείς επιχειρήσεων AI είναι οι εξής:

• Απαραίτητη η αξιολόγηση των στόχων και των αποκλίσεων καθώς και η αντίδραση σε αυτές
• Βελτίωση της γνώσης του προσωπικού που διαχειρίζεται το AI
• Ενίσχυση της διαχείρισης AI μέσω της συνεργασίας μεταξύ διαφόρων φορέων και τμημάτων
• Μείωση του βάρους των συμβάντων που σχετίζονται με τους χρήστες μέσω πρόληψης και έγκαιρης αντίδρασης

Αξιολόγηση Στόχων και Διαφορών και Απαραίτητη Αντιμετώπιση Διαφορών

Ένας από τους στόχους που τίθενται για την εφαρμογή του “Σχεδιασμού Συστημάτων (Κατασκευή Συστημάτων Διαχείρισης AI)” είναι η “Αξιολόγηση Στόχων και Διαφορών και Απαραίτητη Αντιμετώπιση Διαφορών”.

Στις Οδηγίες για Επιχειρηματίες AI αναφέρεται το εξής:

Στόχος Δράσης 3-1【Αξιολόγηση Στόχων και Διαφορών, καθώς και Απαραίτητη Αντιμετώπιση Διαφορών】

Κάθε φορέας, υπό την ηγεσία της διοικητικής στρώσης, πρέπει να εντοπίζει τις διαφορές από τους στόχους διακυβέρνησης AI του κάθε φορέα, να αξιολογεί τις επιπτώσεις που προκύπτουν από αυτές τις διαφορές και, σε περίπτωση που αναγνωρίζονται κίνδυνοι, να λαμβάνει υπόψη το μέγεθος, το εύρος και τη συχνότητα εμφάνισης των κινδύνων για να κρίνει την ευλογία της αποδοχής τους. Εάν η αποδοχή δεν θεωρείται λογική, τότε αναμένεται να ενσωματώσει μια διαδικασία επανεξέτασης της ανάπτυξης, παροχής και χρήσης του AI σε κατάλληλα στάδια του συνολικού συστήματος διαχείρισης AI, καθώς και στα στάδια σχεδιασμού, ανάπτυξης, πριν από την έναρξη χρήσης και μετά την έναρξη χρήσης των συστημάτων και υπηρεσιών AI. Είναι σημαντικό η διοικητική στρώση να καθορίζει τις βασικές πολιτικές για τη διαδικασία επανεξέτασης και η λειτουργική στρώση να προχωρά στην εφαρμογή αυτής της διαδικασίας. Επιπλέον, αναμένεται ότι στην αξιολόγηση των διαφορών θα συμμετέχουν άτομα που δεν εμπλέκονται άμεσα στην ανάπτυξη, παροχή και χρήση του AI. Ωστόσο, δεν είναι κατάλληλο να αποφασίζεται αυθαίρετα ότι η ανάπτυξη, παροχή και χρήση του AI είναι αδύνατη απλώς επειδή υπάρχουν διαφορές. Έτσι, η αξιολόγηση των διαφορών είναι ένα βήμα για την αξιολόγηση των κινδύνων και αποτελεί απλώς την αφετηρία για βελτιώσεις.

Πηγή: Παράρτημα Οδηγιών για Επιχειρηματίες AI

Οι κύριες σημεία για την πρακτική εφαρμογή είναι τα εξής:

• Εντοπισμός και αξιολόγηση του βαθμού διαφοράς των υπαρχόντων συστημάτων και υπηρεσιών AI από τους “Στόχους Διακυβέρνησης AI”.
• Αξιολόγηση της ευλογίας της αποδοχής των κινδύνων που προκύπτουν από τη χρήση των συστημάτων και υπηρεσιών AI.
• Εάν η αποδοχή των κινδύνων δεν θεωρείται λογική, επανεξέταση της ανάπτυξης, παροχής και χρήσης του AI και ενσωμάτωση της διαδικασίας επανεξέτασης στα κατάλληλα στάδια και στις διαδικασίες λήψης αποφάσεων εντός του κάθε φορέα.
• Η διοικητική στρώση πρέπει να αναλάβει την ηγεσία και να φέρει την ευθύνη για αυτές τις αποφάσεις, ενώ η λειτουργική στρώση πρέπει να τις υλοποιήσει και να τις εφαρμόσει συνεχώς.
• Για τη δημιουργία ενός κοινού πλαισίου αντίληψης εντός του φορέα, κοινοποίηση των καθορισμένων στοιχείων αξιολόγησης διαφορών σε όλο τον φορέα.

Αναβάθμιση της Επάρκειας των Ανθρώπινων Πόρων στη Διαχείριση Τεχνητής Νοημοσύνης

Ένας από τους στόχους που τίθενται για την εφαρμογή του “Σχεδιασμού Συστημάτων (Κατασκευή Συστημάτων Διαχείρισης Τεχνητής Νοημοσύνης)” είναι η “Αναβάθμιση της Επάρκειας των Ανθρώπινων Πόρων στη Διαχείριση Τεχνητής Νοημοσύνης”.

Στις Οδηγίες για τους Φορείς Τεχνητής Νοημοσύνης αναφέρεται το εξής:

Στόχος Δράσης 3-2【Αναβάθμιση της Επάρκειας των Ανθρώπινων Πόρων στα Συστήματα Διαχείρισης Τεχνητής Νοημοσύνης】

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, θα εξετάσει τη χρήση εξωτερικών εκπαιδευτικών υλικών και θα αναβαθμίσει στρατηγικά την επάρκεια στην τεχνητή νοημοσύνη για την κατάλληλη λειτουργία του συστήματος διαχείρισης Τεχνητής Νοημοσύνης. Για παράδειγμα, μπορεί να παρέχεται εκπαίδευση για την αναβάθμιση της γενικής επάρκειας σχετικά με την ηθική και την αξιοπιστία της Τεχνητής Νοημοσύνης στα μέλη του διοικητικού συμβουλίου, τη διοικητική ομάδα και τους υπεύθυνους που φέρουν την ευθύνη για τις νομικές και ηθικές πτυχές των συστημάτων και υπηρεσιών Τεχνητής Νοημοσύνης, ενώ στους υπεύθυνους των έργων ανάπτυξης, παροχής και χρήσης των συστημάτων και υπηρεσιών Τεχνητής Νοημοσύνης μπορεί να παρέχεται εκπαίδευση όχι μόνο στην ηθική της Τεχνητής Νοημοσύνης αλλά και στις τεχνολογίες Τεχνητής Νοημοσύνης, συμπεριλαμβανομένης της γενετικής Τεχνητής Νοημοσύνης. Επίσης, σε όλους τους εμπλεκόμενους προτείνεται η παροχή εκπαίδευσης σχετικά με τη θέση και τη σημασία του συστήματος διαχείρισης Τεχνητής Νοημοσύνης.

Πηγή: Παράρτημα Οδηγιών για τους Φορείς Τεχνητής Νοημοσύνης

Ως σημεία πρακτικής εφαρμογής προτείνονται τα εξής:

• Χρήση κατάλληλων εκπαιδευτικών προγραμμάτων και υλικών που ταιριάζουν στη θέση και τις αρμοδιότητες του κάθε ατόμου για την αναβάθμιση της επάρκειας στην τεχνητή νοημοσύνη
• Εφαρμογή κατάλληλων εκπαιδευτικών προγραμμάτων και υλικών ανάλογα με τον ρόλο που καλείται να εκπληρώσει κάθε άτομο
• Ειδικά για την ηθική της Τεχνητής Νοημοσύνης, να υπάρχει η δυνατότητα όλοι οι εργαζόμενοι να παρακολουθούν σχετικά μαθήματα, μεταξύ άλλων καινοτόμων προσεγγίσεων

Ενίσχυση της Διαχείρισης AI μέσω της Συνεργασίας μεταξύ Φορέων και Τμημάτων

Το τρίτο καθοριστικό στόχο δράσης για την εφαρμογή του “Σχεδιασμού Συστημάτων (Κατασκευή Συστημάτων Διαχείρισης AI)” είναι η “Ενίσχυση της Διαχείρισης AI μέσω της Συνεργασίας μεταξύ Φορέων και Τμημάτων”.

Στις Οδηγίες για τους Φορείς Επιχειρήσεων AI αναφέρεται το εξής:

Στόχος Δράσης 3-3【Ενίσχυση της Διαχείρισης AI μέσω της Συνεργασίας μεταξύ Φορέων και Τμημάτων】

Οι φορείς, εκτός από την περίπτωση που όλες οι διαδικασίες από την προετοιμασία των σετ δεδομένων για εκμάθηση μέχρι την ανάπτυξη, προσφορά και χρήση των συστημάτων και υπηρεσιών AI γίνονται εντός του ίδιου τμήματος, αναμένεται να καθορίσουν σαφώς τα ζητήματα λειτουργίας των συστημάτων και υπηρεσιών AI που δεν μπορούν να επιλυθούν από μόνα τους καθώς και τις πληροφορίες που απαιτούνται για την επίλυση αυτών των ζητημάτων, και να τα μοιραστούν σε ένα δίκαιο και ανταγωνιστικό πλαίσιο, όπου είναι δυνατόν και λογικό. Κατά τη διαδικασία αυτή, αναμένεται να συμφωνήσουν εκ των προτέρων στο εύρος της αποκάλυψης πληροφοριών μεταξύ των φορέων και να εξετάσουν τη σύναψη συμφωνιών για τη διατήρηση του απορρήτου.

Πηγή: Παράρτημα Οδηγιών για τους Φορείς Επιχειρήσεων AI

Ως σημεία προς εφαρμογή, μπορούμε να αναφέρουμε τα εξής:

• Να καθορίσουν τα ζητήματα λειτουργίας των συστημάτων και υπηρεσιών AI που δεν μπορούν να επιλυθούν από μόνα τους καθώς και τις πληροφορίες που απαιτούνται για την επίλυση αυτών των ζητημάτων.
• Να μοιραστούν τις πληροφορίες μεταξύ των φορέων, λαμβάνοντας υπόψη τα δικαιώματα πνευματικής ιδιοκτησίας και την ιδιωτικότητα, σε ένα δίκαιο και ανταγωνιστικό πλαίσιο, όπου είναι δυνατόν και λογικό.

※Αυτά πρέπει να γίνουν με προσοχή στην εξασφάλιση δίκαιου ανταγωνισμού, καθώς και στην τήρηση των διαφόρων νόμων και κανονισμών, των πολιτικών AI των φορέων, των εμπορικών μυστικών, των δεδομένων περιορισμένης πρόσβασης και άλλων σχετικών παραμέτρων.

Μείωση του Βάρους των Συμβάντων για τους Χρήστες μέσω Πρόληψης και Άμεσης Αντίδρασης

Το τέταρτο στόχο δράσης που αναφέρεται στην «Σχεδίαση Συστημάτων (Κατασκευή Συστημάτων Διαχείρισης AI)» είναι η «Μείωση του Βάρους των Συμβάντων για τους Χρήστες μέσω Πρόληψης και Άμεσης Αντίδρασης».

Στις Οδηγίες για τους Επιχειρηματίες AI αναφέρεται το εξής:

Στόχος Δράσης 3-4【Μείωση του Βάρους των Συμβάντων για τους Χρήστες AI και τους Χρήστες Εκτός Εργασίας μέσω Πρόληψης και Άμεσης Αντίδρασης】

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, θα μειώσει το βάρος των συμβάντων που σχετίζονται με τους χρήστες AI και τους χρήστες εκτός εργασίας μέσω της πρόληψης και της άμεσης αντίδρασης σε συμβάντα.

Πηγή: Παράρτημα Οδηγιών για τους Επιχειρηματίες AI

• Πρόληψη συμβάντων όπως δυσλειτουργίες συστημάτων, διαρροές πληροφοριών, και εμφάνιση παραπόνων, και άμεση αντίδραση σε περίπτωση που συμβούν
• Δημιουργία ενός συστήματος για την πρόληψη συμβάντων και την άμεση αντίδραση σε αυτά

Λειτουργία

Στο πλαίσιο της εφαρμογής της Αgile Διακυβέρνησης στην Ιαπωνία, τρεις κύριοι στόχοι δράσης που αναφέρονται στις οδηγίες για τους φορείς επιχειρήσεων AI είναι οι εξής:

• Εξασφάλιση κατάστασης που επιτρέπει την εξήγηση της λειτουργίας του συστήματος διαχείρισης AI
• Εξασφάλιση κατάστασης που επιτρέπει την εξήγηση της λειτουργίας κάθε ατομικού συστήματος AI
• Εξέταση της ενεργητικής αποκάλυψης της κατάστασης εφαρμογής της διακυβέρνησης AI

Διασφάλιση της Κατάστασης Εξήγησης της Λειτουργίας του Συστήματος Διαχείρισης AI

Ένας από τους στόχους δράσης για την «λειτουργία» είναι η «Διασφάλιση της Κατάστασης Εξήγησης της Λειτουργίας του Συστήματος Διαχείρισης AI».

Στις Οδηγίες για τους Φορείς Επιχειρήσεων AI αναφέρεται το εξής:

Στόχος Δράσης 4-1【Διασφάλιση της Κατάστασης Εξήγησης της Λειτουργίας του Συστήματος Διαχείρισης AI】

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής στρώσης, θα εκπληρώσει τη διαφάνεια και την ευθύνη προς τους σχετικούς ενδιαφερόμενους για την κατάσταση λειτουργίας του συστήματος διαχείρισης AI, για παράδειγμα, καταγράφοντας την κατάσταση εφαρμογής της διαδικασίας αξιολόγησης αποκλίσεων του Στόχου Δράσης 3-1.

Πηγή: Παράρτημα Οδηγιών για τους Φορείς Επιχειρήσεων AI

Ως κρίσιμο σημείο λειτουργίας, τονίζεται η ανάγκη να διατηρείται η κατάσταση λειτουργίας του συστήματος διαχείρισης AI σε ένα επίπεδο που να είναι εξηγήσιμη στους σχετικούς ενδιαφερόμενους, μέσα σε ένα κατάλληλο και λογικό πλαίσιο.

Εξασφάλιση Κατάστασης Εξηγήσιμης Λειτουργίας Ατομικών Συστημάτων AI

Ένας από τους στόχους δράσης που τίθενται για την «εφαρμογή» είναι η «Εξασφάλιση Κατάστασης Εξηγήσιμης Λειτουργίας των Συστημάτων Διαχείρισης AI».

Στις Οδηγίες για τους Φορείς Επιχειρήσεων AI αναφέρεται το εξής:

Στόχος Δράσης 4-2【Εξασφάλιση Κατάστασης Εξηγήσιμης Λειτουργίας Ατομικών Συστημάτων AI】

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής στρώσης, θα παρακολουθεί συνεχώς την κατάσταση της προσωρινής και της πλήρους λειτουργίας των ατομικών συστημάτων και υπηρεσιών AI, εκτελώντας αξιολογήσεις αποκλίσεων και καταγράφοντας τα αποτελέσματα ενώ εφαρμόζει τον κύκλο PDCA. Αναμένεται επίσης ότι οι φορείς που αναπτύσσουν συστήματα AI θα υποστηρίξουν την παρακολούθηση αυτή από τους φορείς που προσφέρουν και χρησιμοποιούν τα συστήματα AI.

Πηγή: Παράρτημα Οδηγιών για τους Φορείς Επιχειρήσεων AI

Τα κρίσιμα σημεία της πρακτικής εφαρμογής είναι τα εξής:

• Παρακολούθηση της κατάστασης λειτουργίας του AI από κάθε φορέα, εφαρμογή του κύκλου PDCA και καταγραφή των αποτελεσμάτων.
• Σε περίπτωση που οι φορείς δυσκολεύονται να ανταποκριθούν μόνοι τους, να συνεργάζονται μεταξύ τους.

Εξέταση της Ενεργητικής Αποκάλυψης της Κατάστασης Εφαρμογής της Διακυβέρνησης τεχνητής νοημοσύνης (AI) στην Ιαπωνία

Το τρίτο στοιχείο που αναφέρεται ως στόχος δράσης για την «εφαρμογή» είναι η «Διασφάλιση της εξηγήσιμης κατάστασης λειτουργίας του συστήματος διαχείρισης AI και η εξέταση της ενεργητικής αποκάλυψης της κατάστασης εφαρμογής της διακυβέρνησης AI».

Στις Οδηγίες για τους Φορείς Επιχειρήσεων AI αναφέρεται το εξής:

Στόχος Δράσης 4-3【Εξέταση της Ενεργητικής Αποκάλυψης της Κατάστασης Εφαρμογής της Διακυβέρνησης AI】

Αναμένεται ότι οι φορείς θα εξετάσουν την αποκάλυψη πληροφοριών σχετικά με τον καθορισμό των στόχων διακυβέρνησης AI, την εγκατάσταση και λειτουργία του συστήματος διαχείρισης AI και άλλα, ως μη οικονομικές πληροφορίες στον Κώδικα Διακυβέρνησης Εταιρειών. Ακόμη και οι μη εισηγμένες εταιρείες αναμένεται να εξετάσουν την αποκάλυψη πληροφοριών σχετικά με τις δραστηριότητες διακυβέρνησης AI. Επιπλέον, αναμένεται ότι θα δημοσιοποιήσουν στους ενδιαφερόμενους την απόφαση να μην αποκαλύψουν πληροφορίες, μαζί με τους λόγους αυτής της απόφασης.

Πηγή: Παράρτημα Οδηγιών για τους Φορείς Επιχειρήσεων AI

Οι σημαντικοί παράγοντες για την εφαρμογή είναι οι εξής:

• Εξέταση της διασφάλισης της διαφάνειας των πληροφοριών σχετικά με τη διακυβέρνηση AI, από τη βασική φιλοσοφία της εταιρείας για την AI μέχρι την εγκατάσταση και λειτουργία του συστήματος διαχείρισης AI.
• Κατά την αποκάλυψη πληροφοριών σχετικά με τη διακυβέρνηση AI, εξέταση της ταξινόμησής τους ως μη οικονομικές πληροφορίες στον Κώδικα Διακυβέρνησης Εταιρειών.
• Σε περίπτωση που δεν αποκαλύπτονται πληροφορίες σχετικά με τη διακυβέρνηση AI, δημοσιοποίηση αυτού του γεγονότος μαζί με τους λόγους στους ενδιαφερόμενους.

Αξιολόγηση

Ως στόχοι δράσης για την εφαρμογή της «Αξιολόγησης» στο πλαίσιο της Αgile Governance, τα Παραρτήματα των Οδηγιών για Επιχειρηματίες AI στην Ιαπωνία αναφέρουν τα εξής δύο:

• Επαλήθευση της λειτουργίας του συστήματος διαχείρισης AI
• Εξέταση των απόψεων των εξωτερικών ενδιαφερομένων μερών

Επαλήθευση της λειτουργίας του συστήματος διαχείρισης AI

Ο πρώτος στόχος δράσης για την εφαρμογή της «Αξιολόγησης» είναι η «Επαλήθευση της λειτουργίας του συστήματος διαχείρισης AI».

Στις Οδηγίες για Επιχειρηματίες AI αναφέρεται το εξής:

Στόχος Δράσης 5-1【Επαλήθευση της λειτουργίας του συστήματος διαχείρισης AI】:

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής στρώσης, θα αναθέσει σε άτομα με σχετική ειδικότητα, ανεξάρτητα από τον σχεδιασμό και τη λειτουργία του συστήματος διαχείρισης AI, να αξιολογήσουν εάν το σύστημα διαχείρισης AI έχει σχεδιαστεί και λειτουργεί κατάλληλα, δηλαδή εάν μέσω της εφαρμογής των στόχων δράσης 3 και 4, το σύστημα διαχείρισης AI λειτουργεί κατάλληλα για την επίτευξη των στόχων διακυβέρνησης AI και να ζητήσουν τη συνεχή βελτίωση του.

Πηγή: Οδηγίες για Επιχειρηματίες AI

Τα κρίσιμα σημεία για την πρακτική εφαρμογή είναι τα εξής:

• Η διοικητική στρώση να διατυπώσει με τα δικά της λόγια τα κύρια σημεία αξιολόγησης για τη συνεχή βελτίωση
• Να ανατεθεί σε άτομα με σχετική ειδικότητα, ανεξάρτητα από τον σχεδιασμό και τη λειτουργία του συστήματος διαχείρισης AI
• Να παρακολουθείται εάν το σύστημα διαχείρισης AI λειτουργεί κατάλληλα
• Να εφαρμόζεται συνεχής βελτίωση με βάση τα αποτελέσματα της παρακολούθησης

Εξέταση των απόψεων των εξωτερικών ενδιαφερομένων μερών

Ο δεύτερος στόχος δράσης για την εφαρμογή της «Αξιολόγησης» είναι η «Εξέταση των απόψεων των εξωτερικών ενδιαφερομένων μερών».

Στις Οδηγίες για Επιχειρηματίες AI αναφέρεται το εξής:

Στόχος Δράσης 5-2【Εξέταση των απόψεων των ενδιαφερομένων μερών】:

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής στρώσης, θα εξετάσει την ανάκληση απόψεων από τους ενδιαφερομένους μερών σχετικά με το σύστημα διαχείρισης AI και τη λειτουργία του. Εάν, μετά την εξέταση, αποφασιστεί να μην εφαρμοστούν οι απόψεις αυτές, αναμένεται να εξηγηθούν οι λόγοι στους ενδιαφερομένους μερών.

Πηγή: Οδηγίες για Επιχειρηματίες AI Παραρτήματα

Τα κρίσιμα σημεία για την πρακτική εφαρμογή είναι τα εξής:

• Να εξετάζεται η ανάκληση απόψεων από τους ενδιαφερομένους μερών σχετικά με το σύστημα διαχείρισης AI και τη λειτουργία του
• Εάν αποφασιστεί να μην εφαρμοστούν οι απόψεις αυτές, να εξηγούνται οι λόγοι στους ενδιαφερομένους μερών

Επαναξιολόγηση Περιβάλλοντος & Κινδύνου

Στο πλαίσιο της ευέλικτης διακυβέρνησης, ένας από τους στόχους δράσης που έχουν τεθεί για την “Επαναξιολόγηση Περιβάλλοντος & Κινδύνου” είναι η “έγκαιρη επανεκτέλεση των στόχων δράσης 1-1 έως 1-3”.

Στις οδηγίες για τους φορείς εκμετάλλευσης AI αναφέρεται το εξής:

Στόχος Δράσης 6-1【Έγκαιρη Επανεκτέλεση των Στόχων Δράσης 1-1 έως 1-3】:

Αναμένεται ότι κάθε φορέας, υπό την ηγεσία της διοικητικής ομάδας, θα κατανοεί γρήγορα τις αλλαγές στο εξωτερικό περιβάλλον, όπως η εμφάνιση νέων τεχνολογιών και οι αλλαγές στα κοινωνικά συστήματα όπως οι ρυθμίσεις, και θα προβαίνει σε έγκαιρη επαναξιολόγηση, ανανέωση κατανόησης και απόκτηση νέων προοπτικών, καθώς και σε βελτιώσεις ή επαναδιαμόρφωση των συστημάτων AI και σε βελτιώσεις της λειτουργίας τους. Επιπλέον, κατά την εφαρμογή του Στόχου Δράσης 5-2, αναμένεται να ληφθούν υπόψη οι απόψεις από εξωτερικούς φορείς όχι μόνο για τα υφιστάμενα συστήματα διαχείρισης AI και τη λειτουργία τους, αλλά και για την ανάλυση περιβάλλοντος και κινδύνου, περιλαμβάνοντας μια επανεξέταση της συνολικής διακυβέρνησης AI σύμφωνα με την ευέλικτη διακυβέρνηση που τονίζεται σε αυτές τις οδηγίες.

Πηγή: Οδηγίες για τους Φορείς Εκμετάλλευσης AI

Τα κρίσιμα σημεία για την πρακτική εφαρμογή περιλαμβάνουν τα εξής:

• Κατανόηση των αλλαγών στο εξωτερικό περιβάλλον, όπως η εμφάνιση νέων τεχνολογιών, οι τεχνολογικές καινοτομίες σχετικά με την AI και οι αλλαγές στα κοινωνικά συστήματα όπως οι ρυθμίσεις.
• Έγκαιρη επαναξιολόγηση, ανανέωση κατανόησης και απόκτηση νέων προοπτικών, καθώς και η εφαρμογή βελτιώσεων, επαναδιαμόρφωσης και αλλαγών στη λειτουργία των συστημάτων AI.
• Ενσωμάτωση της φιλοσοφίας της διακυβέρνησης AI στον οργανισμό ως μέρος της εταιρικής κουλτούρας.

Σημεία Προσοχής κατά τη Δημιουργία Διακυβέρνησης Τεχνητής Νοημοσύνης στην Ιαπωνία

Αυτές είναι οι συγκεκριμένες μέθοδοι για τη διακυβέρνηση της τεχνητής νοημοσύνης (AI) βάσει της αντίληψης της ατζέντας διακυβέρνησης, όπως ορίζεται από τις “Οδηγίες για Επιχειρηματίες AI” στην Ιαπωνία.

Ωστόσο, αυτές οι οδηγίες έχουν δημιουργηθεί ως κοινές για όλους τους επιχειρηματίες AI και είναι απαραίτητο να ληφθούν υπόψη οι ειδικές συνθήκες της κάθε εταιρείας, όπως το είδος της επιχείρησης που αναπτύσσει, προσφέρει ή χρησιμοποιεί, καθώς και το είδος των συστημάτων ή υπηρεσιών AI που παρέχει.

Είναι σημαντικό να καθορίσετε ποια οργανωτική δομή και διαδικασίες απαιτούνται για την εταιρεία σας, ποιες ενέργειες και τεκμηρίωση είναι απαραίτητες, και να το κάνετε αυτό με βάση τα μελλοντικά επιχειρηματικά οφέλη και την αποφυγή των κινδύνων.

Επιπλέον, στον τομέα των επιχειρήσεων AI υπάρχουν διάφοροι νομικοί κίνδυνοι. Για αυτό το λόγο, συνιστούμε να εξασφαλίσετε την υποστήριξη ενός δικηγόρου από τα πρώτα βήματα της λήψης μέτρων.

Συνοπτικά: Η Βελτιστοποίηση για τις Οδηγίες Επιχειρηματιών AI Απαιτεί Δικηγόρο

Στο παρόν άρθρο, εξηγήσαμε τη δημιουργία διακυβέρνησης AI σύμφωνα με τις Οδηγίες Επιχειρηματιών AI στην Ιαπωνία.

Οι μέθοδοι διακυβέρνησης AI καθορίζονται αναλυτικά στις Οδηγίες Επιχειρηματιών AI, και οι διευθυντές πρέπει να δημιουργήσουν οργανισμούς εντός της εταιρείας και να παράγουν έγγραφα ως μέρος της διακυβέρνησης.

Στον γρήγορα μεταβαλλόμενο κόσμο των AI επιχειρήσεων, η βελτιστοποίηση για τις περίπλοκες και νεοσύστατες οδηγίες αποτελεί μια σημαντική πρόκληση. Συνιστούμε να αναζητήσετε τη συμβουλή ειδικών που είναι εξοικειωμένοι τόσο με τον τομέα της πληροφορικής όσο και με τον νομικό τομέα από τα πρώτα στάδια, προκειμένου να δημιουργήσετε την πιο κατάλληλη διακυβέρνηση AI για την εταιρεία σας.

Οδηγίες για τα Μέτρα που Προτείνει το Δικηγορικό μας Γραφείο

Το Δικηγορικό Γραφείο Monolith είναι ένα γραφείο με πλούσια εμπειρία στον τομέα της πληροφορικής και ειδικότερα στον συνδυασμό του διαδικτύου και του νόμου.

Οι επιχειρήσεις AI συνοδεύονται από πολλούς νομικούς κινδύνους και η υποστήριξη από δικηγόρους που ειδικεύονται σε νομικά ζητήματα σχετικά με την AI είναι απαραίτητη. Το γραφείο μας παρέχει προηγμένη νομική υποστήριξη για επιχειρήσεις AI, όπως η ChatGPT, μέσω μιας ομάδας δικηγόρων και μηχανικών που είναι ειδικοί στην AI, προσφέροντας υπηρεσίες όπως η σύνταξη συμβολαίων, η εξέταση της νομιμότητας των επιχειρησιακών μοντέλων, η προστασία των δικαιωμάτων πνευματικής ιδιοκτησίας και η αντιμετώπιση θεμάτων απορρήτου. Περισσότερες λεπτομέρειες παρέχονται στο παρακάτω άρθρο.

Τομείς εξειδίκευσης του Δικηγορικού Γραφείου Monolith: Νομικά ζητήματα AI (όπως ChatGPT κ.ά.)[ja]