Apa itu Tata Kelola AI yang Seharusnya Diterapkan oleh Perusahaan? Menjelaskan Poin-Poin Berdasarkan "Panduan bagi Pelaku Usaha AI"
Pada tanggal 19 April 2024 (Reiwa 6), Kementerian Dalam Negeri dan Komunikasi serta Kementerian Ekonomi, Perdagangan dan Industri Jepang telah mempublikasikan “Panduan bagi Penyelenggara AI.” Tujuan dari panduan ini adalah untuk mendorong penggunaan AI yang aman dan memajukan implementasi AI dalam masyarakat. Panduan ini ditujukan untuk para penyelenggara bisnis yang terlibat dalam pengembangan, penyediaan, dan penggunaan AI, serta lembaga pemerintah, institusi pendidikan, dan organisasi seperti NPO dan NGO.
Dalam “Panduan bagi Penyelenggara AI,” disebutkan bahwa pembangunan tata kelola AI yang baik sangat penting bagi setiap entitas yang mengembangkan, menyediakan, dan menggunakan AI. Lantas, apa saja langkah-langkah yang perlu diambil oleh perusahaan untuk membangun tata kelola AI yang efektif?
Artikel ini akan menjelaskan poin-poin penting dalam tata kelola AI yang harus diterapkan oleh perusahaan berdasarkan “Panduan bagi Penyelenggara AI” di Jepang.
Apa Itu Pedoman bagi Pengusaha AI di Jepang?
Pedoman bagi Pengusaha AI di Jepang, yang disusun oleh Kementerian Dalam Negeri dan Komunikasi serta Kementerian Ekonomi, Perdagangan dan Industri pada tahun 2024 (Reiwa 6), bertujuan untuk menunjukkan pedoman yang seragam untuk tata kelola AI di negara kita, sehingga penggunaan AI yang aman dan terpercaya dapat ditingkatkan.
Referensi: Pedoman bagi Pengusaha AI (Versi 1.0)｜Kementerian Ekonomi, Perdagangan dan Industri[ja]
Pedoman ini disusun dengan mengintegrasikan dan merevisi “Pedoman Pengembangan AI,” “Pedoman Pemanfaatan AI,” dan “Pedoman Tata Kelola untuk Praktik Prinsip AI” yang telah ada sebelumnya, dan ditujukan untuk memberikan panduan kepada pengusaha yang menggunakan AI tentang perilaku yang diinginkan untuk penggunaan AI yang aman dan terpercaya.
Untuk informasi lebih lanjut tentang Pedoman bagi Pengusaha AI, silakan lihat penjelasan kami dalam artikel “Penjelasan oleh Pengacara tentang Pedoman bagi Pengusaha AI dari Kementerian Ekonomi, Perdagangan dan Industri.”
Artikel terkait: Penjelasan oleh Pengacara tentang Pedoman bagi Pengusaha AI dari Kementerian Ekonomi, Perdagangan dan Industri[ja]
Apa Itu Tata Kelola AI di Jepang?
Tata kelola AI, menurut Pedoman bagi Penyelenggara AI di Jepang, didefinisikan sebagai “desain dan operasi sistem teknis, organisasi, dan sosial oleh para pemangku kepentingan dengan tujuan untuk mengelola risiko yang ditimbulkan oleh pemanfaatan AI pada tingkat yang dapat diterima oleh pemangku kepentingan, sambil memaksimalkan dampak positif (manfaat) yang dihasilkan.”
Lebih lanjut, pedoman tersebut menyatakan bahwa “untuk menggunakan AI dengan aman dan nyaman, penting untuk membangun tata kelola AI yang mengelola risiko terkait AI pada tingkat yang dapat diterima oleh pemangku kepentingan dan memaksimalkan manfaat yang dihasilkan, melalui kerjasama antar entitas dan praktik panduan bersama di seluruh rantai nilai.”
Dengan kata lain, pembangunan tata kelola AI sangat penting bagi setiap entitas yang terlibat dalam pengembangan, penyediaan, dan penggunaan AI.
Praktik ‘Agile Governance’ dalam Pembangunan Tata Kelola AI di Jepang
Dalam pembangunan tata kelola AI, praktik ‘agile governance’ dianggap penting.
‘Agile governance’ adalah pendekatan yang tidak menetapkan aturan tetap sejak awal, melainkan beradaptasi secara fleksibel terhadap perubahan lingkungan eksternal dan risiko dengan terus menerus menjalankan siklus ‘analisis lingkungan dan risiko’, ‘penetapan tujuan’, ‘desain sistem’, ‘operasional’, dan ‘evaluasi’.
Dalam bisnis yang berkaitan dengan AI, tujuan yang dikejar sering berubah karena kompleksitas dan perubahan yang cepat.
Oleh karena itu, dalam pembangunan tata kelola AI, bukanlah menetapkan aturan atau prosedur yang kaku sejak awal, melainkan diperlukan respons yang fleksibel sesuai dengan skala dan jenis bisnis masing-masing perusahaan. Untuk itu, Pedoman bagi Penyelenggara AI di Jepang merekomendasikan pembangunan tata kelola dengan metode ‘agile governance’.
Secara etimologi, ‘agile’ dalam bahasa Inggris berarti ‘cepat’ atau ‘lincah’.
Pelaksanaan ‘agile governance’ dalam Pedoman bagi Penyelenggara AI dijelaskan sebagai berikut:
- Melakukan ‘analisis lingkungan dan risiko’, yaitu menganalisis perubahan lingkungan eksternal seperti penerimaan sosial terhadap sistem dan layanan AI, serta manfaat dan risiko apa yang ada dalam penggunaan sistem dan layanan AI tersebut.
- Memutuskan apakah akan mengembangkan, menyediakan, dan menggunakan sistem serta layanan AI, dan jika ya, maka ‘penetapan tujuan’ dilakukan.
- Merancang ‘sistem manajemen AI’ untuk mencapai tujuan tata kelola AI yang telah ditetapkan dan kemudian ‘mengoperasikannya’. Dalam hal ini, perusahaan harus memenuhi transparansi dan akuntabilitas (seperti keadilan) terhadap stakeholder eksternal terkait tujuan tata kelola AI dan kondisi operasionalnya.
- Secara kontinu memonitor apakah sistem manajemen AI berfungsi efektif dan melakukan ‘evaluasi’.
- Setelah memulai operasional sistem dan layanan AI, kembali melakukan ‘analisis lingkungan dan risiko’ dengan mempertimbangkan perubahan lingkungan eksternal, dan jika perlu, merevisi tujuan yang telah ditetapkan.
Untuk praktik 1-5 ini, tujuan aksi konkret tercantum dalam lampiran Pedoman bagi Penyelenggara AI[ja], jadi mari kita periksa setiap item secara spesifik.
Tujuan Perilaku untuk Praktik Agile Governance di Jepang
Mari kita tinjau tujuan perilaku untuk praktik Agile Governance berdasarkan Lampiran Pedoman bagi Pelaku Usaha AI di Jepang.
Analisis Lingkungan & Risiko di Bawah Hukum Jepang
Untuk melaksanakan “Analisis Lingkungan & Risiko” dalam kerangka Agile Governance, terdapat tiga tujuan utama yang diuraikan dalam Lampiran Pedoman bagi Penyelenggara AI, yaitu:
- Pemahaman tentang manfaat/risiko
- Pemahaman tentang penerimaan sosial AI
- Pemahaman tentang tingkat penguasaan AI di perusahaan sendiri
Pemahaman Manfaat/Risiko
Salah satu tujuan tindakan yang diangkat untuk pelaksanaan ‘Analisis Lingkungan & Risiko’ adalah ‘Pemahaman Manfaat/Risiko’.
Dalam Lampiran Pedoman bagi Penyelenggara AI dijelaskan sebagai berikut.
Tujuan Tindakan 1-1【Pemahaman Manfaat/Risiko】
Setiap entitas, di bawah kepemimpinan manajemen, harus mengklarifikasi tujuan pengembangan, penyediaan, dan penggunaan AI, kemudian memahami secara konkret manfaat yang diperoleh dari AI serta risiko yang tidak diinginkan yang mungkin terjadi, dengan mempertimbangkan bisnis entitas tersebut. Selanjutnya, mereka harus melaporkan dan berbagi pemahaman ini dengan manajemen dan memperbarui pemahaman tersebut secara tepat waktu.
Sumber: Lampiran Pedoman bagi Penyelenggara AI
Beberapa poin khusus yang menjadi fokus adalah sebagai berikut:
- Secara eksplisit mendefinisikan tujuan pengembangan, penyediaan, dan penggunaan AI dalam menciptakan nilai bisnis dan menyelesaikan masalah sosial
- Memahami manfaat dan risiko secara konkret dalam konteks bisnis perusahaan sendiri
- Memperhatikan ‘risiko’ yang harus dihindari serta isu yang melibatkan berbagai entitas, dan memastikan manfaat di seluruh rantai nilai/risiko serta mengurangi risiko
- Membangun mekanisme untuk melaporkan dan berbagi informasi dengan manajemen secara cepat
Memahami Penerimaan Sosial AI
Salah satu tujuan perilaku yang diangkat sebagai bagian dari ‘Analisis Risiko dan Lingkungan’ adalah ‘Memahami Penerimaan Sosial AI’.
Dalam lampiran Pedoman bagi Penyelenggara AI, hal ini dijelaskan sebagai berikut:
Tujuan Perilaku 1-2【Memahami Penerimaan Sosial AI】
Diharapkan bahwa setiap entitas, di bawah kepemimpinan manajemen, akan memahami status penerimaan sosial berdasarkan pendapat para pemangku kepentingan sebelum memulai pengembangan, penyediaan, dan penggunaan AI secara penuh. Selanjutnya, bahkan setelah pengembangan, penyediaan, dan penggunaan sistem dan layanan AI secara penuh, diharapkan untuk secara berkala memverifikasi kembali pendapat para pemangku kepentingan dengan mempertimbangkan perubahan lingkungan eksternal.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk implementasinya:
- Mengidentifikasi para pemangku kepentingan
- Mendorong pemangku kepentingan untuk berupaya memahami penerimaan sosial dan mengembangkan, menyediakan, serta menggunakan AI
- Setelah memulai penyediaan sistem dan layanan AI, mempertimbangkan lingkungan eksternal yang berubah dengan cepat dan memverifikasi kembali pendapat para pemangku kepentingan secara tepat waktu sesuai kebutuhan
Memahami Tingkat Penguasaan AI Perusahaan Anda
Sebagai salah satu tujuan tindakan untuk pelaksanaan “Analisis Risiko dan Lingkungan”, yang ketiga adalah “Memahami Tingkat Penguasaan AI Perusahaan Anda”.
Dalam Lampiran Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Tindakan 1-3【Memahami Tingkat Penguasaan AI Perusahaan Anda】
Setiap entitas, di bawah kepemimpinan manajemen, setelah melaksanakan Tujuan Tindakan 1-1 dan 1-2, kecuali dalam kasus di mana risiko dinilai minimal setelah mempertimbangkan penggunaan AI yang ingin diterapkan, lingkup bisnis dan skala perusahaan, harus mengevaluasi tingkat penguasaan AI mereka berdasarkan tingkat pengalaman dalam pengembangan, penyediaan, dan penggunaan sistem dan layanan AI perusahaan, jumlah dan tingkat pengalaman karyawan yang terlibat dalam pengembangan, penyediaan, dan penggunaan sistem dan layanan AI, termasuk insinyur, serta tingkat literasi teknologi dan etika AI karyawan tersebut, dan melakukan reevaluasi secara berkala. Jika memungkinkan, diharapkan untuk mempublikasikan hasilnya kepada pemangku kepentingan dalam jangkauan yang wajar. Jika risiko dinilai minimal dan tidak dilakukan evaluasi tingkat penguasaan AI, diharapkan untuk mempublikasikan fakta tersebut beserta alasannya kepada pemangku kepentingan.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk pelaksanaannya:
- Mempertimbangkan kebutuhan evaluasi tingkat penguasaan AI berdasarkan lingkup bisnis dan skala masing-masing entitas
- Jika dinilai perlu melakukan evaluasi tingkat penguasaan AI, visualisasikan kemampuan untuk menanggapi risiko AI dan evaluasi tingkat penguasaan AI
- Meskipun dinilai tidak perlu melakukan evaluasi tingkat penguasaan AI, jika memungkinkan, publikasikan fakta dan alasannya dalam jangkauan yang wajar kepada pemangku kepentingan
Penetapan Tujuan
Sebagai tujuan tindakan untuk pelaksanaan ‘Penetapan Tujuan’ dalam Agile Governance, Lampiran Pedoman bagi Penyelenggara AI di Jepang menetapkan tujuan tindakan berikut ini.
Tujuan Tindakan 2-1【Penetapan Tujuan AI Governance】
Setiap entitas, di bawah kepemimpinan manajemen, harus mempertimbangkan manfaat/risiko yang dapat dihasilkan oleh sistem dan layanan AI, penerimaan sosial terhadap pengembangan, penyediaan, dan penggunaan sistem dan layanan AI, serta tingkat keahlian AI perusahaan itu sendiri. Sambil memperhatikan pentingnya proses menuju penetapan tujuan AI Governance, entitas tersebut harus mempertimbangkan apakah akan menetapkan tujuan AI Governance sendiri (seperti kebijakan AI) atau tidak, dan jika ya, menetapkannya. Selanjutnya, diharapkan untuk mempublikasikan tujuan yang telah ditetapkan kepada para pemangku kepentingan. Jika entitas memutuskan untuk tidak menetapkan tujuan AI Governance karena risiko yang potensial dianggap kecil, diharapkan untuk mempublikasikan fakta tersebut beserta alasannya kepada para pemangku kepentingan. Jika ‘Pedoman Umum’ dalam panduan ini dianggap berfungsi dengan baik, entitas dapat menggunakan ‘Pedoman Umum’ tersebut sebagai tujuan AI Governance mereka.
Meskipun tidak menetapkan tujuan, diharapkan untuk memahami pentingnya panduan ini dan menerapkan inisiatif yang terkait dengan Tujuan Tindakan 3 hingga 5 sesuai kebutuhan.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk pelaksanaannya:
- Mempertimbangkan apakah akan menetapkan ‘Tujuan AI Governance’ untuk setiap entitas
- Jika menilai perlu untuk menetapkan tujuan, maka menetapkannya
- Bahkan jika menilai tidak perlu untuk menetapkan tujuan, jika memungkinkan, publikasikan fakta tersebut beserta alasannya dalam jangkauan yang masuk akal kepada para pemangku kepentingan.
Desain Sistem (Pembangunan Sistem Manajemen AI) di Jepang
Sebagai tujuan tindakan untuk pelaksanaan ‘Desain Sistem (Pembangunan Sistem Manajemen AI)’ di bawah Agile Governance, empat poin berikut ini diangkat dalam Lampiran Pedoman bagi Penyelenggara AI.
- Wajibnya evaluasi tujuan dan penanganan penyimpangan serta respons terhadapnya
- Peningkatan literasi sumber daya manusia dalam manajemen AI
- Penguatan manajemen AI melalui kerjasama antar entitas dan departemen
- Reduksi beban terkait insiden pada pengguna melalui pencegahan dan respons dini
Evaluasi Tujuan dan Penyimpangan serta Kewajiban Respons Penyimpangan dalam Sistem AI di Jepang
Salah satu tujuan perilaku yang diangkat sebagai bagian dari “Desain Sistem (pembangunan Sistem Manajemen AI)” adalah “Evaluasi Tujuan dan Penyimpangan serta Kewajiban Respons Penyimpangan”.
Dalam Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Perilaku 3-1【Evaluasi Tujuan dan Penyimpangan, serta Kewajiban Respons Penyimpangan】
Setiap entitas, di bawah kepemimpinan manajemen, harus mengidentifikasi penyimpangan dari Tujuan Tata Kelola AI entitas tersebut, mengevaluasi dampak yang ditimbulkan oleh penyimpangan tersebut, dan jika risiko diakui, mempertimbangkan besarnya, lingkup, dan frekuensi kejadian untuk menentukan apakah penerimaan risiko tersebut rasional. Jika penerimaan dianggap tidak rasional, proses untuk merefleksikan kembali cara pengembangan, penyediaan, dan penggunaan AI diharapkan untuk diintegrasikan pada tahap yang tepat dari sistem manajemen AI secara keseluruhan, serta pada tahap desain, pengembangan, sebelum penggunaan, dan setelah penggunaan sistem atau layanan AI. Sangat penting bagi manajemen untuk menetapkan kebijakan dasar dan lainnya untuk proses refleksi ini, sementara operasional harus mengonkretkan proses tersebut. Selain itu, diharapkan bahwa evaluasi penyimpangan melibatkan orang-orang yang tidak langsung terlibat dalam pengembangan, penyediaan, dan penggunaan AI yang menjadi subjek. Namun, tidak tepat untuk menanggapi penyimpangan sebagai alasan semata untuk secara sewenang-wenang menolak pengembangan, penyediaan, dan penggunaan AI. Oleh karena itu, evaluasi penyimpangan adalah langkah untuk menilai risiko dan hanya merupakan pemicu untuk perbaikan.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk praktik:
- Mengidentifikasi dan mengevaluasi sejauh mana sistem atau layanan AI saat ini dan “Tujuan Tata Kelola AI” menyimpang
- Menentukan rasionalitas penerimaan risiko jika penggunaan sistem atau layanan AI diakui berisiko
- Jika penerimaan dianggap tidak rasional, merefleksikan kembali cara pengembangan, penyediaan, dan penggunaan, serta mengintegrasikan proses refleksi ini pada tahap yang tepat dari pengembangan, penyediaan, dan penggunaan, serta dalam proses pengambilan keputusan organisasi di setiap entitas
- Manajemen harus mengambil inisiatif dalam tindakan ini, bertanggung jawab atas keputusan yang dibuat, dan operasional harus mengonkretkan tindakan tersebut untuk dilaksanakan secara berkelanjutan.
- Untuk membentuk pemahaman bersama di dalam setiap entitas, item evaluasi penyimpangan yang telah ditetapkan harus dibagikan di dalam entitas tersebut
Peningkatan Literasi SDM dalam Manajemen AI di Jepang
Salah satu tujuan perilaku yang diangkat sebagai bagian dari “Desain Sistem (pembangunan sistem manajemen AI)” adalah “peningkatan literasi SDM dalam manajemen AI”.
Dalam Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Perilaku 3-2【Peningkatan Literasi SDM dalam Sistem Manajemen AI】
Di bawah kepemimpinan lapisan manajemen, diharapkan setiap entitas meningkatkan literasi AI secara strategis untuk mengoperasikan sistem manajemen AI dengan tepat, dengan mempertimbangkan penggunaan materi pembelajaran eksternal. Sebagai contoh, bagi direksi, tim manajemen, dan personel yang bertanggung jawab atas aspek hukum dan etika sistem & layanan AI, disarankan untuk menyediakan pendidikan guna meningkatkan literasi umum terkait etika AI dan kepercayaan pada AI. Bagi personel yang bertanggung jawab atas pengembangan, penyediaan, dan penggunaan proyek sistem & layanan AI, disarankan untuk menyediakan pelatihan tidak hanya tentang etika AI tetapi juga tentang teknologi AI termasuk AI generatif. Untuk semua pihak, disarankan untuk menyediakan pendidikan tentang posisi dan pentingnya sistem manajemen AI.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Beberapa poin penting untuk praktiknya adalah sebagai berikut:
- Menggunakan pelatihan dan materi pembelajaran yang sesuai dengan jabatan dan tanggung jawab untuk meningkatkan literasi AI
- Memanfaatkan pelatihan dan materi pembelajaran yang sesuai dengan peran yang harus dijalankan oleh masing-masing pihak
- Secara khusus, untuk etika AI yang sangat penting, melakukan inovasi seperti mewajibkan semua karyawan mengikuti kursus terkait
Penguatan Manajemen AI melalui Kerjasama Antar Entitas dan Departemen
Salah satu tujuan perilaku yang diangkat untuk pelaksanaan “Desain Sistem (pembangunan sistem manajemen AI)” adalah “Penguatan Manajemen AI melalui Kerjasama Antar Entitas dan Departemen”.
Dalam Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Perilaku 3-3 [Penguatan Manajemen AI melalui Kerjasama Antar Entitas dan Departemen]
Setiap entitas, kecuali dalam kasus di mana semua tahapan mulai dari persiapan dataset yang digunakan untuk pembelajaran hingga pengembangan, penyediaan, dan penggunaan sistem serta layanan AI dilakukan oleh departemen mereka sendiri, diharapkan untuk, di bawah kepemimpinan manajemen, sambil memperhatikan rahasia dagang, mengidentifikasi secara jelas tantangan operasional sistem dan layanan AI yang tidak dapat sepenuhnya diatasi oleh perusahaan atau departemen mereka sendiri serta informasi yang diperlukan untuk menyelesaikan tantangan tersebut, dan dalam batas yang mungkin dan rasional, berbagi informasi tersebut dengan memastikan persaingan yang adil. Dalam hal ini, diharapkan terjadi pertukaran informasi yang diperlukan dengan lancar, dengan kesepakatan terlebih dahulu antar entitas mengenai lingkup pengungkapan informasi dan mempertimbangkan penandatanganan perjanjian kerahasiaan.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Beberapa poin penting untuk praktiknya adalah sebagai berikut:
- Mengidentifikasi tantangan operasional sistem dan layanan AI yang tidak dapat diselesaikan oleh entitas masing-masing serta informasi yang diperlukan untuk menyelesaikan tantangan tersebut
- Berbagi informasi dalam batas yang mungkin dan rasional antar entitas, dengan memperhatikan hak kekayaan intelektual dan privasi
※Perlu diperhatikan bahwa hal-hal ini didasarkan pada prasyarat pemeliharaan persaingan yang adil, termasuk berbagai peraturan dan regulasi, kebijakan AI masing-masing entitas, rahasia dagang, dan data yang disediakan secara terbatas.
Pengurangan Beban Terkait Insiden Pengguna Melalui Pencegahan dan Respons Cepat
Salah satu tujuan perilaku yang diangkat dalam pelaksanaan “Desain Sistem (pembangunan sistem manajemen AI)” adalah “pengurangan beban terkait insiden pengguna melalui pencegahan dan respons cepat”.
Dalam Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Perilaku 3-4 [Pengurangan Beban Terkait Insiden Pengguna AI dan Pengguna di Luar Kegiatan Usaha Melalui Pencegahan dan Respons Cepat]
Di bawah kepemimpinan manajemen, diharapkan setiap entitas dapat mengurangi beban terkait insiden bagi pengguna AI dan pengguna di luar kegiatan usaha melalui pencegahan insiden dan respons cepat.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
- Mencegah insiden seperti gangguan sistem, kebocoran informasi, dan timbulnya klaim, serta merespons dengan cepat jika insiden terjadi
- Membangun sistem untuk pencegahan insiden dan respons cepat
Operasional
Untuk pelaksanaan ‘operasional’ dalam Agile Governance, tiga tujuan berikut ini diangkat dalam Lampiran Pedoman bagi Penyelenggara AI.
- Memastikan keadaan yang dapat dijelaskan dari operasional sistem manajemen AI
- Memastikan keadaan yang dapat dijelaskan dari operasional setiap sistem AI
- Mempertimbangkan pengungkapan proaktif dari praktik tata kelola AI
Menjamin Kondisi yang Dapat Dijelaskan dari Operasional Sistem Manajemen AI
Salah satu tujuan tindakan untuk pelaksanaan ‘operasional’ adalah “Menjamin kondisi yang dapat dijelaskan dari operasional sistem manajemen AI”.
Pedoman bagi Penyelenggara AI menyatakan sebagai berikut:
Tujuan Tindakan 4-1【Menjamin Kondisi yang Dapat Dijelaskan dari Operasional Sistem Manajemen AI】
Setiap entitas diharapkan untuk memenuhi transparansi dan akuntabilitas kepada pemangku kepentingan terkait mengenai kondisi operasional sistem manajemen AI, di bawah kepemimpinan lapisan manajemen, seperti dengan mencatat status pelaksanaan proses evaluasi penyimpangan yang disebutkan dalam Tujuan Tindakan 3-1.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Sebagai poin penting dalam operasional, disebutkan bahwa penting untuk menjaga kondisi operasional sistem manajemen AI dalam keadaan yang dapat dijelaskan kepada pemangku kepentingan terkait dalam jangkauan yang tepat dan rasional.
Memastikan Kondisi yang Dapat Dijelaskan dari Operasional Sistem AI Secara Individual
Sebagai salah satu tujuan tindakan untuk pelaksanaan “operasional,” yang kedua adalah “Memastikan kondisi yang dapat dijelaskan dari operasional sistem manajemen AI.”
Dalam Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Tindakan 4-2【Memastikan Kondisi yang Dapat Dijelaskan dari Operasional Sistem AI Secara Individual】
Setiap entitas diharapkan, di bawah kepemimpinan manajemen, untuk terus-menerus melakukan evaluasi penyimpangan baik dalam operasional sementara maupun operasional penuh dari setiap sistem dan layanan AI, dengan memonitor kondisi operasional sementara dan penuh serta merekam hasilnya sambil menjalankan siklus PDCA. Entitas yang mengembangkan sistem AI diharapkan untuk mendukung pemantauan tersebut oleh entitas yang menyediakan dan menggunakan sistem AI.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin praktisnya:
- Memantau kondisi operasional AI setiap entitas dan merekam hasilnya sambil menjalankan siklus PDCA.
- Jika suatu entitas kesulitan untuk menangani sendiri, maka kerjasama antar entitas diperlukan.
Pertimbangan Pengungkapan Proaktif Praktik AI Governance di Jepang
Salah satu tujuan perilaku yang diangkat sebagai bagian dari ‘operasionalisasi’ adalah “Memastikan keadaan yang dapat dijelaskan dari operasional sistem manajemen AI dan pertimbangan pengungkapan proaktif praktik AI Governance.”
Dalam Pedoman bagi Penyelenggara AI di Jepang, hal ini dijelaskan sebagai berikut:
Tujuan Perilaku 4-3【Pertimbangan Pengungkapan Proaktif Praktik AI Governance】
Diharapkan bahwa setiap entitas akan mempertimbangkan untuk mengungkapkan informasi terkait dengan penetapan tujuan AI Governance, pengembangan dan operasional sistem manajemen AI, sebagai bagian dari informasi non-keuangan dalam kode tata kelola perusahaan. Bahkan bagi perusahaan yang tidak terdaftar di bursa, diharapkan untuk mempertimbangkan pengungkapan informasi aktivitas terkait AI Governance. Selanjutnya, diharapkan bahwa hasil dari pertimbangan tersebut, termasuk keputusan untuk tidak mengungkapkan dan alasannya, akan dipublikasikan kepada para pemangku kepentingan.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk praktiknya:
- Mempertimbangkan untuk memastikan transparansi informasi terkait AI Governance, mulai dari pendekatan dasar perusahaan terhadap AI hingga pengembangan dan operasional sistem manajemen AI.
- Ketika mengungkapkan informasi terkait AI Governance, pertimbangkan untuk menempatkannya sebagai bagian dari informasi non-keuangan dalam kode tata kelola perusahaan.
- Jika memutuskan untuk tidak mengungkapkan informasi terkait AI Governance, publikasikan fakta dan alasannya kepada para pemangku kepentingan.
Evaluasi
Sebagai tujuan tindakan untuk pelaksanaan ‘evaluasi’ dalam Agile Governance, dua hal berikut ini disebutkan dalam Lampiran Pedoman bagi Penyelenggara AI:
- Verifikasi fungsi sistem manajemen AI
- Pertimbangan opini pemangku kepentingan eksternal
Verifikasi Fungsi Sistem Manajemen AI
Tujuan tindakan pertama yang disebutkan untuk pelaksanaan ‘evaluasi’ adalah ‘verifikasi fungsi sistem manajemen AI’.
Dalam Pedoman bagi Penyelenggara AI, hal ini dijelaskan sebagai berikut:
Tujuan Tindakan 5-1 [Verifikasi Fungsi Sistem Manajemen AI]:
Diharapkan bahwa setiap entitas, di bawah kepemimpinan manajemen eksekutif, akan meminta pihak yang memiliki keahlian terkait yang independen dari desain dan operasi sistem manajemen AI, untuk mengevaluasi apakah proses penilaian deviasi dan sistem manajemen AI lainnya telah dirancang dan dioperasikan dengan tepat, yaitu melalui praktik Tujuan Tindakan 3 dan 4, apakah sistem manajemen AI berfungsi dengan tepat untuk mencapai tujuan tata kelola AI dan melakukan perbaikan berkelanjutan.
Kutipan: Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk praktiknya:
- Manajemen eksekutif harus secara eksplisit menyatakan poin-poin penting evaluasi untuk perbaikan berkelanjutan dengan kata-kata mereka sendiri
- Menugaskan pihak yang memiliki keahlian terkait yang independen dari desain dan operasi sistem manajemen AI
- Memantau apakah sistem manajemen AI berfungsi dengan tepat
- Melakukan perbaikan berkelanjutan berdasarkan hasil pemantauan
Pertimbangan Opini Pemangku Kepentingan Eksternal
Tujuan tindakan kedua yang disebutkan untuk pelaksanaan ‘evaluasi’ adalah ‘pertimbangan opini pemangku kepentingan eksternal’.
Dalam Pedoman bagi Penyelenggara AI, hal ini dijelaskan sebagai berikut:
Tujuan Tindakan 5-2 [Pertimbangan Opini Pemangku Kepentingan]:
Diharapkan bahwa setiap entitas, di bawah kepemimpinan manajemen eksekutif, akan mempertimbangkan untuk meminta opini dari pemangku kepentingan mengenai sistem manajemen AI dan operasinya. Kemudian, jika setelah pertimbangan, diputuskan untuk tidak menerapkan isi opini tersebut, diharapkan untuk menjelaskan alasannya kepada pemangku kepentingan.
Kutipan: Lampiran Pedoman bagi Penyelenggara AI
Berikut adalah poin-poin penting untuk praktiknya:
- Mempertimbangkan untuk meminta opini dari pemangku kepentingan mengenai sistem manajemen AI dan operasinya
- Jika isi opini tidak diterapkan, menjelaskan alasannya kepada pemangku kepentingan
Reanalisis Risiko dan Lingkungan
Sebagai tujuan tindakan untuk melaksanakan ‘Reanalisis Risiko dan Lingkungan’ dalam Agile Governance, yang disebutkan adalah ‘Pelaksanaan kembali tepat waktu dari Tujuan Tindakan 1-1 hingga 1-3’.
Dalam Pedoman bagi Penyelenggara AI di Jepang, dijelaskan sebagai berikut:
Tujuan Tindakan 6-1【Pelaksanaan kembali tepat waktu dari Tujuan Tindakan 1-1 hingga 1-3】:
Setiap entitas diharapkan, di bawah kepemimpinan manajemen, untuk dengan cepat memahami perubahan lingkungan eksternal seperti kemunculan teknologi baru dan perubahan sistem sosial termasuk regulasi, dan melakukan reevaluasi, pembaruan pemahaman, serta memperoleh perspektif baru secara tepat waktu. Berdasarkan hal tersebut, diharapkan untuk melakukan perbaikan atau rekonstruksi sistem AI, serta peningkatan operasional. Selain itu, ketika melaksanakan Tujuan Tindakan 5-2, tidak hanya sistem manajemen AI yang ada dan operasionalnya, tetapi juga diharapkan untuk mempertimbangkan mendapatkan pendapat dari luar terkait dengan tinjauan keseluruhan tata kelola AI yang sesuai dengan Agile Governance yang ditekankan dalam pedoman ini, termasuk analisis risiko dan lingkungan.
Referensi: Lampiran Pedoman bagi Penyelenggara AI
Beberapa poin penting untuk praktiknya adalah sebagai berikut:
- Memahami perubahan lingkungan eksternal seperti kemunculan teknologi baru, inovasi teknologi terkait AI, dan perubahan sistem sosial termasuk regulasi
- Melakukan reevaluasi, pembaruan pemahaman, dan memperoleh perspektif baru secara tepat waktu, serta melakukan perbaikan, rekonstruksi, dan perubahan operasional sistem AI yang sesuai
- Menanamkan konsep tata kelola AI sebagai bagian dari budaya organisasi
Poin-Poin Penting Saat Membangun Tata Kelola AI di Jepang
Itulah metode spesifik tata kelola AI berdasarkan pendekatan agile governance yang diatur dalam “Panduan bagi Penyelenggara AI” di Jepang.
Namun, perlu diingat bahwa panduan ini dibuat untuk berlaku secara umum bagi semua penyelenggara AI, dan perusahaan Anda mungkin perlu mempertimbangkan faktor-faktor seperti bentuk bisnis pengembangan, penyediaan, atau penggunaan yang relevan, serta jenis sistem atau layanan AI yang ditawarkan.
Organisasi dan sistem apa yang dibutuhkan oleh perusahaan Anda, tindakan dan dokumentasi apa yang diperlukan, akan bervariasi tergantung pada kasusnya. Selain itu, penting untuk mempertimbangkan bagaimana ini akan menghasilkan keuntungan bisnis di masa depan dan menghindari kerugian.
Di samping itu, bisnis AI di Jepang dapat menyimpan berbagai risiko hukum. Oleh karena itu, kami menyarankan untuk mendapatkan dukungan dari seorang pengacara Jepang sejak tahap awal perencanaan sebagai langkah pencegahan.
Kesimpulan: Optimalisasi Pedoman AI untuk Pelaku Usaha oleh Pengacara
Artikel ini telah menjelaskan tentang pembangunan tata kelola AI yang sesuai dengan Pedoman AI untuk Pelaku Usaha di Jepang.
Metode tata kelola AI diatur secara rinci dalam Pedoman AI untuk Pelaku Usaha, dan para pengusaha perlu membentuk organisasi di dalam perusahaan dan membuat dokumen tertulis sebagai bagian dari tata kelola tersebut.
Dalam bisnis AI yang berkembang dengan cepat, optimalisasi terhadap pedoman yang masih baru dan kompleks ini sangatlah menantang. Kami menyarankan agar Anda membangun tata kelola AI yang paling sesuai untuk perusahaan Anda dengan segera mendapatkan nasihat dari para ahli yang menguasai baik bidang IT termasuk AI maupun hukum, sejak tahap awal.
Panduan Tindakan Hukum oleh Kantor Hukum Kami
Kantor Hukum Monolith adalah firma hukum yang memiliki pengalaman luas dalam IT, khususnya internet dan hukum. Kami menyediakan layanan hukum yang unik dan efektif dengan menggabungkan keahlian di kedua bidang tersebut.
Bisnis AI mengandung banyak risiko hukum, dan dukungan dari pengacara yang ahli dalam masalah hukum AI menjadi sangat penting. Kantor Hukum Monolith, dengan tim yang terdiri dari pengacara yang ahli dalam AI dan tim teknis seperti insinyur, menyediakan dukungan hukum tingkat lanjut untuk bisnis AI termasuk ChatGPT, seperti pembuatan kontrak, penilaian keabsahan model bisnis, perlindungan hak kekayaan intelektual, dan penanganan privasi. Detail lebih lanjut dapat Anda temukan dalam artikel di bawah ini.
Bidang layanan Kantor Hukum Monolith: Hukum AI (seperti ChatGPT dan lainnya)[ja]
Category: IT
