Apakah Tadbir Urus AI yang Perlu Dilaksanakan oleh Syarikat? Penjelasan Mengenai Aspek Berdasarkan "Panduan bagi Pengusaha AI"
Pada 19 April 2024 (Reiwa 6), Kementerian Dalam Negeri dan Komunikasi serta Kementerian Ekonomi, Perdagangan dan Industri Jepun telah menerbitkan “Panduan bagi Pengusaha AI”. Tujuan panduan ini adalah untuk menggalakkan penggunaan AI yang selamat dan memajukan implementasi AI dalam masyarakat. Panduan ini ditujukan kepada pengusaha yang terlibat dalam pembangunan, penyediaan, dan penggunaan AI, serta institusi kerajaan, institusi pendidikan, dan organisasi seperti NPO dan NGO.
Dalam “Panduan bagi Pengusaha AI”, disebutkan bahawa pembinaan tadbir urus AI adalah penting bagi setiap entiti yang terlibat dalam pembangunan, penyediaan, dan penggunaan AI. Jadi, apakah langkah-langkah yang perlu diambil oleh syarikat untuk membina tadbir urus AI?
Artikel ini akan menjelaskan poin-poin penting tadbir urus AI yang perlu diambil oleh syarikat berdasarkan “Panduan bagi Pengusaha AI”.
Panduan Bagi Pengusaha AI di Jepun
Panduan bagi Pengusaha AI adalah dokumen yang disusun oleh Kementerian Hal Ehwal Dalam Negeri dan Kementerian Perdagangan dan Industri Jepun pada tahun 2024, bertujuan untuk mempromosikan penggunaan AI yang selamat dan boleh dipercayai dengan menunjukkan panduan yang seragam untuk tadbir urus AI di negara kita.
Rujukan: Panduan bagi Pengusaha AI (Versi 1.0) | Kementerian Perdagangan dan Industri[ja]
Panduan ini disusun dengan menggabungkan dan mengkaji semula “Panduan Pembangunan AI,” “Panduan Penggunaan AI,” dan “Panduan Tadbir Urus untuk Amalan Prinsip AI” yang telah dibangunkan sebelumnya, dan ditujukan untuk membantu pengusaha yang menggunakan AI dalam mengesahkan panduan tindakan yang diinginkan untuk penggunaan AI yang selamat dan boleh dipercayai.
Untuk maklumat lanjut mengenai Panduan bagi Pengusaha AI, sila rujuk artikel “Penerangan oleh Peguam mengenai Kandungan Panduan bagi Pengusaha AI oleh Kementerian Perdagangan dan Industri” sebagai rujukan.
Artikel berkaitan: Penerangan oleh Peguam mengenai Kandungan Panduan bagi Pengusaha AI oleh Kementerian Perdagangan dan Industri[ja]
Apakah Itu Tadbir Urus AI
Tadbir urus AI, menurut Garis Panduan Pengusaha AI di Jepun, didefinisikan sebagai “rekabentuk dan operasi sistem teknikal, organisasi, dan sosial oleh pemegang taruh yang bertujuan untuk mengurus risiko yang timbul dari penggunaan AI pada tahap yang dapat diterima oleh pemegang taruh, sambil memaksimalkan impak positif (manfaat) yang dihasilkan.”
Selanjutnya, mengenai tadbir urus AI ini, Garis Panduan Pengusaha AI di Jepun menyatakan bahawa “untuk menggunakan AI dengan selamat dan yakin, penting untuk membina tadbir urus AI yang mengurus risiko berkaitan AI pada tahap yang dapat diterima oleh pemegang taruh dan memaksimalkan manfaat yang dihasilkan, dengan kerjasama antara semua entiti dan mengamalkan panduan bersama di sepanjang rantaian nilai.”
Dengan kata lain, pembinaan tadbir urus AI adalah penting bagi setiap entiti yang terlibat dalam pembangunan, penyediaan, dan penggunaan AI.
Amalan ‘Agile Governance’ dalam Pembinaan AI Governance di Jepun
Amalan ‘Agile Governance’ dianggap penting dalam pembinaan AI Governance.
‘Agile Governance’ merupakan pendekatan yang tidak menetapkan peraturan tetap sejak awal, tetapi bergerak secara fleksibel mengikut perubahan persekitaran luaran dan risiko. Pendekatan ini melibatkan pusingan berterusan proses ‘analisis persekitaran dan risiko’, ‘penetapan matlamat’, ‘reka bentuk sistem’, ‘pengoperasian’, dan ‘penilaian’.
Dalam perniagaan yang berkaitan dengan AI, kerana kompleksitas dan perubahan yang cepat, matlamat yang dikejar juga sentiasa berubah.
Oleh itu, dalam pembinaan AI Governance, bukanlah menetapkan peraturan atau prosedur tetap sejak awal, tetapi memerlukan respons yang fleksibel yang sesuai dengan skala dan kandungan perniagaan setiap syarikat. Oleh itu, Garis Panduan Pengusaha AI di Jepun mencadangkan pembinaan governance menggunakan kaedah ‘Agile Governance’.
Perlu diingat, ‘Agile’ dalam bahasa Inggeris bermaksud ‘cepat’ atau ‘lincah’.
Pelaksanaan ‘Agile Governance’ seperti yang dinyatakan dalam Garis Panduan Pengusaha AI adalah seperti berikut:
- Melaksanakan ‘analisis persekitaran dan risiko’ yang merupakan analisis perubahan persekitaran sosial penerimaan sistem dan perkhidmatan AI, serta manfaat dan risiko penggunaan sistem dan perkhidmatan AI.
- Membuat keputusan sama ada untuk membangun, menyediakan, atau menggunakan sistem dan perkhidmatan AI, dan jika ya, ‘penetapan matlamat’ dilakukan.
- Melaksanakan ‘reka bentuk sistem pengurusan AI’ untuk mencapai matlamat governance AI yang ditetapkan, dan ‘pengoperasian’ sistem tersebut. Dalam proses ini, syarikat harus memenuhi tanggungjawab terhadap kejelasan dan akauntabiliti (seperti keadilan) kepada pemegang taruh luaran berkenaan dengan matlamat governance AI dan keadaan operasinya.
- Memantau secara berterusan untuk memastikan sistem pengurusan AI berfungsi dengan efektif dan melaksanakan ‘penilaian’.
- Selepas memulakan operasi sistem dan perkhidmatan AI, melaksanakan ‘analisis persekitaran dan risiko’ sekali lagi berdasarkan perubahan persekitaran luaran, dan mengkaji semula matlamat jika perlu.
Untuk melaksanakan langkah 1 hingga 5 ini, sasaran tindakan yang spesifik terdapat dalam lampiran Garis Panduan Pengusaha AI[ja], jadi mari kita periksa setiap item secara terperinci.
Objektif Tindakan untuk Mengamalkan Agile Governance di Jepun
Marilah kita mengesahkan objektif tindakan untuk mengamalkan Agile Governance berdasarkan lampiran Garis Panduan bagi Pengusaha AI di Jepun.
Analisis Risiko dan Persekitaran di Jepun
Untuk melaksanakan ‘Analisis Risiko dan Persekitaran’ yang merupakan sebahagian daripada tadbir urus agil, terdapat tiga matlamat tindakan yang dinyatakan dalam Lampiran Panduan Pengusaha AI, iaitu:
- Pemahaman tentang Manfaat/Risiko
- Pemahaman tentang Penerimaan Sosial AI
- Pemahaman tentang Tahap Kepakaran AI Syarikat Sendiri
Pemahaman Manfaat/Risiko
Salah satu matlamat tindakan yang dinyatakan untuk pelaksanaan ‘Analisis Risiko/Persekitaran’ adalah ‘Pemahaman Manfaat/Risiko’.
Dalam Lampiran Panduan Pengusaha AI, ia dijelaskan seperti berikut:
Matlamat Tindakan 1-1【Pemahaman Manfaat/Risiko】
Setiap entiti, di bawah kepimpinan lapisan pengurusan, harus menjelaskan tujuan pembangunan, penyediaan, dan penggunaan AI, dan setelah itu, memahami secara konkrit bukan sahaja manfaat yang diperoleh dari AI tetapi juga risiko yang tidak diingini yang mungkin timbul, dengan merujuk kepada perniagaan masing-masing, melaporkan ini kepada lapisan pengurusan, berkongsi dalam lapisan pengurusan, dan mengemaskini pemahaman ini secara berkala.
Rujukan: Lampiran Panduan Pengusaha AI
Titik-titik penting yang perlu diberi perhatian adalah seperti berikut:
- Menentukan dengan jelas tujuan pembangunan, penyediaan, dan penggunaan AI dalam penciptaan nilai perniagaan dan penyelesaian masalah sosial
- Memahami manfaat dan risiko yang berkaitan dengan perniagaan sendiri secara konkrit
- Memberi perhatian kepada ‘risiko’ yang harus dielakkan serta isu yang melibatkan pelbagai entiti, dan memastikan manfaat di seluruh rantaian nilai/rantaian risiko sambil mengurangkan risiko
- Membangun mekanisme untuk melaporkan/membagi maklumat dengan cepat kepada lapisan pengurusan
Memahami Penerimaan Sosial AI
Salah satu matlamat tindakan yang dinyatakan untuk pelaksanaan ‘Analisis Risiko dan Alam Sekitar’ adalah ‘Memahami Penerimaan Sosial AI’.
Dalam lampiran Panduan Pengusaha AI, ia dijelaskan seperti berikut:
Matlamat Tindakan 1-2【Memahami Penerimaan Sosial AI】
Di bawah kepimpinan lapisan pengurusan, diharapkan setiap entiti memahami keadaan penerimaan sosial yang ada berdasarkan pendapat para pemegang taruh sebelum memulakan pembangunan, penyediaan, dan penggunaan AI secara menyeluruh. Selain itu, selepas pembangunan, penyediaan, dan penggunaan sistem atau perkhidmatan AI secara menyeluruh, diharapkan untuk mengesahkan semula pendapat para pemegang taruh dari semasa ke semasa, dengan mengambil kira perubahan dalam persekitaran luaran.
Rujukan: Lampiran Panduan Pengusaha AI
Berikut adalah beberapa titik penting untuk pelaksanaannya:
- Mengenal pasti pemegang taruh
- Menggalakkan pemegang taruh untuk memahami penerimaan sosial dan berusaha dalam pembangunan, penyediaan, dan penggunaan AI
- Selepas memulakan penyediaan sistem atau perkhidmatan AI, mempertimbangkan persekitaran luaran yang berubah dengan cepat dan mengesahkan semula pendapat pemegang taruh dari semasa ke semasa apabila diperlukan
Memahami Tahap Kepakaran AI Syarikat Anda
Sebagai salah satu daripada matlamat tindakan untuk melaksanakan ‘analisis risiko dan persekitaran’, kita perlu memahami ‘tahap kepakaran AI syarikat kita’.
Panduan bagi Pengusaha AI di Jepun menjelaskan seperti berikut:
Matlamat Tindakan 1-3【Memahami Tahap Kepakaran AI Syarikat Anda】
Di bawah kepimpinan lapisan pengurusan, setiap entiti, dengan mengambil kira pelaksanaan matlamat tindakan 1-1 dan 1-2, dan kecuali apabila risiko dianggap kecil berdasarkan penggunaan AI yang ingin digunakan, bidang perniagaan dan skala syarikat, hendaklah menilai tahap kepakaran AI syarikat berdasarkan pengalaman dalam pembangunan, penyediaan, dan penggunaan sistem dan perkhidmatan AI, jumlah dan tahap pengalaman pekerja termasuk jurutera yang terlibat dalam pembangunan, penyediaan, dan penggunaan sistem dan perkhidmatan AI, serta tahap literasi teknologi dan etika AI pekerja tersebut, dan menilai semula secara berkala. Jika boleh, diharapkan untuk mendedahkan hasilnya kepada pihak berkepentingan dalam lingkungan yang munasabah. Jika risiko dianggap kecil dan penilaian tahap kepakaran AI tidak dilakukan, diharapkan untuk mendedahkan fakta tersebut bersama dengan alasannya kepada pihak berkepentingan.
Rujukan: Lampiran Panduan bagi Pengusaha AI
Berikut adalah beberapa titik penting untuk pelaksanaan:
- Mempertimbangkan keperluan penilaian tahap kepakaran AI berdasarkan bidang perniagaan dan skala setiap entiti
- Jika penilaian tahap kepakaran AI diperlukan, visualisasikan kemampuan untuk menangani risiko AI dan menilai tahap kepakaran AI
- Walaupun penilaian tahap kepakaran AI tidak diperlukan, jika boleh, dedahkan fakta dan alasannya dalam lingkungan yang munasabah kepada pihak berkepentingan
Penetapan Sasaran
Sebagai sasaran tindakan untuk melaksanakan ‘Penetapan Sasaran’ dalam Agile Governance, Garis Panduan bagi Pengusaha AI di Jepun telah menetapkan sasaran tindakan berikut.
Sasaran Tindakan 2-1【Penetapan Sasaran AI Governance】
Setiap entiti, di bawah kepimpinan lapisan pengurusan, sambil mempertimbangkan manfaat/risiko yang mungkin diperolehi dari sistem dan perkhidmatan AI, penerimaan sosial berkaitan dengan pembangunan, penyediaan, dan penggunaan sistem dan perkhidmatan AI, serta tahap kecaknaan AI syarikat sendiri, harus mempertimbangkan pentingnya proses dalam menetapkan Sasaran AI Governance (contohnya, Polisi AI) syarikat itu sendiri, dan memutuskan sama ada untuk menetapkannya. Jika sasaran ditetapkan, diharapkan untuk mendedahkannya kepada pihak berkepentingan. Jika sasaran AI Governance tidak ditetapkan atas alasan risiko yang berpotensi rendah, diharapkan untuk mendedahkan fakta dan alasannya kepada pihak berkepentingan. Jika ‘Panduan Umum’ dalam garis panduan ini dianggap berfungsi dengan baik, boleh juga menggunakan ‘Panduan Umum’ tersebut sebagai ganti Sasaran AI Governance syarikat itu sendiri.
Walaupun tidak menetapkan sasaran, diharapkan untuk memahami kepentingan garis panduan ini dan melaksanakan inisiatif yang berkaitan dengan Sasaran Tindakan 3 hingga 5 secara sewajarnya.
Rujukan: Lampiran Garis Panduan Pengusaha AI
Titik penting untuk pelaksanaan adalah seperti berikut:
- Mempertimbangkan sama ada untuk menetapkan ‘Sasaran AI Governance’ bagi setiap entiti
- Jika penilaian menunjukkan keperluan untuk menetapkan sasaran, maka menetapkannya
- Walaupun penilaian menunjukkan tidak perlu menetapkan sasaran, jika mungkin, dedahkan fakta dan alasannya dalam lingkup yang munasabah kepada pihak berkepentingan.
Reka Bentuk Sistem (Pembinaan Sistem Pengurusan AI)
Untuk melaksanakan ‘Reka Bentuk Sistem (Pembinaan Sistem Pengurusan AI)’ di bawah tadbir urus Agile, empat objektif berikut dinyatakan dalam Lampiran Garis Panduan Pengusaha AI:
- Pengwajiban penilaian tujuan dan penyelesaian penyimpangan
- Peningkatan literasi tenaga kerja dalam pengurusan AI
- Penguatan pengurusan AI melalui kerjasama antara pelbagai entiti dan jabatan
- Pengurangan beban terkait insiden pengguna melalui pencegahan dan tindak balas awal
Pengukuhan Penilaian dan Tindak Balas Terhadap Penyimpangan dalam Sistem Pengurusan AI di Jepun
Salah satu matlamat tindakan yang dinyatakan untuk pelaksanaan “Reka Bentuk Sistem (pembinaan Sistem Pengurusan AI)” adalah “Pengukuhan Penilaian dan Tindak Balas Terhadap Penyimpangan”.
Dalam Garis Panduan bagi Pengusaha AI di Jepun, ia dinyatakan seperti berikut:
Matlamat Tindakan 3-1【Pengukuhan Penilaian dan Tindak Balas Terhadap Penyimpangan】
Setiap entiti, di bawah kepimpinan lapisan pengurusan, harus mengenal pasti penyimpangan dari Matlamat Tadbir Urus AI entiti tersebut, menilai kesan yang timbul dari penyimpangan tersebut, dan jika risiko dikenal pasti, mempertimbangkan besarnya, lingkup, dan frekuensi kejadian untuk menentukan kewajaran penerimaan. Jika penerimaan tidak dianggap wajar, proses untuk mempertimbangkan kembali cara pengembangan, penyediaan, dan penggunaan AI diharapkan untuk disertakan pada tahap yang sesuai dalam Sistem Pengurusan AI secara keseluruhan, serta pada tahap reka bentuk, pembangunan, sebelum penggunaan, dan setelah penggunaan sistem atau perkhidmatan AI. Penting bagi lapisan pengurusan untuk menetapkan dasar-dasar asas dan arah proses pertimbangan kembali ini, sementara lapisan operasi harus melaksanakan proses tersebut secara konkrit. Di samping itu, diharapkan individu yang tidak terlibat secara langsung dalam pengembangan, penyediaan, atau penggunaan AI akan terlibat dalam penilaian penyimpangan terhadap Matlamat Tadbir Urus AI. Namun, tindakan yang melarang pengembangan, penyediaan, atau penggunaan AI semata-mata berdasarkan adanya penyimpangan tidaklah tepat. Oleh itu, penilaian penyimpangan adalah langkah untuk menilai risiko dan hanya merupakan titik permulaan untuk peningkatan.
Rujukan: Lampiran Garis Panduan bagi Pengusaha AI
Berikut adalah beberapa titik penting untuk amalan:
- Kenal pasti dan nilai sejauh mana sistem atau perkhidmatan AI semasa dan “Matlamat Tadbir Urus AI” menyimpang
- Jika penggunaan sistem atau perkhidmatan AI dianggap berisiko, tentukan kewajaran penerimaan risiko tersebut
- Jika penerimaan tidak dianggap wajar, pertimbangkan kembali cara pengembangan, penyediaan, dan penggunaan, serta sertakan proses pertimbangan kembali pada tahap yang sesuai dalam pengembangan, penyediaan, dan penggunaan, serta dalam proses pengambilan keputusan organisasi di dalam entiti
- Lapisan pengurusan harus mengambil kepimpinan dalam tindakan ini, bertanggungjawab atas keputusan yang dibuat, dan lapisan operasi harus melaksanakan tindakan tersebut secara konkrit dan melaksanakannya secara berterusan
- Untuk membentuk kesedaran di dalam entiti, perkongsian item penilaian penyimpangan yang telah ditetapkan harus dilakukan di dalam entiti tersebut
Peningkatan Literasi Tenaga Kerja dalam Pengurusan AI di Jepun
Salah satu daripada matlamat tindakan yang dinyatakan untuk pelaksanaan “Reka Bentuk Sistem (pembinaan sistem pengurusan AI)” adalah “peningkatan literasi tenaga kerja dalam pengurusan AI”.
Dalam Garis Panduan Pengusaha AI di Jepun, ia dinyatakan seperti berikut:
Matlamat Tindakan 3-2【Peningkatan Literasi Tenaga Kerja Sistem Pengurusan AI】
Di bawah kepimpinan lapisan pengurusan, diharapkan setiap entiti akan meningkatkan literasi AI secara strategik untuk mengendalikan sistem pengurusan AI dengan sewajarnya, dengan mempertimbangkan penggunaan bahan pengajaran dari luar. Sebagai contoh, bagi pegawai, pasukan pengurusan, dan individu yang bertanggungjawab atas aspek-aspek legal dan etika sistem & perkhidmatan AI, pendidikan untuk meningkatkan literasi umum mengenai etika AI dan kepercayaan AI boleh disediakan, sementara bagi mereka yang bertanggungjawab atas pembangunan, penyediaan, dan penggunaan projek sistem & perkhidmatan AI, latihan mengenai teknologi AI termasuk AI generatif selain etika AI boleh dipertimbangkan, dan pendidikan mengenai kedudukan dan kepentingan sistem pengurusan AI boleh disediakan kepada semua pihak.
Rujukan: Lampiran Garis Panduan Pengusaha AI
Beberapa titik penting untuk amalan adalah seperti berikut:
- Menggunakan latihan dan bahan pengajaran yang sesuai dengan jawatan dan tanggungjawab untuk meningkatkan literasi AI
- Menggunakan latihan dan bahan pengajaran yang sesuai dengan peranan yang harus dilakukan oleh setiap individu
- Melakukan inovasi seperti mewajibkan semua kakitangan mengikuti kursus mengenai etika AI yang sangat penting
Penguatan Pengurusan AI Melalui Kerjasama Antara Entiti dan Jabatan
Salah satu daripada matlamat tindakan yang dinyatakan untuk pelaksanaan “Reka Bentuk Sistem (pembinaan sistem pengurusan AI)” adalah “Penguatan Pengurusan AI Melalui Kerjasama Antara Entiti dan Jabatan”.
Dalam Garis Panduan Pengusaha AI di Jepun, ia dinyatakan seperti berikut:
Matlamat Tindakan 3-3 [Penguatan Pengurusan AI Melalui Kerjasama Antara Entiti dan Jabatan]
Setiap entiti, kecuali dalam kes di mana semua aktiviti dari persiapan set data yang digunakan untuk pembelajaran hingga pembangunan, penyediaan, dan penggunaan sistem atau perkhidmatan AI dilakukan oleh jabatan mereka sendiri, di bawah kepimpinan lapisan pengurusan, sambil memperhatikan rahsia perdagangan, diharapkan untuk mengenal pasti secara jelas isu operasi sistem atau perkhidmatan AI yang tidak dapat dilaksanakan sepenuhnya oleh syarikat atau jabatan mereka sendiri dan maklumat yang diperlukan untuk menyelesaikan isu tersebut, dan untuk berkongsi dalam skop yang mungkin dan munasabah di bawah penjagaan persaingan yang adil. Dalam hal ini, diharapkan agar pertukaran maklumat yang diperlukan dapat dilakukan dengan lancar dengan persetujuan terlebih dahulu mengenai skop pendedahan maklumat antara entiti dan mempertimbangkan penandatanganan perjanjian kerahsiaan.
Rujukan: Lampiran Garis Panduan Pengusaha AI
Beberapa titik penting untuk amalan adalah seperti berikut:
- Mengenal pasti isu operasi sistem atau perkhidmatan AI yang tidak dapat diselesaikan oleh setiap entiti sendiri dan maklumat yang diperlukan untuk penyelesaiannya
- Berkongsi dalam skop yang mungkin dan munasabah antara entiti sambil memperhatikan hak kekayaan intelek dan privasi
※Perlu diingat bahawa ini semua berdasarkan prasyarat pemeliharaan persaingan yang adil, termasuk pelbagai undang-undang dan peraturan, polisi AI setiap entiti, rahsia perdagangan, dan data yang disediakan secara terhad.
Pengurangan Beban Pengguna Berkaitan Insiden Melalui Pencegahan dan Tindak Balas Awal
Salah satu daripada objektif tindakan yang dinyatakan untuk pelaksanaan ‘Reka Bentuk Sistem (pembinaan sistem pengurusan AI)’ adalah ‘pengurangan beban pengguna berkaitan insiden melalui pencegahan dan tindak balas awal’.
Dalam Garis Panduan bagi Pengusaha AI, ia dinyatakan seperti berikut:
Objektif Tindakan 3-4【Pengurangan Beban Pengguna AI dan Pengguna Luar Tugas Berkaitan Insiden Melalui Pencegahan dan Tindak Balas Awal】
Di bawah kepimpinan lapisan pengurusan, diharapkan setiap entiti akan mengurangkan beban pengguna AI dan pengguna luar tugas berkaitan insiden melalui pencegahan insiden dan tindak balas awal.
Rujukan: Lampiran Garis Panduan bagi Pengusaha AI
- Mencegah insiden seperti kegagalan sistem, kebocoran maklumat, dan timbulnya aduan, serta memberikan tindak balas awal sekiranya insiden berlaku
- Membina struktur untuk pencegahan insiden dan tindak balas awal
Pengoperasian
Untuk melaksanakan ‘pengoperasian’ dalam Agile Governance, tiga objektif tindakan yang disebutkan dalam Lampiran Garis Panduan Pengusaha AI adalah seperti berikut:
- Memastikan keadaan yang boleh dijelaskan bagi pengoperasian sistem pengurusan AI
- Memastikan keadaan yang boleh dijelaskan bagi pengoperasian setiap sistem AI
- Mempertimbangkan pendedahan proaktif mengenai praktik pengoperasian tadbir urus AI
Memastikan Keadaan yang Dapat Dijelaskan bagi Operasi Sistem Pengurusan AI
Salah satu matlamat tindakan untuk pelaksanaan ‘operasi’ adalah “Memastikan Keadaan yang Dapat Dijelaskan bagi Operasi Sistem Pengurusan AI”.
Dalam Garis Panduan bagi Pengusaha AI, ia dinyatakan seperti berikut:
Matlamat Tindakan 4-1【Memastikan Keadaan yang Dapat Dijelaskan bagi Operasi Sistem Pengurusan AI】
Setiap entiti diharapkan untuk memenuhi tanggungjawab mereka terhadap ketelusan dan akauntabiliti kepada pihak berkepentingan yang berkaitan dengan keadaan operasi sistem pengurusan AI di bawah kepimpinan lapisan pengurusan, seperti merekodkan status pelaksanaan proses penilaian penyimpangan yang dinyatakan dalam Matlamat Tindakan 3-1.
Rujukan: Lampiran Garis Panduan bagi Pengusaha AI
Sebagai titik penting operasi, ia dinyatakan bahawa keadaan operasi sistem pengurusan AI harus berada dalam keadaan yang dapat dijelaskan kepada pihak berkepentingan yang berkaitan dalam skop yang sesuai dan munasabah.
Memastikan Keadaan yang Dapat Dijelaskan bagi Operasi Sistem AI Secara Individu
Salah satu matlamat tindakan yang dinyatakan untuk pelaksanaan “operasi” adalah “Memastikan keadaan yang dapat dijelaskan bagi operasi sistem pengurusan AI”.
Dalam Garis Panduan Pengusaha AI, ia dinyatakan seperti berikut:
Matlamat Tindakan 4-2【Memastikan Keadaan yang Dapat Dijelaskan bagi Operasi Sistem AI Secara Individu】
Di bawah kepimpinan lapisan pengurusan, diharapkan setiap entiti akan terus melakukan penilaian penyimpangan untuk operasi sementara dan penuh setiap sistem dan perkhidmatan AI, dengan memantau keadaan operasi sementara dan penuh serta merekod hasilnya sambil menggerakkan PDCA. Entiti yang mengembangkan sistem AI diharapkan akan menyokong pemantauan tersebut oleh entiti yang menyediakan dan menggunakan sistem AI.
Rujukan: Lampiran Garis Panduan Pengusaha AI
Titik praktikal adalah seperti berikut:
- Memantau keadaan operasi AI setiap entiti dan merekod hasilnya sambil menggerakkan PDCA.
- Jika sukar bagi setiap entiti untuk menangani sendiri, maka kerjasama antara entiti harus dijalankan.
Pertimbangan Pengungkapan Proaktif Status Praktik AI Governance di Jepun
Salah satu daripada matlamat tindakan untuk pelaksanaan ‘operasi’ adalah “Memastikan keadaan yang boleh dijelaskan bagi operasi sistem pengurusan AI dan pertimbangan pengungkapan proaktif status praktik AI Governance.”
Dalam Garis Panduan Pengusaha AI di Jepun, ia dinyatakan seperti berikut:
Matlamat Tindakan 4-3【Pertimbangan Pengungkapan Proaktif Status Praktik AI Governance】
Diharapkan bahawa setiap entiti akan mempertimbangkan untuk mengungkapkan maklumat berkaitan dengan penetapan matlamat AI Governance, pembangunan dan operasi sistem pengurusan AI, sebagai maklumat bukan kewangan dalam Kod Tata Kelola Korporat. Bahkan bagi syarikat yang tidak disenaraikan, diharapkan untuk mempertimbangkan pengungkapan maklumat aktiviti berkaitan dengan AI Governance. Selanjutnya, diharapkan untuk mendedahkan kepada pemegang taruh jika keputusan dibuat untuk tidak mengungkapkan, bersama dengan alasan-alasannya.
Rujukan: Lampiran Garis Panduan Pengusaha AI
Berikut adalah beberapa titik penting untuk praktik:
- Pertimbangkan untuk memastikan ketelusan maklumat berkaitan dengan AI Governance, dari pendekatan asas syarikat terhadap AI hingga pembangunan dan operasi sistem pengurusan AI.
- Apabila mengungkapkan maklumat berkaitan dengan AI Governance, pertimbangkan untuk menempatkannya sebagai maklumat bukan kewangan dalam Kod Tata Kelola Korporat.
- Jika memutuskan untuk tidak mengungkapkan maklumat berkaitan dengan AI Governance, dedahkan fakta dan alasannya kepada pemegang taruh.
Penilaian
Sebagai objektif tindakan untuk melaksanakan ‘penilaian’ dalam Agile Governance, dua perkara berikut ini disebutkan dalam Lampiran Panduan Pengusaha AI:
- Verifikasi fungsi sistem pengurusan AI
- Pertimbangan pendapat pemegang taruh luaran
Verifikasi Fungsi Sistem Pengurusan AI
Objektif tindakan pertama yang disebutkan untuk melaksanakan ‘penilaian’ adalah ‘verifikasi fungsi sistem pengurusan AI’.
Dalam Panduan Pengusaha AI, hal ini dinyatakan sebagai berikut:
Objektif Tindakan 5-1【Verifikasi Fungsi Sistem Pengurusan AI】:
Diharapkan bahawa setiap entiti, di bawah kepemimpinan lapisan pengurusan, akan meminta individu yang memiliki keahlian terkait yang bebas dari desain dan operasi sistem pengurusan AI untuk menilai apakah sistem pengurusan AI telah dirancang dan dioperasikan dengan tepat berdasarkan tujuan tata kelola AI, yaitu melalui praktik Objektif Tindakan 3 dan 4, untuk mengevaluasi dan memperbaiki secara berkelanjutan apakah sistem pengurusan AI berfungsi dengan tepat dalam mencapai tujuan tata kelola AI.
Petikan: Panduan Pengusaha AI
Titik-titik penting untuk praktik adalah seperti berikut:
- Menyatakan titik-titik penting penilaian untuk perbaikan berkelanjutan dengan kata-kata pengurusan sendiri
- Menugaskan individu yang memiliki keahlian terkait yang bebas dari desain dan operasi sistem pengurusan AI
- Memantau apakah sistem pengurusan AI berfungsi dengan tepat
- Melaksanakan perbaikan berkelanjutan berdasarkan hasil pemantauan
Pertimbangan Pendapat Pemegang Taruh Luaran
Objektif tindakan kedua yang disebutkan untuk melaksanakan ‘penilaian’ adalah ‘pertimbangan pendapat pemegang taruh luaran’.
Dalam Panduan Pengusaha AI, hal ini dinyatakan sebagai berikut:
Objektif Tindakan 5-2【Pertimbangan Pendapat Pemegang Taruh】:
Diharapkan bahawa setiap entiti, di bawah kepemimpinan lapisan pengurusan, akan mempertimbangkan untuk meminta pendapat dari pemegang taruh mengenai sistem pengurusan AI dan operasinya. Kemudian, berdasarkan hasil pertimbangan tersebut, jika diputuskan untuk tidak melaksanakan isi pendapat tersebut, diharapkan untuk menjelaskan alasannya kepada pemegang taruh.
Petikan: Lampiran Panduan Pengusaha AI
Titik-titik penting untuk praktik adalah seperti berikut:
- Mempertimbangkan untuk meminta pendapat dari pemegang taruh mengenai sistem pengurusan AI dan operasinya
- Jika isi pendapat tersebut tidak dilaksanakan, menjelaskan alasannya kepada pemegang taruh
Reanalisis Risiko dan Persekitaran
Sebagai objektif tindakan untuk melaksanakan ‘Reanalisis Risiko dan Persekitaran’ dalam tadbir urus agil, ‘Pelaksanaan semula objektif tindakan 1-1 hingga 1-3 secara tepat waktu’ dinyatakan.
Dalam Garis Panduan bagi Pengusaha AI, ia dinyatakan seperti berikut:
Objektif Tindakan 6-1【Pelaksanaan semula objektif tindakan 1-1 hingga 1-3 secara tepat waktu】:
Di bawah kepimpinan lapisan pengurusan, setiap entiti diharapkan dapat dengan cepat memahami perubahan persekitaran luaran seperti kemunculan teknologi baru dan perubahan dalam sistem sosial termasuk peraturan, serta melakukan penilaian semula, pembaharuan pemahaman, dan memperoleh perspektif baru secara tepat waktu. Berdasarkan ini, diharapkan untuk memperbaiki atau merekonstruksi sistem AI yang ada dan memperbaiki operasinya. Selain itu, ketika melaksanakan Objektif Tindakan 5-2, bukan sahaja sistem pengurusan AI yang ada dan operasinya tetapi juga analisis risiko dan persekitaran, serta mendapatkan pandangan dari luar untuk meninjau keseluruhan tadbir urus AI yang sesuai dengan tadbir urus agil yang juga ditekankan dalam panduan ini diharapkan.
Rujukan: Lampiran Garis Panduan bagi Pengusaha AI
Titik penting untuk amalan adalah seperti berikut:
- Memahami perubahan persekitaran luaran seperti kemunculan teknologi baru, inovasi teknologi yang berkaitan dengan AI, dan perubahan dalam sistem sosial termasuk peraturan
- Melakukan penilaian semula, pembaharuan pemahaman, dan memperoleh perspektif baru secara tepat waktu, serta membuat peningkatan, rekonstruksi, dan perubahan operasi sistem AI yang sesuai
- Menanamkan konsep tadbir urus AI sebagai budaya organisasi
Aspek Penting dalam Pembinaan Tadbir Urus AI di Jepun
Inilah kaedah tadbir urus AI yang konkrit berdasarkan ‘Panduan bagi Pengusaha AI’ dan pendekatan tadbir urus agil.
Namun, panduan ini dicipta sebagai sesuatu yang umum untuk semua pengusaha AI, dan perlu dipertimbangkan secara individu bergantung pada jenis perniagaan sama ada pembangunan, penyediaan, atau penggunaan, serta jenis sistem atau perkhidmatan AI yang ditawarkan oleh syarikat anda.
Setiap syarikat perlu menentukan jenis organisasi dan sistem yang diperlukan, tindakan dan dokumentasi yang perlu, yang mana akan berbeza mengikut kes. Ini juga harus dilakukan dengan mempertimbangkan manfaat dan penghindaran kerugian bisnis di masa depan.
Selain itu, terdapat pelbagai risiko undang-undang yang tersembunyi dalam bisnis AI. Oleh itu, kami mengesyorkan untuk mendapatkan sokongan daripada seorang peguam Jepun sejak dari peringkat awal merancang langkah-langkah pencegahan.
Kesimpulan: Pengoptimuman kepada Garis Panduan Pengusaha AI adalah Tugas Peguam
Artikel ini telah menjelaskan pembinaan tadbir urus AI yang selaras dengan Garis Panduan Pengusaha AI di Jepun.
Metodologi tadbir urus AI diperincikan dalam Garis Panduan Pengusaha AI, dan para pengurus perlu membentuk organisasi dalam syarikat atau membuat dokumen tertulis sebagai sebahagian daripada tadbir urus mereka.
Dalam bisnes AI yang berubah dengan cepat, pengoptimuman kepada garis panduan yang baru dan kompleks ini merupakan cabaran yang besar. Kami menyarankan agar anda membangun tadbir urus AI yang paling sesuai untuk syarikat anda dengan menerima nasihat daripada pakar yang mahir dalam bidang IT termasuk AI dan undang-undang sejak awal.
Panduan Tindakan oleh Firma Kami
Firma Guaman Monolith merupakan firma guaman yang memiliki pengalaman luas dalam IT, khususnya internet dan hukum. Kami menyediakan perkhidmatan undang-undang yang unik dan efektif dengan menggabungkan kepakaran dalam kedua-dua bidang ini.
Bisnes AI melibatkan banyak risiko legal, dan sokongan daripada peguam yang mahir dalam isu-isu hukum berkaitan AI adalah sangat penting. Firma kami, dengan pasukan peguam yang mahir dalam AI dan jurutera, menyediakan sokongan hukum yang canggih untuk bisnes AI termasuk ChatGPT, seperti pembuatan kontrak, penilaian kesahihan model bisnes, perlindungan hak kekayaan intelek, dan penanganan privasi. Sila rujuk artikel di bawah untuk maklumat lanjut.
Bidang perkhidmatan Firma Guaman Monolith: Perundangan AI (termasuk ChatGPT dan lain-lain)[ja]
Category: IT
