Peguam Menerangkan Kandungan Garis Panduan bagi Pengusaha AI oleh Kementerian Perdagangan, Perindustrian dan Ekonomi

Pada tahun 2024 (Reiwa 6), Kementerian Ekonomi, Perdagangan dan Industri Jepun telah menyusun “Panduan Pengusaha AI (Versi 1.0)[ja]” sebagai panduan penting yang menunjukkan arah bagi tadbir urus AI yang sepatutnya dilaksanakan oleh syarikat-syarikat, dengan tujuan untuk penggunaan AI yang sesuai dan peningkatan kepercayaan sosial. Ini dibuat atas dasar bahawa pengurusan risiko dan penanganan isu etika dalam implementasi sosial teknologi AI yang berkembang pesat menjadi tema penting bagi syarikat dan masyarakat secara keseluruhan. Panduan ini, sebagai soft law yang tidak mengandungi kekuatan mengikat secara legal, mengklarifikasi peranan setiap entiti dan menekankan kandungan yang mengutamakan pendekatan berbasis risiko dan kesesuaian dengan sistem internasional.

Lebih lanjut, ciri khas panduan ini adalah penggunaan konsep ‘agile governance’, yang bukan berupa aturan tetap tetapi dapat menyesuaikan dengan fleksibel terhadap perubahan lingkungan. Ini merupakan mekanisme yang memungkinkan syarikat untuk mengurangkan risiko dan mencapai pembangunan teknologi yang berkelanjutan dengan memutar siklus analisis lingkungan dan risiko, penetapan tujuan, operasi, dan penilaian secara berterusan dalam menghadapi isu yang timbul dalam pengembangan, penyediaan, dan penggunaan AI. Selain itu, elemen-elemen seperti kerjasama antara pelbagai entiti, distribusi data yang sesuai, dan keterlibatan aktif lapisan pengurusan ditekankan sebagai pilar yang mendukung tadbir urus yang efektif.

Pengumuman dan Latar Belakang “Panduan bagi Pengusaha AI” oleh Kementerian Perdagangan, Perindustrian dan Ekonomi Jepun

Pada bulan April 2024, Kementerian Perdagangan, Perindustrian dan Ekonomi Jepun telah merumuskan dan mengumumkan “Panduan bagi Pengusaha AI (Versi 1.0)[ja]“. Panduan ini ditempatkan sebagai garis panduan yang tidak memiliki kekuatan hukum yang mengikat, bertujuan untuk menyokong perkembangan teknologi AI dan penerapannya dalam masyarakat. Oleh itu, panduan ini bukanlah suatu peraturan yang mengenakan kewajiban seperti undang-undang, tetapi menyediakan prinsip-prinsip dasar dan panduan yang dapat dijadikan rujukan oleh pengusaha ketika melaksanakan praktik-praktik tersebut. Strukturnya terdiri dari teks utama yang memuat prinsip dan konsep, serta lampiran yang menunjukkan metode praktis pelaksanaannya.

Pendekatan Berasaskan “Prinsip Masyarakat AI yang Berpusatkan Manusia”

“Panduan bagi Pengusaha AI” di Jepun adalah berdasarkan “Prinsip Masyarakat AI yang Berpusatkan Manusia” yang diperkenalkan pada bulan Mac 2019 (Reiwa 1). Prinsip ini menegaskan konsep asas bahawa “manusia tidak digunakan oleh AI, tetapi manusia yang menggunakan AI”. Secara spesifik, AI seharusnya digunakan di bawah pengawasan manusia sebagai cara untuk memperluas kemampuan manusia, dan kita harus mengelakkan keadaan di mana manusia dikendalikan oleh ketergantungan yang berlebihan terhadap AI.

Lebih lanjut, AI tidak seharusnya hanya dianggap sebagai pengganti tenaga kerja manusia, tetapi sebagai alat yang canggih dan berguna yang dapat memperluas kreativiti dan kemampuan manusia. Oleh itu, ketika menggunakan AI, pengguna harus membuat keputusan tentang bagaimana mereka akan menggunakannya dan bertanggungjawab atas keputusan tersebut.

Penggabungan dan Peninjauan Semula Garis Panduan Lalu

Garis panduan ini telah dibangunkan dengan menggabungkan dan meninjau semula tiga garis panduan utama yang terdahulu.

• “Garis Panduan Pembangunan AI” (2017): Menjelaskan prinsip asas dan perkara yang perlu diperhatikan dalam pembangunan AI.
• “Garis Panduan Penggunaan AI” (2019): Menyajikan prinsip asas dan penjelasannya dalam penggunaan AI.
• “Garis Panduan Tadbir Urus untuk Amalan Prinsip AI” (2021): Menyajikan matlamat tindakan konkrit dan contoh amalan untuk mempromosikan implementasi sosial.

Garis panduan ini telah digunakan sebagai panduan yang harus dipatuhi oleh pengusaha AI. Garis panduan terkini untuk pengusaha AI ini menggabungkan elemen-elemen tersebut dan mempertimbangkan trend global serta kemunculan teknologi baru.

Proses Penyusunan dan Sejarah Pengumuman

“Draf Garis Panduan bagi Pengusaha AI” telah pertama kali dikemukakan pada mesyuarat Strategi AI Kabinet Pejabat (Sesi ke-7) yang diadakan pada 21 Disember 2023 (Reiwa 5). Selepas itu, garis panduan tersebut secara rasmi diterbitkan atas nama Kementerian Hal Ehwal Dalam Negeri dan Komunikasi & Kementerian Ekonomi, Perdagangan dan Industri pada 19 Januari 2024, dan mulai 20 Januari hingga 19 Februari, proses pengumpulan maklum balas umum telah dijalankan. Melalui prosedur pengumpulan pendapat ini, “Garis Panduan bagi Pengusaha AI (Versi 1.0)” telah disempurnakan dan diumumkan pada 19 April tahun yang sama.

Kepentingan Garis Panduan

Berbeza dengan Undang-Undang Pengawalseliaan AI yang telah diperkenalkan sebagai ‘hard law’ di EU, ‘Garis Panduan bagi Pengusaha AI’ di Jepun merupakan apa yang disebut sebagai ‘soft law’, yang tidak memiliki kekuatan mengikat secara hukum. Garis panduan ini menunjukkan prinsip-prinsip asas dan arahan tindakan yang seharusnya diamalkan oleh pengusaha AI. Dalam konteks kemajuan teknologi AI yang pesat, kandungan ini merupakan langkah penting untuk menggalakkan penggunaan yang sesuai dalam masyarakat dan membina masyarakat AI yang boleh dipercayai di Jepun. Pengusaha dikehendaki merujuk kepada garis panduan ini untuk menyusun dasar pengembangan AI dan penggunaannya dalam syarikat mereka.

Panduan Asas bagi Pengusaha AI di Jepun

Panduan bagi Pengusaha AI di Jepun ini dibina berdasarkan tiga prinsip asas berikut untuk menggalakkan pembangunan teknologi AI dan pelaksanaannya yang sesuai dalam masyarakat.

Sokongan terhadap Usaha Proaktif oleh Pengusaha

Panduan bagi Pengusaha AI menyarankan arah tindakan yang sepatutnya diambil oleh syarikat berdasarkan ‘pendekatan berdasarkan risiko’, yang mengubah langkah-langkah mengikut besarnya dan kemungkinan risiko. Pendekatan ini menggalakkan langkah-langkah fleksibel yang sesuai dengan kandungan dan tahap risiko, dengan menganggap bahawa risiko berbeza-beza bergantung kepada kes penggunaan dan sifat model AI. Terutamanya, risiko bagi setiap kes penggunaan tidak semestinya selaras dengan saiz syarikat, oleh itu, penilaian yang teliti terhadap sifat risiko adalah penting.

Untuk jenis risiko yang tinggi, pertimbangan peraturan undang-undang adalah penting, sementara untuk jenis risiko yang rendah, pilihan kaedah peraturan yang fleksibel seperti pensijilan swasta atau pernyataan kendiri adalah penting. Dengan pendekatan ini, pengurusan risiko yang efektif dapat dicapai sambil mengelakkan peraturan yang berlebihan.

Kerjasama dengan Perbincangan Antarabangsa

Pasaran teknologi AI melintasi sempadan negara, dan untuk memelihara daya saing antarabangsa syarikat Jepun, adalah penting untuk memastikan kesesuaian dengan sistem dan prinsip luar negara. Prinsip asas dan konsep panduan ini dibangunkan berdasarkan panduan antarabangsa seperti Prinsip AI OECD, dan lampiran menyatakan hubungan dengan panduan dari negara lain.

Termasuk model asas, model dan perkhidmatan AI merupakan pasaran yang melintasi sempadan, oleh itu, untuk syarikat Jepun beraksi secara global, adalah penting untuk memastikan interoperabiliti dengan sistem luar negara. Juga, jika ada peraturan yang diperkenalkan, adalah penting untuk mengelakkan situasi di mana syarikat Jepun sahaja yang menanggung beban berat dan mengurangkan daya saing, dan sebaliknya, memastikan sistem yang efektif untuk syarikat luar negara juga, serta mengekalkan medan permainan yang setara untuk syarikat dalam dan luar negara.

Kepahaman bagi Pembaca

Panduan bagi Pengusaha AI menekankan kepentingan kefahaman bagi pembaca. Ia membezakan risiko dan strategi tindak balas yang perlu dipertimbangkan oleh setiap subjek seperti ‘pembangun AI’, ‘penyedia AI’, dan ‘pengguna AI’.

Konsep ‘Multi-Stakeholder’ dan ‘Living Document’

Selain itu, penggunaan konsep ‘Multi-Stakeholder’ dan ‘Living Document’ juga merupakan ciri khas Panduan bagi Pengusaha AI. Ini bermakna, panduan ini dibangunkan dengan menekankan keberkesanan dan keabsahan melalui perbincangan berulang dengan pelbagai pihak berkepentingan termasuk institusi pendidikan dan penyelidikan, masyarakat awam termasuk pengguna, dan syarikat swasta. Selanjutnya, sebagai ‘Living Document’, ia dijadualkan untuk dikemas kini dari semasa ke semasa, dengan mengambil kira pemikiran tadbir urus agil untuk peningkatan berterusan dalam tadbir urus AI.

Panduan Pengklasifikasian Subjek dan Skop Aplikasi dalam “AI Business Operator Guidelines” di Jepun

Salah satu ciri penting “AI Business Operator Guidelines” adalah pembahagian subjek yang menjadi sasaran aplikasi berdasarkan atribut mereka dan menunjukkan dengan jelas apa yang harus mereka lakukan. Dalam panduan ini, “Pembangun AI,” “Penyedia AI,” dan “Pengguna AI” ditetapkan sebagai subjek yang menjadi sasaran aplikasi, sementara “Pengguna di Luar Bisnis” dan “Penyedia Data” tidak termasuk dalam sasaran aplikasi.

Peranan dan Tanggungjawab Pembangun AI, Penyedia AI, dan Pengguna AI

Pembangun AI merujuk kepada entiti yang bertanggungjawab atas pra-pemprosesan data AI, pembelajaran, dan proses pengembangan. Ini termasuk mereka yang melakukan pra-pemprosesan data pembelajaran yang dikumpulkan, pembuatan model AI, dan pengesahan kegunaan melalui uji coba. Proses-proses ini merupakan dasar untuk memastikan prestasi dan kepercayaan AI, sehingga pembangun diharapkan untuk menangani data dengan tepat dan membangun model berkualitas tinggi.

Penyedia AI adalah entiti yang bertanggungjawab atas implementasi dan penyediaan sistem AI. Mereka mengintegrasikan model AI ke dalam sistem yang ada atau yang baru dibangun dan menyediakannya kepada pengguna setelah berkoordinasi dengan sistem lain. Selain itu, mereka juga mungkin melakukan kegiatan kesadaran dan dukungan operasional untuk mempromosikan penggunaan yang tepat dari sistem AI, atau dalam beberapa kasus, mereka langsung mengoperasikan dan menyediakan layanan AI. Dengan ini, mereka mendukung pengguna agar dapat menggunakan sistem AI dengan aman dan efektif.

Pengguna AI adalah entiti yang menggunakan sistem atau layanan AI. Pengguna memanfaatkan sistem AI dengan tepat berdasarkan peringatan yang diberikan oleh penyedia dan menikmati manfaatnya. Pada saat yang sama, mereka bertanggungjawab untuk terus menggunakan sistem AI sesuai dengan desain yang dimaksudkan. Dengan demikian, tindakan pengguna juga mempengaruhi penerimaan sosial dan kepercayaan terhadap sistem AI.

Subjek yang Tidak Termasuk dalam Sasaran Aplikasi

Sebaliknya, “Penyedia Data” dan “Pengguna di Luar Bisnis” tidak termasuk dalam sasaran aplikasi panduan. Penyedia Data memiliki peranan dalam menyediakan data pembelajaran untuk AI, yang tidak terbatas pada korporat atau individu tertentu, tetapi juga termasuk kasus di mana data disuplai melalui sensor atau sistem. Di sisi lain, Pengguna di Luar Bisnis merujuk kepada entiti yang menikmati manfaat dari sistem atau layanan AI di luar aktivitas bisnis, dan terkadang mereka mungkin dipengaruhi oleh keputusan yang dibuat oleh AI.

Sebagai contoh, dalam layanan AI yang menggunakan data pencari kerja, “Pembangun AI” mengembangkan model AI, “Penyedia AI” menyediakan layanan, dan perusahaan yang menggunakan layanan tersebut menjadi “Pengguna AI”. Sementara itu, pencari kerja sebelumnya menjadi “Penyedia Data”, dan pelamar yang menerima keputusan dari layanan tersebut menjadi “Pengguna di Luar Bisnis”.

Panduan Bersama dalam ‘Garispanduan Pengusaha AI’ di Jepun

Dalam ‘Garispanduan Pengusaha AI’ di Jepun, terdapat sepuluh prinsip bersama yang harus diikuti oleh semua entiti tanpa mengira atribut mereka. Prinsip-prinsip ini dibahagikan kepada dua kategori: tindakan yang harus diambil oleh entiti itu sendiri dan tindakan yang harus diambil dalam kerjasama dengan masyarakat, dan ditempatkan dalam kerangka tadbir urus AI.

Tujuh Item yang Harus Diambil Tindakan oleh Entiti Itu Sendiri

1. Kecenderungan Manusia: Semasa menggunakan AI, adalah penting untuk menghormati martabat individu, memahami ketepatan dan batasan output, dan tidak menggunakannya untuk tujuan yang tidak sesuai. Perhatian juga harus diberikan terhadap penggunaan AI yang boleh menyebabkan bias dalam maklumat dan nilai, seperti gelembung penapis, yang membatasi pilihan.
2. Keselamatan: Entiti harus menguruskan sistem AI dengan melakukan analisis risiko dan mengambil langkah-langkah yang sesuai untuk memastikan sistem tidak menyimpang dari tujuan penggunaan asalnya. Menjaga ketepatan dan kejelasan data serta pembaruan model AI yang sesuai juga penting.
3. Keadilan: Usaha harus dilakukan untuk memastikan output AI tidak memperkuat prasangka atau diskriminasi. Campur tangan keputusan manusia dalam penilaian AI dan pertimbangan terhadap bias yang mungkin ada adalah diperlukan.
4. Perlindungan Privasi: Mengacu pada standard perlindungan data peribadi antarabangsa dan mematuhi garis panduan dan norma internasional mengenai privasi adalah penting. Memastikan interoperabilitas dalam pemindahan data peribadi lintas batas juga penting.
5. Pengesahan Keselamatan: Menjaga kerahsiaan, integriti, dan ketersediaan sistem AI dan mengambil langkah-langkah yang rasional berdasarkan standard teknologi adalah perlu. Ini termasuk persediaan terhadap serangan luar dan menangani risiko terkini.
6. Kejelasan: Proses pembelajaran dan proses inferensi sistem AI harus dapat diverifikasi, dan maklumat harus dijelaskan apabila diperlukan. Walau bagaimanapun, pendedahan algoritma atau kod sumber tidak diperlukan, dan privasi serta rahsia perdagangan harus dihormati.
7. Akauntabiliti: Jika terdapat kesilapan dalam output AI, entiti harus menerima maklum balas dan melaksanakan pemantauan objektif. Pembangunan polisi respons terhadap pemegang taruh dan pelaporan berkala mengenai kemajuan diharapkan.

Tiga Item yang Harus Diambil Tindakan dalam Kerjasama dengan Masyarakat

1. Pendidikan dan Literasi: Pendidikan harus diberikan untuk memastikan semua yang terlibat dengan AI mempunyai literasi AI yang mencukupi, dan kesedaran mengenai ciri-ciri dan risiko AI harus ditingkatkan di kalangan pemegang taruh.
2. Pengesahan Persaingan Adil: Suasana yang membolehkan perniagaan dan perkhidmatan baru yang menggunakan AI bersaing secara adil harus disediakan, dengan tujuan untuk pertumbuhan ekonomi yang berkelanjutan dan penyelesaian masalah sosial.
3. Inovasi: Kerjasama antara industri, akademik, dan pemerintah harus ditingkatkan untuk mempromosikan kepelbagaian antarabangsa dan memastikan interoperabilitas antara sistem AI. Jika terdapat spesifikasi standard, adalah disarankan untuk mematuhinya.

Kepentingan dan Cara Praktis ‘Agile Governance’ di Bawah Undang-Undang Jepun

‘Panduan Pengusaha AI’ menekankan bahawa dalam pembinaan tadbir urus AI, pendekatan yang seragam tidak boleh diambil, sebaliknya, respons yang fleksibel mengikut skala dan kandungan perniagaan setiap syarikat adalah penting. Daripada meniru usaha syarikat lain secara buta, dikehendaki agar semua lapisan pengurusan hingga ke operasi melakukan percubaan dan kesilapan untuk merancang dan mengendalikan peraturan yang sesuai dengan syarikat mereka. Praktik ‘Agile Governance’ adalah kunci dalam proses ini.

Apakah itu Agile Governance?

Agile Governance adalah pendekatan yang tidak menetapkan peraturan tetap sebelumnya, tetapi berputar dalam siklus berikut secara berterusan untuk respons yang fleksibel terhadap perubahan persekitaran luaran dan risiko:

• Analisis Persekitaran & Risiko: Memahami dengan tepat persekitaran luaran dan risiko teknikal.
• Penetapan Matlamat: Menetapkan matlamat yang sesuai dengan keadaan semasa.
• Reka Bentuk Sistem: Mereka bentuk sistem AI yang efektif untuk mencapai tujuan.
• Operasi: Mengendalikan sistem yang direka dan mengesahkan hasilnya.
• Penilaian: Menilai hasil operasi secara berkala dan membuat penyesuaian jika perlu.

Dengan memutar siklus ini secara berterusan, adalah mungkin untuk merespons dengan cepat dan efektif terhadap persekitaran teknologi yang berubah dengan cepat dan trend pasaran.

Tiga Tiang Penyokong Agile Governance

‘Agile Governance’ menunjukkan cara tadbir urus yang harus berkembang bersama dengan kemajuan teknologi AI. Syarikat-syarikat dikehendaki untuk bertindak responsif dengan fleksibel sesuai dengan model perniagaan dan persekitaran perniagaan mereka, serta bekerja bersama dari lapisan pengurusan hingga ke operasi. Selain itu, dengan menetapkan kerjasama antara pelbagai pihak dan pengurusan risiko antarabangsa, adalah mungkin untuk menjadikan tadbir urus AI lebih efektif. Elemen-elemen berikut adalah penting dalam hal ini:

• Pengukuhan Kerjasama Antara Pelbagai Pihak: Teknologi AI melibatkan pelbagai pihak dari segi rantaian nilai dan rantaian risiko, jadi adalah penting untuk menjelaskan peranan dan tanggungjawab masing-masing dan memastikan kerjasama. Ini membolehkan pengurusan risiko yang sesuai pada setiap tahap pembangunan, penyediaan, dan penggunaan sistem AI.
• Pengesahan Peredaran Data yang Sesuai: Dalam melaksanakan tadbir urus AI, peredaran data yang sesuai adalah penting. Terutamanya apabila mempertimbangkan penggunaan data lintas negara, adalah perlu untuk mengekalkan ketelusan dan keselamatan data sambil mempertimbangkan peraturan dan keperluan pengurusan risiko setiap negara.
• Komitmen Lapisan Pengurusan: Untuk merealisasikan tadbir urus AI yang efektif, penglibatan aktif lapisan pengurusan diperlukan. Ini termasuklah pembentukan strategi tadbir urus, penyediaan struktur organisasi secara keseluruhan, dan penyebaran sebagai budaya korporat. Komitmen lapisan pengurusan menjadi tenaga penggerak agar seluruh organisasi bergerak ke arah matlamat yang sama.

Butiran mengenai tadbir urus AI yang perlu dibina oleh syarikat-syarikat seperti yang dinyatakan dalam ‘Panduan Pengusaha AI’ boleh didapati dalam artikel di bawah.

Artikel Berkaitan: Apa itu Tadbir Urus AI yang Perlu Dilakukan oleh Syarikat? Penjelasan Berdasarkan ‘Panduan Pengusaha AI'[ja]

Panduan Tindakan oleh Firma Kami

Firma Guaman Monolith merupakan sebuah firma guaman yang memiliki pengalaman luas dalam IT, khususnya internet dan undang-undang. Kami menyediakan perkhidmatan undang-undang yang unik dan efektif dengan menggabungkan kepakaran dalam kedua-dua bidang ini.

Bisnes AI mengandungi banyak risiko legal, dan sokongan daripada peguam yang mahir dalam isu-isu hukum AI adalah sangat penting. Firma kami, dengan pasukan peguam yang mahir dalam AI dan jurutera, menyediakan sokongan hukum canggih untuk bisnes AI termasuk ChatGPT, seperti pembuatan kontrak, penilaian kesesuaian model bisnes, perlindungan hak kekayaan intelek, dan penanganan privasi. Sila rujuk artikel di bawah untuk maklumat lanjut.

Bidang perkhidmatan Firma Guaman Monolith: Perundangan AI (termasuk ChatGPT dan lain-lain)[ja]