【Berita Terkini】Suruhanjaya Perlindungan Maklumat Peribadi Jepun Mengeluarkan Amaran Mengenai Penggunaan ChatGPT

Perkhidmatan AI generatif seperti ChatGPT kini semakin meluas di negara kita. Walau bagaimanapun, terdapat isu yang ditimbulkan berkenaan dengan pengendalian maklumat peribadi dalam penggunaannya.

Untuk menangani isu ini, Suruhanjaya Perlindungan Maklumat Peribadi Jepun telah membuat amaran pada 2 Jun tahun 5 Reiwa (2023) berkenaan penggunaan perkhidmatan AI generatif. Dalam artikel ini, kami akan menerangkan isi kandungan amaran tersebut untuk peniaga yang menyediakan perkhidmatan AI generatif.

Perkhidmatan AI Generatif seperti ‘ChatGPT’ yang Merebak dengan Pantas

Sekarang ini, di negara kita, perkhidmatan AI generatif (perkhidmatan yang menggunakan AI untuk menghasilkan teks, gambar, dan lain-lain berdasarkan soalan atau arahan kerja) sedang merebak dengan pantas. Perkhidmatan ini digunakan dalam pelbagai bidang seperti perniagaan dan hiburan, dan potensinya tidak dapat diukur.

Walau bagaimanapun, di sisi lain, terdapat isu yang ditimbulkan berkenaan dengan pengendalian maklumat peribadi dalam penggunaan perkhidmatan AI generatif seperti ChatGPT. Sebagai contoh, ada persoalan sama ada syarikat yang menyediakan perkhidmatan AI generatif menggunakan ChatGPT dan sebagainya menguruskan maklumat peribadi yang dikumpulkan dari pengguna dengan betul atau tidak.

Ringkasan tentang amaran yang diberikan oleh Suruhanjaya Perlindungan Data Peribadi kepada OpenAI

Mengambil kira situasi ini, Suruhanjaya Perlindungan Data Peribadi telah melakukan amaran dan sebagainya berkenaan penggunaan perkhidmatan AI generatif. Secara khusus, amaran telah diberikan kepada OpenAI, L.L.C. dan OpenAI OpCo, LLC yang membangunkan dan menyediakan perkhidmatan AI generatif, ChatGPT.

Rujukan: Suruhanjaya Perlindungan Data Peribadi｜Amaran dan sebagainya berkenaan penggunaan perkhidmatan AI generatif (2 Jun 2023)

Suruhanjaya Perlindungan Data Peribadi telah meminta OpenAI untuk tidak mengumpul maklumat peribadi yang memerlukan pertimbangan khusus dari pengguna ChatGPT dan orang lain tanpa mendapatkan persetujuan terlebih dahulu.

“Maklumat peribadi yang memerlukan pertimbangan khusus” merujuk kepada maklumat peribadi tertentu yang memerlukan pertimbangan khusus dalam pengendalian untuk mengelakkan diskriminasi tidak adil, prasangka dan kerugian lain kepada individu. Ini termasuk bangsa, kepercayaan, status sosial, sejarah penyakit, rekod jenayah, dan fakta menjadi mangsa jenayah.

Dalam amaran ini, persoalan yang timbul adalah sama ada ChatGPT yang disediakan oleh OpenAI menguruskan dengan betul maklumat peribadi yang dikumpulkan dari pengguna. Suruhanjaya Perlindungan Data Peribadi telah meminta OpenAI untuk memperbaiki cara mereka mengendalikan maklumat peribadi yang dikumpulkan dari pengguna.

Pengingatan kepada Penyedia Perkhidmatan yang Menggunakan ChatGPT

Serentak dengan itu, Suruhanjaya Perlindungan Maklumat Peribadi juga telah membuat pengingatan berikut kepada pengendali maklumat peribadi.

(1) Perkara yang perlu diberi perhatian oleh pengendali maklumat peribadi

① Apabila pengendali maklumat peribadi memasukkan prompt yang mengandungi maklumat peribadi ke dalam perkhidmatan AI yang dihasilkan, mereka perlu memastikan bahawa ia berada dalam lingkungan yang diperlukan untuk mencapai tujuan penggunaan maklumat peribadi yang ditentukan.

② Jika pengendali maklumat peribadi memasukkan prompt yang mengandungi data peribadi ke dalam perkhidmatan AI yang dihasilkan tanpa mendapatkan persetujuan terlebih dahulu dari individu tersebut, dan data peribadi tersebut digunakan untuk tujuan lain selain output hasil respons terhadap prompt tersebut, pengendali maklumat peribadi tersebut mungkin melanggar peruntukan Undang-Undang Perlindungan Maklumat Peribadi Jepun. Oleh itu, apabila memasukkan prompt seperti ini, pengendali perkhidmatan AI yang dihasilkan perlu memastikan bahawa data peribadi tersebut tidak digunakan untuk pembelajaran mesin dan sebagainya.

「Pengingatan Mengenai Penggunaan Perkhidmatan AI yang Dijana dan lain-lain」

Pengendali maklumat peribadi perlu memeriksa pengingatan dan sebagainya yang dikeluarkan oleh Suruhanjaya Perlindungan Maklumat Peribadi dan mengambil tindakan yang sesuai dalam penyediaan perkhidmatan AI yang dihasilkan. Secara khusus, jika perkhidmatan atau produk yang disediakan oleh syarikat menggunakan perkhidmatan AI yang dihasilkan, mereka perlu memeriksa cara penggunaan dan pengendalian maklumat peribadi dan mengambil langkah-langkah peningkatan yang diperlukan.

Selain itu, adalah penting bagi pengendali yang mempunyai hubungan perdagangan perniagaan dengan syarikat yang menyediakan perkhidmatan AI yang dihasilkan untuk memeriksa sama ada syarikat tersebut telah mengambil langkah-langkah perlindungan maklumat peribadi yang sesuai.

Kesimpulan: Berhati-hati dalam membuat keputusan mengenai penggunaan ChatGPT dan pengendalian maklumat peribadi

Pemberian dan penggunaan perkhidmatan AI generatif seperti ChatGPT memerlukan langkah-langkah yang mempertimbangkan pengendalian maklumat peribadi dengan teliti. Khususnya, jika perkhidmatan atau produk yang disediakan oleh syarikat menggunakan perkhidmatan AI generatif, adalah penting untuk memeriksa cara penggunaan dan pengendalian maklumat peribadi, dan mengambil langkah-langkah peningkatan yang diperlukan.

Undang-undang mengenai pengendalian maklumat peribadi berbeza-beza mengikut negara, jadi terdapat banyak perkara yang perlu diberi perhatian selain daripada peringatan kali ini, terutama dalam kes perkhidmatan yang disediakan di Internet. Kami menyarankan anda berunding dengan peguam mengenai pengendalian maklumat peribadi.

Penerangan Mengenai Langkah-langkah yang Diambil oleh Firma Kami

Firma guaman Monolith adalah sebuah firma guaman yang mempunyai pengalaman luas dalam bidang IT, khususnya internet dan undang-undang. Perniagaan AI membawa banyak risiko undang-undang, dan sokongan dari peguam yang mahir dalam isu-isu undang-undang berkaitan AI adalah sangat penting. Firma kami, dengan pasukan peguam dan jurutera yang mahir dalam AI, menyediakan sokongan undang-undang yang canggih untuk perniagaan AI termasuk ChatGPT, seperti pembuatan kontrak, penilaian kesahihan model perniagaan, perlindungan hak harta intelek, dan penyelesaian privasi. Butiran lanjut dinyatakan dalam artikel di bawah.

Bidang yang ditangani oleh Firma Guaman Monolith: Undang-undang AI (ChatGPT dan lain-lain)