【Berita Terkini】Komisi Perlindungan Data Pribadi Jepang Mengeluarkan Peringatan Mengenai Penggunaan ChatGPT
Layanan AI generatif seperti ChatGPT saat ini sedang berkembang pesat di negara kita. Namun, ada masalah yang ditunjukkan terkait penanganan informasi pribadi dalam penggunaannya.
Komisi Perlindungan Informasi Pribadi Jepang (Japanese Personal Information Protection Commission) telah mengeluarkan peringatan tentang penggunaan layanan AI generatif pada tanggal 2 Juni 2023 (Tahun 5 Era Reiwa) untuk menangani masalah ini. Dalam artikel ini, kami akan menjelaskan isi peringatan tersebut untuk penyedia layanan AI generatif.
Penyebaran Cepat Layanan AI Generatif seperti ‘ChatGPT’
Saat ini, di negara kita, layanan AI generatif (layanan yang menggunakan AI untuk menghasilkan teks, gambar, dll. sebagai respons terhadap pertanyaan atau instruksi kerja) sedang berkembang pesat. Layanan-layanan ini digunakan dalam berbagai bidang seperti bisnis dan hiburan, dan potensinya tidak terhingga.
Namun, di sisi lain, telah ditunjukkan bahwa ada masalah terkait penanganan informasi pribadi dalam penggunaan layanan AI generatif seperti ChatGPT. Misalnya, apakah perusahaan yang menyediakan layanan AI generatif dengan menggunakan ChatGPT dan sejenisnya, telah mengelola informasi pribadi yang dikumpulkan dari pengguna dengan tepat atau tidak.
Ringkasan Peringatan yang Diberikan oleh Komisi Perlindungan Data Pribadi Jepang (Japanese Personal Information Protection Commission) kepada OpenAI
Mengingat situasi ini, Komisi Perlindungan Data Pribadi Jepang telah memberikan peringatan dan sejenisnya terkait penggunaan layanan AI generatif. Secara khusus, peringatan diberikan kepada OpenAI, L.L.C. dan OpenAI OpCo, LLC, yang mengembangkan dan menyediakan layanan AI generatif, ChatGPT.
Komisi Perlindungan Data Pribadi Jepang meminta OpenAI untuk tidak mengumpulkan informasi pribadi yang memerlukan pertimbangan khusus, baik dari pengguna ChatGPT maupun orang lain, tanpa mendapatkan persetujuan terlebih dahulu.
“Informasi pribadi yang memerlukan pertimbangan khusus” adalah informasi pribadi tertentu yang memerlukan pertimbangan khusus dalam penanganannya agar tidak menimbulkan diskriminasi yang tidak adil, prasangka, atau kerugian lainnya terhadap individu. Ini termasuk ras, kepercayaan, status sosial, riwayat penyakit, riwayat kriminal, dan fakta bahwa seseorang telah menjadi korban kejahatan.
Dalam peringatan ini, masalahnya adalah apakah ChatGPT yang disediakan oleh OpenAI dapat mengelola informasi pribadi yang dikumpulkan dari pengguna dengan tepat. Komisi Perlindungan Data Pribadi Jepang meminta OpenAI untuk memperbaiki cara mereka menangani informasi pribadi yang dikumpulkan dari pengguna.
Peringatan untuk Penyedia Layanan yang Menggunakan ChatGPT
Sementara itu, Komisi Perlindungan Data Pribadi Jepang juga memberikan peringatan berikut kepada operator yang menangani data pribadi.
(1) Poin yang harus diperhatikan oleh operator yang menangani data pribadi
① Jika operator yang menangani data pribadi memasukkan prompt yang berisi informasi pribadi ke dalam layanan AI yang dihasilkan, mereka harus memastikan bahwa hal tersebut dilakukan dalam batas yang diperlukan untuk mencapai tujuan penggunaan informasi pribadi yang telah ditentukan.
② Jika operator yang menangani data pribadi memasukkan prompt yang berisi data pribadi ke dalam layanan AI yang dihasilkan tanpa mendapatkan persetujuan terlebih dahulu dari individu yang bersangkutan, dan data pribadi tersebut digunakan untuk tujuan lain selain output hasil respons terhadap prompt tersebut, operator tersebut mungkin melanggar ketentuan Undang-Undang Perlindungan Data Pribadi Jepang. Oleh karena itu, ketika memasukkan prompt seperti ini, operator yang menyediakan layanan AI yang dihasilkan harus memastikan bahwa data pribadi tersebut tidak digunakan untuk pembelajaran mesin, dll.
“Tentang Peringatan Penggunaan Layanan AI yang Dihasilkan, dll.”[ja]
Operator yang menangani data pribadi harus memeriksa peringatan dan lainnya yang dikeluarkan oleh Komisi Perlindungan Data Pribadi Jepang saat menyediakan layanan AI yang dihasilkan, dan harus mengambil tindakan yang tepat. Secara khusus, jika layanan atau produk yang disediakan oleh perusahaan menggunakan layanan AI yang dihasilkan, mereka harus memeriksa cara penggunaan dan penanganan data pribadi, dan diperlukan untuk mengambil tindakan perbaikan yang diperlukan.
Selain itu, penting bagi operator yang memiliki hubungan bisnis dengan perusahaan yang menyediakan layanan AI yang dihasilkan untuk memeriksa apakah perusahaan tersebut telah mengambil langkah-langkah perlindungan data pribadi yang tepat.
Kesimpulan: Harus Berhati-hati dalam Menggunakan ChatGPT dan Menangani Informasi Pribadi
Dalam menyediakan dan menggunakan layanan AI generatif seperti ChatGPT, tindakan yang memperhatikan penanganan informasi pribadi sangat diperlukan. Khususnya, jika perusahaan menggunakan layanan atau produk yang memanfaatkan layanan AI generatif, mereka harus memeriksa cara penggunaan dan penanganan informasi pribadi, dan mengambil tindakan perbaikan yang diperlukan.
Karena hukum tentang penanganan informasi pribadi berbeda-beda di setiap negara, ada banyak hal yang harus diperhatikan selain peringatan kali ini, terutama untuk layanan yang disediakan di internet. Kami menyarankan Anda untuk berkonsultasi dengan pengacara mengenai penanganan informasi pribadi.
Panduan Strategi dari Firma Kami
Firma hukum Monolith adalah firma hukum dengan pengalaman kaya di bidang IT, khususnya internet dan hukum. Bisnis AI membawa banyak risiko hukum, dan dukungan dari pengacara yang menguasai masalah hukum terkait AI sangat penting. Tim kami, yang terdiri dari pengacara yang menguasai AI dan insinyur, memberikan dukungan hukum tingkat tinggi untuk bisnis AI termasuk ChatGPT, seperti pembuatan kontrak, peninjauan legalitas model bisnis, perlindungan hak kekayaan intelektual, dan penanganan privasi. Detailnya dijelaskan dalam artikel di bawah ini.
Bidang yang ditangani oleh Firma Hukum Monolith: Hukum AI (ChatGPT, dll)[ja]
Category: IT
