Apa Risiko Kontraktual dalam Adopsi AI oleh Perusahaan? Menghindari Krisis Sebelum Terjadi dengan Menjelaskan "Checklist" yang Ditetapkan oleh Kementerian Ekonomi, Perdagangan dan Industri
Dalam beberapa tahun terakhir, penggunaan AI (Kecerdasan Buatan) telah berkembang pesat di dunia bisnis. Namun, penggunaan dan pengembangan AI membawa risiko dan tantangan hukum yang unik, berbeda dari sistem konvensional.
Mengingat situasi ini, pada bulan Februari tahun Reiwa 7 (2025), Kementerian Ekonomi, Perdagangan dan Industri Jepang telah merumuskan dan mempublikasikan ‘Checklist Kontrak untuk Penggunaan dan Pengembangan AI’. Checklist ini dirancang sebagai alat bantu praktis untuk membantu berbagai perusahaan yang terlibat dalam kontrak atau penggunaan layanan AI agar dapat mengatur dan memeriksa syarat kontrak secara efisien.
Artikel ini akan menjelaskan, berdasarkan ‘Checklist Kontrak untuk Penggunaan dan Pengembalan AI’ tersebut, bagaimana kita harus mengklasifikasikan kontrak terkait AI dan pada poin apa kita harus berhati-hati saat menandatangani kontrak, serta bagaimana sebaiknya menggunakan AI secara efisien dalam bisnis.
Layanan AI yang Termasuk dalam ‘Checklist Kontrak Penggunaan dan Pengembangan AI’ di Jepang
‘Checklist Kontrak Penggunaan dan Pengembangan AI’ di Jepang mencakup berbagai layanan terkait AI, termasuk AI generatif, dan tidak terbatas pada industri atau teknologi AI tertentu.
Checklist ini disusun dari dua perspektif, ‘Input’ dan ‘Output’, untuk secara sistematis mengatur poin-poin praktis yang terkait dengan penyediaan dan penggunaan layanan. Dengan pendekatan ini, checklist dirancang untuk mencakup pertimbangan yang diperlukan sepanjang siklus hidup layanan AI, sekaligus memudahkan para pihak untuk mengekstrak item-item yang relevan dengan perusahaan mereka.
Apa Itu Input dan Output dalam “Checklist Kontrak Penggunaan & Pengembangan AI” di Bawah Hukum Jepang?
Checklist ini disusun berdasarkan dua fase dalam layanan AI berikut ini.
【Input】
Input merujuk pada informasi, data, spesifikasi, dan kondisi yang disediakan dan digunakan untuk membangun, melatih, dan mengoperasikan layanan AI. Contohnya termasuk data pelatihan, algoritma, aturan operasional, dan kondisi sistem. Jika input ini tidak memadai atau tidak tepat, hal tersebut dapat langsung mempengaruhi kinerja dan keandalan output AI, sehingga menjadi item penting untuk dipertimbangkan.
【Output】
Output adalah hasil yang diproses, dianalisis, dan dihasilkan oleh AI, serta bagaimana hasil tersebut ditangani, digunakan, dan dipublikasikan. Ini termasuk teks atau gambar yang dihasilkan, hasil inferensi, dasar pengambilan keputusan, lingkup penyediaan eksternal, dan lokasi tanggung jawab.
Hasil output AI memerlukan pemeriksaan terkait akurasi, transparansi, dan risiko hukum. “Checklist Kontrak Penggunaan & Pengembangan AI” di Jepang ini mengatur poin-poin penting dalam praktik kontrak dari kedua aspek tersebut, yaitu input (penyediaan informasi dasar) dan output (hasil AI dan penanganannya).
Definisi Para Pihak Terkait
Dalam kontrak yang berkaitan dengan AI, peran para pihak seperti ‘orang yang mengembangkan AI’, ‘orang yang menyediakan AI’, dan ‘orang yang menggunakan AI’ dapat berubah tergantung pada jenis layanan AI yang ditawarkan.
Misalnya, mari kita pertimbangkan kasus di mana layanan AI umum dikembangkan dan diimplementasikan dengan penyesuaian khusus untuk perusahaan tertentu (lihat tipe berikutnya 【Tipe 2: Tipe Kustomisasi】). Dalam kasus ini, layanan yang disesuaikan dengan spesifikasi perusahaan klien dengan menggabungkan layanan AI umum yang disediakan oleh perusahaan lain dapat diantisipasi.
Pada saat itu, penyedia layanan kustomisasi B, dalam hubungannya dengan perusahaan A yang menerima kustomisasi (pengguna AI) (lihat diagram di bawah ①), akan berposisi sebagai ‘penyedia layanan AI (vendor)’.
Di sisi lain, dalam hubungan dengan perusahaan C yang menyediakan AI umum yang menjadi dasar (pengembang AI/penyedia AI) (lihat diagram di bawah ②), perusahaan B akan berposisi sebagai pengguna layanan AI (user).
Oleh karena itu, penting untuk memastikan bahwa saat membuat kontrak, jangkauan tanggung jawab dan posisi masing-masing pihak didefinisikan dengan jelas, karena satu perusahaan dapat menjadi ‘penyedia’ atau ‘pengguna’ tergantung pada pihak yang terlibat.
Jenis Kontrak dalam “Checklist Pemeriksaan Kontrak Penggunaan dan Pengembangan AI” di Jepang
Dalam checklist ini, kami mengklasifikasikan kontrak terkait layanan AI dengan mengatur tiga jenis kontrak yang representatif. Tujuannya adalah untuk memudahkan para pihak kontrak dalam memahami poin-poin pemeriksaan yang sesuai dengan posisi dan tujuan mereka masing-masing.
Setiap jenis kontrak memiliki isu dan risiko yang khas, dan penting untuk memahami jenis yang tepat sesuai dengan tujuan penggunaan AI dan bentuk penyediaan layanannya.
Berikut ini, kami akan memperkenalkan secara detail tentang ketiga jenis kontrak tersebut.
Tipe 1: Penggunaan Layanan Umum
Tipe ini umumnya melibatkan kontrak di mana pengguna menggunakan layanan AI yang sudah selesai dan dipublikasikan sebagaimana adanya.
Sebagai contoh yang khas, Anda dapat membayangkan kasus di mana layanan AI generatif seperti ChatGPT atau AI penghasil gambar (misalnya: DALL·E, Stable Diffusion) digunakan melalui web.
Pada layanan-layanan ini, umumnya diharuskan bagi pengguna untuk menyetujui syarat dan ketentuan layanan yang telah ditetapkan oleh vendor sebelumnya. Pengguna hampir tidak memiliki kemungkinan untuk menegosiasikan atau mengubah isi kontrak.
Dalam checklist, poin utama yang dibahas adalah bagaimana pengguna memahami dan mengenali risiko dari layanan AI yang disediakan dengan syarat yang telah ditentukan sebelumnya.
Tipe 2: Model Kustomisasi
Tipe kontrak ini melibatkan kustomisasi berdasarkan model atau teknologi yang sudah ada dari penyedia layanan AI, disesuaikan dengan kebutuhan perusahaan pengguna.
Sebagai contoh, pengguna dapat menambahkan data atau aturan yang mereka miliki ke dalam model AI yang disediakan, atau melakukan penyesuaian dan perubahan pada bagian tertentu dari sistem. Bayangkan pengembangan chatbot pemasaran yang dikembangkan dan diterapkan di dalam sebuah perusahaan. Dengan memasukkan database produk perusahaan ke dalam AI generik yang sudah ada dan membiarkannya belajar dari pertanyaan pelanggan, chatbot tersebut dapat memberikan respons yang telah disesuaikan khusus untuk perusahaan tersebut.
Dalam kontrak seperti ini, penyedia layanan menawarkan produk yang memanfaatkan teknologi dan pengetahuan dasar yang telah dikembangkan, sambil memenuhi permintaan khusus dari pengguna. Dalam checklist, aspek yang dikustomisasi seperti kepemilikan hak kekayaan intelektual, kemungkinan penggunaan kembali, dan pembagian tanggung jawab menjadi poin utama yang perlu dipertimbangkan.
Selain itu, karena konten kustomisasi dapat mengubah sifat hasil akhir dan jenis kontrak, penting untuk mengklarifikasi peran kedua belah pihak serta definisi input dan output yang terlibat.
Tipe 3: Pengembangan Baru
Tipe ini merupakan bentuk kontrak di mana pengguna menugaskan penyedia layanan AI untuk mengembangkan sistem AI yang sepenuhnya baru. Umumnya dikenal sebagai ‘pengembangan dari awal’ atau ‘full-scratch development’, di mana model AI khusus atau sistem yang disesuaikan dengan konten kerja dan kebutuhan pengguna dibangun dari dasar.
Dalam kasus ini, data pelatihan dan spesifikasi seringkali disediakan oleh pengguna, dan model AI atau hasil yang dikembangkan didesain berdasarkan persyaratan khusus pengguna.
Oleh karena itu, poin-poin berikut ini menjadi sangat penting dalam kontrak:
- Penjelasan jangkauan dan isi dari hasil kerja
- Penetapan target akurasi dan kinerja
- Penyediaan dan penanganan data pelatihan
- Kepemilikan hak kekayaan intelektual dan hasil kerja
- Pembagian tanggung jawab untuk pemeliharaan dan pembaruan
Tipe ini memerlukan kesepakatan yang sangat detail antara penyedia dan pengguna mengenai desain dan spesifikasi, sehingga checklist membutuhkan pertimbangan yang mendalam.
Selanjutnya, mari kita lihat contoh konkret dari input dan output dengan merujuk kembali pada diagram di bawah ini.
Checklist: Input dalam Layanan AI di Jepang
Input, seperti yang telah disebutkan sebelumnya, merujuk pada konten yang dimasukkan ke dalam AI. Contoh konkret dari input ini termasuk data pelatihan, algoritma, dan prompt (instruksi atau perintah kepada AI).
Dalam layanan AI di Jepang, input merupakan komponen yang sangat penting. Tanpa ini, vendor tidak dapat melanjutkan proses desain, pembelajaran, dan inferensi AI. Lantas, apa yang perlu diperhatikan terkait input dalam situasi seperti ini?
Penanganan Input dari Pengguna ke Vendor di Bawah Hukum Jepang
Oleh karena itu, apakah ada kewajiban bagi pengguna untuk menyediakan informasi (＝input) seperti data pembelajaran, aturan, spesifikasi, dan lainnya kepada vendor, serta detail dari informasi tersebut, harus ditetapkan dengan jelas dalam klausul kontrak. Secara spesifik, hal-hal yang perlu diperhatikan adalah sebagai berikut:
- Jenis input apa yang akan disediakan oleh pengguna
- Waktu penyediaan, format, dan standar kualitas
- Apakah ada kondisi tertentu yang harus dipenuhi oleh pengguna terkait isi input yang disediakan kepada vendor (sifat, jumlah, granularitas, dan lainnya)
- Apakah isi di atas dapat diterima dengan mempertimbangkan tujuan penggunaan layanan oleh pengguna
Pengelolaan Informasi Input dari Vendor ke Pihak Ketiga di Bawah Hukum Jepang
Dalam layanan AI, vendor menggunakan input yang diterima dari pengguna (contoh: data atau spesifikasi) untuk membangun dan menyediakan AI.
Namun, penting untuk memeriksa dalam kontrak apakah vendor dapat menyediakan atau menggunakan kembali input tersebut kepada pihak ketiga, serta apa saja ketentuan dan kondisi ‘penyediaan eksternal’ tersebut.
Khususnya, karena input dapat mencakup pengetahuan bisnis pengguna, informasi rahasia, informasi pribadi, dan hak kekayaan intelektual, penyediaan kepada pihak ketiga dapat menimbulkan risiko besar.
Maka dari itu, perlu untuk memastikan bahwa kontrak telah jelas mengatur poin-poin berikut ini:
- Apakah vendor diizinkan untuk menyediakan input yang diterima dari pengguna kepada pihak ketiga
- Jika penyediaan eksternal diizinkan, apakah ada batasan terhadap penerima, lingkup, dan tujuan penyediaan tersebut
- Pengelolaan hak kekayaan intelektual dan informasi rahasia yang termasuk dalam input pengguna
Jika ada kekhawatiran mengenai ketiga poin di atas, beberapa langkah yang dapat dipertimbangkan adalah ‘tidak menyediakan informasi yang tidak perlu’ atau ‘mempertimbangkan untuk menolak penandatanganan kontrak jika penyediaan input kepada pihak ketiga tidak dapat diterima’.
Pengelolaan Input dari Vendor
Dalam layanan AI, input yang disediakan pengguna kepada vendor (seperti data pelatihan, aturan operasional, spesifikasi, dll) seringkali mencakup informasi pribadi, informasi rahasia, dan hak kekayaan intelektual.
Oleh karena itu, sangat penting untuk memperjelas tanggung jawab yang diemban oleh vendor terkait penanganan dan sistem pengelolaan input tersebut.
Lantas, dari perspektif apa kita harus mengatur pengelolaan input dalam kontrak? Berikut adalah beberapa contohnya:
(Kewajiban Pengelolaan dan Standarnya)
- Apakah vendor memiliki kewajiban pengelolaan terhadap input yang diterima dari pengguna
- Jika vendor memiliki kewajiban pengelolaan, apa saja standar pengelolaan dan tindakan yang diharapkan
- Apakah pengguna dapat meminta audit atau penyediaan informasi terhadap sistem pengelolaan vendor
- Apakah sistem pengelolaan vendor sesuai dengan tujuan penggunaan layanan oleh pengguna
(Periode Penyimpanan Input)
- Berapa lama vendor dapat menyimpan input
- Setelah periode penyimpanan berakhir, bagaimana tindakan yang akan diambil oleh vendor
(Kewajiban Penghapusan)
- Apakah vendor memiliki kewajiban untuk menghapus input atas permintaan pengguna atau pada saat kontrak berakhir
- Apakah vendor memiliki kewajiban untuk mengeluarkan sertifikat bukti penghapusan (sertifikat penghapusan, dll)
- Apakah tindakan penghapusan tersebut sesuai dengan tujuan operasional pengguna
Jika penyediaan data pribadi terlibat, penggunaan data pribadi oleh vendor untuk tujuan mereka sendiri atau pencocokan data dapat dianggap sebagai penyediaan kepada pihak ketiga dan memerlukan persetujuan dari subjek data, sehingga perlu untuk mengatur skema penanganan data pribadi dengan mempertimbangkan hal ini.
Ketika penggunaan data pribadi melibatkan vendor, perlu dipertimbangkan apakah otoritas pengawasan yang dapat diberikan kepada vendor cukup untuk memprosesnya sebagai penugasan. Jika standarnya tidak terpenuhi, perlu dipertimbangkan untuk memprosesnya sebagai penyediaan kepada pihak ketiga. Selain itu, ketika transfer data pribadi ke luar negeri terlibat, perlu diperhatikan bahwa informasi terkait data pribadi yang dimiliki mungkin diperlukan terlepas dari apakah ada ‘penyediaan’ menurut Undang-Undang Perlindungan Informasi Pribadi atau tidak.
Dalam kasus penyediaan informasi pribadi, jika terjadi kebocoran informasi pribadi oleh vendor, pengguna mungkin diwajibkan untuk melaporkan kepada otoritas pengawasan, sehingga perlu diperhatikan secara khusus.
Mengenai kewajiban penghapusan, jika undang-undang yang berlaku mengharuskan vendor untuk menghapus data, pengguna juga dapat meminta penghapusan sebagai hak di luar kontrak.
Checklist: Output
Output, dalam istilah yang mudah dipahami, adalah hasil yang dihasilkan oleh AI. Umumnya berupa teks atau gambar, namun terkadang juga mencakup kode program, blueprint, atau materi strategi pemasaran, dan bentuk outputnya pun beragam. Informasi yang bersifat sangat rahasia seringkali termasuk di dalamnya, sehingga penanganannya memerlukan perhatian khusus.
Ketika Pengguna Mengeluarkan Output ke Luar
Dengan memanfaatkan layanan AI seperti generative AI, pengguna dapat memperoleh berbagai output (teks yang dihasilkan, gambar, hasil inferensi, dan lain-lain).
Output tersebut tidak hanya dimanfaatkan di dalam perusahaan, tetapi juga seringkali disediakan atau dipublikasikan kepada pihak ketiga seperti pelanggan, mitra bisnis, atau pengguna umum.
Namun, output yang dihasilkan oleh AI dapat mengandung risiko seperti informasi yang tidak akurat, pelanggaran hak, atau masalah etika. Oleh karena itu, sangat penting untuk membangun sistem manajemen dan melaksanakan pendidikan internal yang memadai agar tidak terjadi penyediaan kepada pihak ketiga yang tidak diinginkan (termasuk kebocoran informasi).
Sehingga, ketika pengguna menyediakan output ke luar perusahaan, pertimbangan penting harus diberikan pada perjanjian kontrak dan manajemen risiko. Pastikan untuk memeriksa poin-poin berikut ini:
- Apakah pengguna dapat menyediakan output kepada pihak ketiga
- Jika pengguna dapat menyediakan kepada pihak ketiga, apa saja kondisi penyediaan yang diberlakukan (penerima, lingkup penyediaan, dan kondisi lainnya). Dalam kasus layanan berbasis penggunaan, apakah perlu menampilkan bahwa output tersebut dihasilkan oleh layanan AI
- Apakah konten di atas dapat diterima dengan mempertimbangkan tujuan penggunaan layanan oleh pengguna
Output dari Vendor ke Pengguna (b-5-1)
Output yang diperoleh melalui penggunaan layanan AI (teks yang dihasilkan, gambar, blueprint, laporan, dan lain-lain) merupakan aset berharga bagi pengguna.
Namun, kesepakatan mengenai kepemilikan hak atas output tersebut, seperti ‘siapa yang memiliki hak’ dan ‘apakah boleh digunakan secara bebas’, harus dijelaskan dalam kontrak untuk menghindari masalah di kemudian hari. Secara spesifik, poin-poin berikut ini perlu dijelaskan dengan jelas:
- Apakah pengguna memperoleh hak tertentu, seperti hak kekayaan intelektual, atas output tersebut
- Jika pengguna memperoleh hak, apa saja kondisi untuk memperoleh hak tersebut (objek transfer hak, adanya atau tidaknya kompensasi, adanya atau tidaknya lisensi dan isi lisensi, serta kondisi lainnya)
- Apakah konten di atas dapat diterima dengan mempertimbangkan tujuan penggunaan layanan oleh pengguna
Poin-Poin Penting dalam Menggunakan Checklist
Checklist ini bukanlah dokumen dengan kekuatan hukum sebagai kontrak, melainkan alat untuk menyusun poin-poin diskusi kontraktual terkait penyediaan dan penggunaan layanan AI dari perspektif kedua belah pihak, yaitu pengguna dan vendor. Oleh karena itu, saat akan menandatangani kontrak, penting untuk memilih item-item checklist yang diperlukan berdasarkan fakta-fakta spesifik dari kontrak yang akan dibuat (seperti bentuk kontrak, isi layanan, sifat input dan output, serta hak dan kewajiban para pihak) dan kemudian mengonkretkan syarat-syarat kontrak untuk masing-masing item tersebut.
Bagaimana sebaiknya merespons berdasarkan checklist ini tergantung pada situasi spesifik dari masing-masing pengguna, sehingga perlu mempertimbangkan secara komprehensif situasi terkait yang mencakup elemen-elemen berikut ini:
- Isi layanan AI yang disediakan oleh vendor
- Bentuk kontrak (syarat dan ketentuan penggunaan atau kontrak individu)
- Risiko yang ditimbulkan dengan menerima ketentuan kontrak
- Kemungkinan pemenuhan kewajiban-kewajiban dalam kontrak
- Ketersediaan layanan dan metode alternatif yang sesuai dengan tujuan penggunaan AI
- Usaha yang diperlukan dalam negosiasi kontrak
- Kemungkinan untuk mengurangi risiko melalui metode di luar kontrak (seperti operasional sebenarnya)
Kesimpulan: Konsultasikan Kontrak AI dengan Ahli
Sampai di sini, kami telah melihat secara detail berbagai poin kontraktual terkait input dan output, jenis kontrak, dan poin-poin yang perlu diperhatikan saat menggunakan AI, berdasarkan “Checklist Kontrak Penggunaan dan Pengembangan AI” yang dipublikasikan oleh Kementerian Ekonomi, Perdagangan dan Industri Jepang.
Diperkirakan bahwa teknologi AI, termasuk AI generatif, akan semakin terintegrasi ke dalam inti bisnis di masa depan. Namun, penggunaannya memerlukan penanganan yang hati-hati karena melibatkan banyak poin hukum dan praktis, seperti hak cipta, informasi pribadi, kerahasiaan, kemungkinan penggunaan kembali, dan pembagian tanggung jawab.
Untuk menggunakan AI dengan tepat, tidak cukup hanya dengan mengimplementasikan teknologi; sangat penting untuk mengklarifikasi hak dan kewajiban antar pihak melalui “kontrak” dan mencegah risiko sebelum terjadi. Khususnya, dalam menangani kontrak AI yang kompleks, sangat disarankan untuk melanjutkan dengan mendapatkan nasihat dari departemen hukum dan kekayaan intelektual internal atau dari para ahli eksternal, sebagai pendekatan yang aman dan praktis.
Sambil mendorong pemanfaatan AI, pastikan untuk meminimalisir risiko hukum dengan memeriksa isi kontrak dan tidak mengabaikan kerja sama dengan para ahli.
Panduan Tindakan dari Firma Hukum Kami
Firma Hukum Monolith adalah sebuah firma hukum yang memiliki keahlian tinggi dalam bidang IT, khususnya hukum internet dan hukum secara umum. Kami menyediakan berbagai dukungan hukum dan pembuatan serta review kontrak bagi perusahaan yang terdaftar di Bursa Efek Tokyo hingga perusahaan rintisan. Untuk informasi lebih lanjut, silakan merujuk pada artikel di bawah ini.
Bidang layanan Firma Hukum Monolith: Layanan Hukum Perusahaan IT & Startup[ja]
Category: IT
