Ekonomi, Ticaret ve Sanayi Bakanlığı'nın "Yapay Zeka İşletmecileri İçin Kılavuz" İçeriğini Avukatlar Açıklıyor
2024 yılında (2024) Ekonomi, Ticaret ve Sanayi Bakanlığı tarafından derlenen ‘AI İşletmecileri İçin Kılavuz (Sürüm 1.0)[ja]‘ Japonya’da, AI teknolojisinin hızlı gelişimi ve toplumda uygulanması sırasında karşılaşılan risk yönetimi ve etik sorunlara yanıt vermenin, şirketler ve toplum geneli için önemli bir konu haline geldiği gerçeğinden yola çıkarak hazırlanmıştır. Bu kılavuz, AI’nin uygun kullanımını ve toplumsal güvenin artırılmasını amaçlayarak, şirketlerin AI yönetişimine dair yaklaşımlarını belirlemeleri için önemli bir rehber niteliğindedir. Hukuki bağlayıcılığı olmayan bir yumuşak hukuk olarak, her bir aktörün rollerini açıklığa kavuştururken, risk tabanlı yaklaşımlar ve uluslararası sistemlerle uyumluluğu ön planda tutan içeriğe sahiptir.
Ayrıca, bu kılavuzun özelliklerinden biri olarak, sabit kurallar yerine, çevresel değişikliklere esnek bir şekilde uyum sağlayan ‘agile yönetişim’ anlayışının benimsenmiş olmasıdır. Şirketler, AI’nin geliştirilmesi, sunulması ve kullanımı sırasında karşılaştıkları sorunlara karşı, çevre ve risk analizi, hedef belirleme, işletme ve değerlendirme döngüsünü sürekli olarak döndürerek, riskleri azaltmayı ve teknolojinin sürdürülebilir gelişimini sağlayan bir yapıdır. Ayrıca, birden fazla aktör arasındaki iş birliği, verilerin uygun şekilde dolaşımı ve yönetim katmanının aktif katılımı gibi unsurlar, etkili bir yönetişimi destekleyen temel direkler olarak vurgulanmaktadır.
Japonya Ekonomi, Ticaret ve Sanayi Bakanlığı’nın “AI İşletmeleri İçin Kılavuz” Yayını ve Arka Planı
2024 Nisan’ında (Reiwa 6), Japonya Ekonomi, Ticaret ve Sanayi Bakanlığı, “AI İşletmeleri İçin Kılavuz (1.0 Versiyonu)[ja]“nı hazırlayarak kamuoyuna duyurdu. Bu kılavuz, AI teknolojisinin gelişimini ve toplumsal uygulamasını desteklemek amacıyla, hukuki bağlayıcılığı olmayan bir rehber olarak konumlandırılmıştır. Dolayısıyla, yasalar gibi zorunluluklar getiren bir nitelik taşımamakta, temel felsefe, prensipler ve rehberlik edecek yönlendirmeler sunmakta ve işletmelerin uygulamalarında referans olarak kullanılabilmektedir. İçerik olarak, temel felsefe ve prensiplerin yer aldığı ana metin ile somut uygulama yöntemlerini gösteren eklerden oluşmaktadır.
“İnsan Merkezli AI Toplum İlkeleri”ne Dayalı Yaklaşım
“AI İşletmecileri Rehberi”, 2019 Mart’ında (2019年3月) ortaya konan “İnsan Merkezli AI Toplum İlkeleri”ne dayanmaktadır. Bu ilkelerde, “İnsanların AI tarafından kullanılması değil, insanların AI’yi kullanması” gerektiği temel bir fikir olarak belirtilmiştir. Özellikle, AI, insanların kontrolü altında, insan yeteneklerini genişleten bir araç olarak kullanılmalı ve insanların aşırı bağımlılık sonucu kontrol edildiği durumlar kaçınılmalıdır.
Ayrıca, AI sadece insanların işlerini değiştiren bir araç olmakla kalmamalı, aynı zamanda insanların yaratıcılığını ve yeteneklerini genişleten gelişmiş ve kullanışlı bir araç olarak rol oynamalıdır. Bu nedenle, AI kullanılırken, kullanıcıların nasıl bir kullanım yapacaklarını kendilerinin belirlemesi ve kararlarını sorumlulukla alması beklenmektedir.
Geçmiş Kılavuzların Entegrasyonu ve Gözden Geçirilmesi
Bu kılavuz, önceki üç ana kılavuzun entegrasyonu ve gözden geçirilmesi sonucunda oluşturulmuştur.
- “AI Geliştirme Kılavuzu” (2017): AI geliştirmede temel ilkeler ve dikkat edilmesi gereken noktaları açıklar.
- “AI Kullanım Kılavuzu” (2019): AI kullanımında temel ilkeleri ve bunların açıklamalarını sunar.
- “AI İlkelerinin Uygulanması İçin Yönetişim Kılavuzu” (2021): Toplumsal uygulamayı teşvik etmek için somut hedefler ve uygulama örnekleri sunar.
Bunlar, AI işletmecilerinin uyması gereken rehberler olarak kullanılmıştır. Bu seferki “AI İşletmecileri Kılavuzu”nda, bu kılavuzlar entegre edilmiş ve yabancı ülkelerin eğilimleri ile yeni teknolojilerin yükselişi de dikkate alınarak içerik hazırlanmıştır.
Yapılandırma Süreci ve Kamuoyuna Duyuru
“AI İşletmeleri İçin Kılavuz Taslağı”, ilk olarak 2023 (Reiwa 5) yılının 21 Aralık tarihinde düzenlenen Kabine Ofisi AI Strateji Toplantısı’nın (7. oturum) sırasında sunulmuştur. Ardından, 2024 (Reiwa 6) yılının 19 Ocak tarihinde İçişleri Bakanlığı ve Ekonomi, Ticaret ve Sanayi Bakanlığı tarafından resmi olarak duyurulmuş ve ertesi gün 20 Ocak’tan 19 Şubat’a kadar kamuoyu yorumlarına açılmıştır. Bu görüş toplama sürecinin ardından, aynı yılın 19 Nisan’ında “AI İşletmeleri İçin Kılavuz (1.0 Versiyonu)” tamamlanarak kamuoyuna açıklanmıştır.
AI İşletmecileri İçin Japon Rehberlerinin Önemi
AB’de sert yasalar olarak kabul edilen AI düzenlemelerinin aksine, Japonya’daki “AI İşletmecileri Rehberi” sözde yumuşak yasalardandır ve hukuki bağlayıcılığı olmayıp, AI işletmecilerinin uygulaması gereken temel ilkeleri ve davranış yönündeki rehberleri belirtir. AI teknolojisinin gelişimi devam ederken, toplumda uygun kullanımını teşvik etmek ve güvenilir bir AI toplumu inşa etmek için önemli bir adımdır. İşletmeciler, bu rehberi referans alarak, kendi AI geliştirmeleri ve kullanımları için politikalarını düzenlemeleri beklenmektedir.
Japonya’da “AI İşletmecileri İçin Kılavuz” Temel Yaklaşımı
“AI İşletmecileri İçin Kılavuz”, AI teknolojisinin gelişimini ve toplumda uygun şekilde yerleşmesini teşvik etmek amacıyla, aşağıdaki üç temel düşünce üzerine kurulmuştur:
İşletmelerin Kendi İnisiyatifleriyle Yapacakları Çalışmaların Desteklenmesi
“AI İşletmecileri İçin Kılavuz”, riskin büyüklüğüne ve olasılığına göre önlemleri değiştiren “risk tabanlı yaklaşım” temel alarak, şirketlerin alması gereken önlemlerin yönünü göstermektedir. Bu, riskin içeriği ve derecesine göre esnek önlemler öneren bir düşünce tarzıdır ve kullanım durumlarına veya AI modellerinin özelliklerine göre risklerin büyük ölçüde farklılık gösterebileceğini varsayar. Özellikle, kullanım durumlarına göre riskler, şirketin büyüklüğüyle her zaman örtüşmeyebilir, bu nedenle riskin niteliğini dikkatlice değerlendirmek gereklidir.
Yüksek riskli durumlar için yasal düzenlemelerin gözden geçirilmesi gerekirken, düşük riskli durumlar için özel sertifikasyon veya kendi beyanlarına bırakılması gibi esnek düzenleme yöntemlerinin seçimi önemlidir. Bu tür bir yaklaşım, aşırı düzenlemelerden kaçınırken etkili risk yönetimini mümkün kılar.
Uluslararası Tartışmalarla Uyum
AI teknolojisinin pazarı uluslararası sınırları aşarak genişlemekte ve Japon şirketlerin uluslararası rekabet gücünü korumak için, yabancı sistemler ve prensiplerle uyumlu olması önemlidir. Bu kılavuzun temel fikirleri ve prensipleri, OECD’nin AI prensipleri gibi uluslararası rehberler dikkate alınarak oluşturulmuş ve eklerde diğer ülkelerin kılavuzlarıyla olan ilişkiler de açıkça belirtilmiştir.
Temel modeller dahil, AI modelleri ve hizmetleri uluslararası bir pazardır, bu nedenle Japon şirketlerinin küresel olarak başarılı olabilmesi için yabancı sistemlerle karşılıklı çalışabilirliğin sağlanması önemlidir. Ayrıca, herhangi bir düzenleme yapılırken, sadece Japon şirketlerinin ağır yükler altında kalarak rekabet gücünü kaybetmesi gibi bir durumdan kaçınılmalı ve yabancı şirketler için de etkili bir sistem olarak uygulanmalı, yerli ve yabancı şirketler için adil bir oyun alanı sağlanmalıdır.
Okuyucu İçin Anlaşılırlık
“AI İşletmecileri İçin Kılavuz”, okuyucunun kolay anlayabilmesini ön planda tutmaktadır. Özellikle, “AI geliştiricileri”, “AI sağlayıcıları”, “AI kullanıcıları” gibi farklı aktörler için düşünülmesi gereken riskler ve politikaların ayrımını yaparak belirtilmesi bu kılavuzun öne çıkan özelliklerindendir.
“Çok Taraflı Paydaşlar” ve “Canlı Belge”
Bunlara ek olarak, “çok taraflı paydaşlar” ve “canlı belge” kavramlarının benimsenmesi de “AI İşletmecileri İçin Kılavuz”un özelliklerindendir. Yani, eğitim ve araştırma kurumları, genel tüketiciler de dahil olmak üzere sivil toplum ve özel şirketler gibi çok taraflı paydaşların katılımıyla yapılan tartışmalar sonucunda, etkinlik ve meşruiyet vurgulanarak oluşturulmuş ve AI yönetişiminin sürekli iyileştirilmesi amacıyla, “canlı belge” olarak, zamanla güncelleneceği planlanmaktadır.
Japonya’da “AI İşletmecileri Kılavuzu”nda Belirtilen Tarafların Ayrımı ve Uygulama Kapsamı
“AI İşletmecileri Kılavuzu”nun önemli özelliklerinden biri, uygulama kapsamına giren tarafların özelliklerine göre ayrılması ve her birinin üstlenmesi gereken sorumlulukların açıkça belirtilmesidir. Bu kılavuzda, “AI Geliştiriciler”, “AI Sağlayıcılar” ve “AI Kullanıcılar” uygulama kapsamına alınırken, “İş Dışı Kullanıcılar” ve “Veri Sağlayıcılar” kapsam dışında bırakılmıştır.
AI Geliştiricilerin, Sağlayıcıların ve Kullanıcıların Rolleri ve Sorumlulukları
AI Geliştiriciler, AI’nin veri ön işleme, öğrenme ve geliştirme süreçlerinden sorumlu tarafları ifade eder. Özellikle, toplanan öğrenme verilerinin ön işlemesi, AI modelinin oluşturulması ve denemeler yoluyla faydalılığın doğrulanması gibi işlemleri gerçekleştiren kişileri kapsar. Bu süreçler, AI’nin performansını ve güvenilirliğini sağlayan temel olduğundan, geliştiricilerden verilerin uygun şekilde işlenmesi ve yüksek kaliteli model yapılandırılması beklenir.
AI Sağlayıcılar, AI sistemlerinin uygulanması ve sunulmasından sorumlu taraflardır. AI modellerini mevcut veya yeni sistemlere entegre edip, diğer sistemlerle koordinasyon sağladıktan sonra kullanıcılara sunma sürecini üstlenirler. Ayrıca, AI sistemlerinin doğru kullanımını teşvik etmek için uyarılar yapma ve operasyonel destek sağlama gibi görevler de bu kapsama girer. Böylece, kullanıcıların AI sistemlerini güvenli ve etkili bir şekilde kullanmalarına yardımcı olurlar.
AI Kullanıcılar, AI sistemlerini veya hizmetlerini kullanan tarafları tanımlar. Kullanıcılar, sağlayıcılardan alınan uyarıları dikkate alarak AI sistemlerini uygun bir şekilde işletir ve sağladığı avantajlardan yararlanır. Aynı zamanda, AI sistemlerinin tasarım amacına uygun kullanımını sürdürme sorumluluğunu da taşır. Böylece, kullanıcıların eylemleri AI sistemlerinin toplumsal kabulüne ve güvenilirliğine de etki eder.
Uygulama Kapsamı Dışındaki Taraflar
Buna karşılık, “Veri Sağlayıcılar” ve “İş Dışı Kullanıcılar”, kılavuzun uygulama kapsamı dışında tutulmuştur. Veri Sağlayıcılar, AI’nin öğrenme verilerini sağlayan rolü üstlenir ve bu, belirli bir tüzel kişi veya bireylerle sınırlı olmayıp, sensörler veya sistemler aracılığıyla veri temin edilmesini de içerir. Öte yandan, İş Dışı Kullanıcılar, AI sistemlerinin veya hizmetlerinin faydalarını iş faaliyetleri dışında kullanan tarafları ifade eder ve duruma göre AI’nin kararlarından etkilenebilirler.
Örneğin, iş arayan verilerini kullanan bir AI hizmetinde, AI modelini geliştiren “AI Geliştiriciler”, hizmeti sunan “AI Sağlayıcılar” ve bu hizmeti kullanan şirketler “AI Kullanıcılar” olarak tanımlanır. Diğer yandan, geçmişteki iş arayanlar “Veri Sağlayıcılar”, hizmetin kararlarından etkilenen başvuru sahipleri ise “İş Dışı Kullanıcılar” olarak kabul edilir.
Japonya’da AI İşletmecileri İçin Ortak İlkeler Rehberi
“AI İşletmecileri İçin Ortak İlkeler Rehberi”, tüm işletmecilerin, özelliklerine bakılmaksızın uygulaması gereken on ortak ilkeyi sunmaktadır. Bu ilkeler, işletmelerin kendi başlarına ele alması gereken konular ve toplumla iş birliği içinde ele alması gereken konular olarak ikiye ayrılmış ve AI yönetişiminin bir çerçevesi olarak konumlandırılmıştır.
İşletmecilerin Kendi Başlarına Ele Alması Gereken 7 Madde
- İnsan Merkezli: AI kullanımında bireyin onuruna saygı göstermek, çıktıların doğruluğunu ve sınırlarını anlamak ve AI’yi uygunsuz amaçlarla kullanmamak gerekmektedir. Ayrıca, filtre balonu gibi, bilgi ve değerleri çarpıtarak seçenekleri sınırlayan AI kullanımına dikkat etmek önemlidir.
- Güvenlik: Risk analizi yapmak ve AI sistemlerinin asıl kullanım amacından sapmamasını sağlamak için uygun önlemleri almak gerekmektedir. Veri doğruluğu ve şeffaflığının sağlanması, AI modellerinin uygun şekilde güncellenmesi de önemlidir.
- Adillik: AI çıktılarının önyargı ve ayrımcılığı teşvik etmemesi için çaba göstermek gerekmektedir. AI kararlarına insan kararlarının dahil edilmesi ve potansiyel önyargılara dikkat etmek önemlidir.
- Gizliliğin Korunması: Uluslararası kişisel veri koruma standartlarına atıfta bulunarak, gizlilikle ilgili uluslararası rehberlere ve normlara uymak gerekmektedir. Kişisel verilerin sınır ötesi transferinde karşılıklı işlevselliğin sağlanması da önemlidir.
- Güvenliğin Sağlanması: AI sistemlerinin gizliliğini, bütünlüğünü ve erişilebilirliğini korumak ve teknik seviyeye dayalı makul önlemler almak gerekmektedir. Dış saldırılara karşı hazırlıklı olmak ve en yeni risklere karşı tedbir almak da beklenmektedir.
- Şeffaflık: AI sistemlerinin öğrenme ve çıkarım süreçlerinin doğrulanabilir olması ve gerektiğinde bilgi sağlanması gerekmektedir. Ancak, algoritma veya kaynak kodunun açıklanması gerekmemekte, gizlilik ve ticari sırlar korunmaktadır.
- Sorumluluk: AI çıktılarında bir hata olması durumunda, bu durumu kabul etmek ve objektif bir izleme yapmak gerekmektedir. Paydaşlara yönelik politikalar geliştirmek ve ilerlemeyi düzenli olarak raporlamak beklenmektedir.
Toplumla İş Birliği İçinde Ele Alınması Gereken 3 Madde
- Eğitim ve Okuryazarlık: AI ile ilgili herkesin yeterli AI okuryazarlığına sahip olması için eğitim yapmak ve paydaşları AI’nin özellikleri ve riskleri hakkında bilinçlendirmek gerekmektedir.
- Adil Rekabetin Sağlanması: AI destekli yeni işletmelerin ve hizmetlerin adil bir şekilde rekabet edebilmesi için gerekli ortamı hazırlamak ve sürdürülebilir ekonomik büyüme ile toplumsal sorunların çözümünü hedeflemek gerekmektedir.
- İnovasyon: Uluslararası çeşitliliği ve endüstri-üniversite-devlet iş birliğini teşvik etmek ve AI sistemleri arasında karşılıklı bağlantıyı sağlamak gerekmektedir. Standart özellikler mevcutsa, bunlara uyum sağlamak önerilmektedir.
“Agile Yönetişimin Önemi ve Uygulama Yöntemleri”
“AI İşletmecileri Rehberi”, AI yönetişimi oluştururken tek tip bir yaklaşım benimsemek yerine, her şirketin büyüklüğüne ve iş kapsamına uygun esnek çözümler gerektiğini vurgulamaktadır. Diğer şirketlerin uygulamalarını birebir taklit etmek yerine, yönetimden saha çalışanlarına kadar her seviyede deneme yanılma yöntemleriyle, şirkete uygun kuralları tasarlamak ve uygulamak gerekmektedir. Bu süreçte kilit nokta, “agile yönetişim” uygulamalarını hayata geçirmektir.
Agile Yönetişim Nedir?
Agile yönetişim, önceden sabit kurallar belirlemek yerine, dış çevre ve risklerdeki değişikliklere esnek bir şekilde yanıt verebilmek için aşağıdaki gibi bir döngüyü sürekli olarak işletmeyi ifade eder:
- Çevre ve Risk Analizi: Dış çevre ve teknolojik riskleri doğru bir şekilde anlamak.
- Hedef Belirleme: Mevcut duruma uygun hedefler belirlemek.
- Sistem Tasarımı: Amaçlara ulaşmak için etkili AI sistemleri tasarlamak.
- Operasyon: Tasarlanan sistemleri gerçekte uygulamak ve sonuçları gözlemlemek.
- Değerlendirme: Operasyon sonuçlarını düzenli olarak değerlendirmek ve gerektiğinde ayarlamalar yapmak.
Bu döngüyü sürekli olarak işletmek, hızla değişen teknoloji ortamına ve piyasa trendlerine hızlı ve etkili bir şekilde yanıt verilmesini sağlar.
Agile Yönetişimi Destekleyen Üç Temel Unsurlar
“Agile Yönetişim”, AI teknolojisinin ilerlemesiyle birlikte evrimleşmesi gereken yönetişim anlayışını ortaya koyar. Şirketler, kendi iş modelleri ve iş çevrelerine uygun esnek çözümler sunarken, yönetimden saha çalışanlarına kadar herkesin bütünleşik bir şekilde çalışması beklenir. Ayrıca, paydaşlar arası iş birliği ve uluslararası risk yönetiminin sağlanması, AI yönetişimini daha etkili hale getirebilir. Bu bağlamda, aşağıdaki unsurlar önemli olacaktır:
- Çoklu Paydaşlar Arası İş Birliği: AI teknolojisi, değer zinciri ve risk zinciri gibi kavramlar çerçevesinde birden fazla paydaşın dahil olduğu bir süreçtir, bu nedenle her bir paydaşın rolünü ve sorumluluğunu netleştirmek ve iş birliğini sağlamak önemlidir. Bu sayede, AI sistemlerinin geliştirilmesi, sunulması ve kullanımı aşamalarında riskler uygun şekilde yönetilebilir.
- Uygun Veri Akışının Sağlanması: AI yönetişimi uygularken, verilerin uygun akışı hayati önem taşır. Özellikle birden fazla ülkeyi kapsayan veri kullanımı söz konusu olduğunda, her ülkenin düzenlemelerini ve risk yönetimi gerekliliklerini göz önünde bulundurarak, verilerin şeffaflığını ve güvenliğini korumak gereklidir.
- Yönetim Katmanının Taahhüdü: Etkili bir AI yönetişimi için, yönetim katmanının aktif katılımı gereklidir. Bu, yönetişim stratejisinin belirlenmesi, organizasyon genelinde bir yapı oluşturulması ve kurumsal kültür olarak benimsenmesi gibi konuları içerir. Yönetim katmanının taahhüdü, organizasyonun bütününün aynı hedefe doğru ilerlemesi için bir itici güç oluşturur.
“AI İşletmecileri Rehberi”nde belirtilen, şirketlerin oluşturması gereken AI yönetişimi hakkında daha fazla bilgi aşağıdaki makalede detaylı olarak sunulmuştur.
İlgili Makale: Şirketlerin Uygulaması Gereken AI Yönetişimi Nedir? ‘AI İşletmecileri Rehberi’ne Dayalı Önemli Noktalar[ja]
Monolit Hukuk Bürosu’nun Sunduğu Çözümler
Monolit Hukuk Bürosu, IT ve özellikle internet ile hukukun her iki alanında da zengin deneyime sahip bir hukuk firmasıdır.
AI işletmeleri birçok hukuki riski beraberinde getirir ve AI ile ilgili hukuki sorunlarda uzmanlaşmış avukatların desteği hayati önem taşır. Firmamız, AI konusunda bilgili avukatlar ve mühendislerden oluşan bir ekip ile ChatGPT dahil olmak üzere AI işletmelerine yönelik sözleşme hazırlama, iş modelinin yasallığının değerlendirilmesi, fikri mülkiyet haklarının korunması, gizlilik konularında uyum gibi ileri düzey hukuki destek sağlamaktadır. Aşağıdaki makalede detayları bulabilirsiniz.
Monolit Hukuk Bürosu’nun Uzmanlık Alanları: AI (ChatGPT vb.) Hukuki İşlemler[ja]
Category: IT
