Şirketlerin Uygulaması Gereken AI Yönetişimi Nedir? "AI İşletmecileri Kılavuzu"na Dayalı Önemli Noktaların Açıklaması
19 Nisan 2024 (Reiwa 6) tarihinde, Japonya’nın İçişleri ve İletişim Bakanlığı ile Ekonomi, Ticaret ve Sanayi Bakanlığı, “AI İşletmecileri İçin Kılavuz”u yayımladı. Bu kılavuzun amacı, yapay zekanın (AI) güvenli kullanımını teşvik etmek ve AI’nin toplumda uygulanmasını hızlandırmaktır. Kılavuz, AI’nin geliştirilmesi, sunulması ve kullanımı ile ilgilenen işletmeler, kamu kurumları, eğitim kurumları ve NPO/NGO gibi organizasyonları hedef almaktadır.
“AI İşletmecileri İçin Kılavuz”da, AI’nin geliştirilmesi, sunulması ve kullanılması süreçlerinde yer alan her bir aktör için AI yönetişiminin oluşturulmasının önemli olduğu vurgulanmaktadır. Peki, şirketler AI yönetişimi oluştururken hangi tür adımları atmalıdır?
Bu makalede, “AI İşletmecileri İçin Kılavuz” temel alınarak, şirketlerin uygulaması gereken AI yönetişimi noktalarını açıklıyoruz.
Japonya’da AI İşletmecileri İçin Kılavuz
Japonya’da AI işletmecileri için kılavuz, 2024 (Reiwa 6) yılında İçişleri ve İletişim Bakanlığı ile Ekonomi, Ticaret ve Sanayi Bakanlığı tarafından hazırlanan, AI’nin güvenli ve güvenilir bir şekilde kullanımının teşvik edilmesi amacıyla, Japonya’daki AI yönetişiminin birleşik standartlarını belirlemek için oluşturulmuştur.
Referans: AI İşletmecileri Kılavuzu (Sürüm 1.0) | Ekonomi, Ticaret ve Sanayi Bakanlığı[ja]
Daha önce oluşturulan “AI Geliştirme Kılavuzu”, “AI Kullanım Kılavuzu” ve “AI İlkelerinin Uygulanması İçin Yönetişim Kılavuzu”nun entegrasyonu ve gözden geçirilmesiyle hazırlanan bu kılavuz, AI kullanımı gerçekleştiren işletmecilerin güvenli ve güvenilir AI kullanımı için uygun davranışları teşvik eden standartları inceleyebilmeleri amacıyla oluşturulmuştur.
AI işletmecileri kılavuzu hakkında daha fazla bilgi için, “Ekonomi, Ticaret ve Sanayi Bakanlığı ‘AI İşletmecileri Kılavuzu’ İçeriğini Avukatlar Açıklıyor” başlıklı makalemize göz atabilirsiniz.
İlgili makale: Ekonomi, Ticaret ve Sanayi Bakanlığı ‘AI İşletmecileri Kılavuzu’ İçeriğini Avukatlar Açıklıyor[ja]
AI Yönetişimi Nedir?
AI yönetişimi, AI işletmecileri için hazırlanan rehberde, “AI kullanımıyla ortaya çıkan riskleri, paydaşlar için kabul edilebilir bir düzeyde yönetirken, bu kullanımdan kaynaklanan olumlu etkileri (yararları) en üst düzeye çıkarmayı amaçlayan, paydaşlar tarafından oluşturulan teknik, organizasyonel ve sosyal sistemlerin tasarımı ve işletilmesi” olarak tanımlanmaktadır.
Ayrıca, AI yönetişimi hakkında, AI işletmecileri rehberinde, “AI ile ilgili riskleri, paydaşlar için kabul edilebilir bir düzeyde yönetirken, bu kullanımdan kaynaklanan yararları en üst düzeye çıkarmak için, tüm değer zinciri boyunca çeşitli taraflar arasında iş birliği yaparak ve ortak bir yönergeyi uygulayarak AI’yi güvenli ve emin bir şekilde kullanabilmek adına, AI yönetişiminin oluşturulması önemlidir” denilmektedir.
Demek oluyor ki, AI yönetişiminin oluşturulması, AI’nin geliştirilmesi, sunulması ve kullanılması süreçlerinde yer alan her bir taraf için önemlidir.
Japonya’da AI Yönetişiminin İnşasında ‘Agile Governance’ Uygulaması
AI yönetişiminin inşasında önemli olarak kabul edilen, dış çevre ve risk değişikliklerine esnek bir şekilde yanıt verebilmek için ‘çevre ve risk analizi’, ‘hedef belirleme’, ‘sistem tasarımı’, ‘işletme’ ve ‘değerlendirme’ gibi süreçleri sürekli olarak döndüren bir yaklaşım olan ‘Agile Governance’ uygulamasıdır.
AI ile ilgili işlerde, karmaşıklık ve hızlı değişim nedeniyle hedefler de sürekli olarak değişmektedir.
Bu nedenle, AI yönetişiminin inşasında, kuralları veya prosedürleri önceden sabitlemek yerine, her şirketin büyüklüğüne ve iş modeline uygun esnek yanıtlar gereklidir. Bu bağlamda, Japon AI işletmecileri için rehber niteliğindeki belgelerde Agile Governance yöntemiyle yönetişim inşası önerilmektedir.
Agile, İngilizcede ‘çevik’ veya ‘hızlı’ anlamına gelir.
Agile Governance uygulaması, AI işletmecileri için rehber niteliğindeki ana belgede aşağıdaki gibi gerçekleştirilir:
- AI sistemleri ve hizmetlerinin toplumsal kabulü gibi dış çevre değişiklikleri ve AI sistemleri ve hizmetlerinin kullanımından kaynaklanan fayda ve risklerin analizi olan ‘çevre ve risk analizi’ yapılır.
- AI sistemleri ve hizmetlerini geliştirmek, sunmak veya kullanmak kararını verir ve bu kararı alırsanız, ‘hedef belirleme’ yapılır.
- Belirlenen AI yönetişim hedeflerine ulaşmak için ‘AI yönetim sistemi tasarımı’ yapılır ve bu ‘işletilir’. Bu sırada şirketler, AI yönetişim hedefleri ve işletme durumları hakkında dış paydaşlara şeffaflık ve hesap verebilirlik sağlamalıdır.
- AI yönetim sisteminin etkin bir şekilde işleyip işlemediği sürekli olarak izlenir ve ‘değerlendirme’ yapılır.
- AI sistemleri ve hizmetlerinin işletilmeye başlamasından sonra da, dış çevre değişiklikleri göz önünde bulundurularak, ‘çevre ve risk analizi’ tekrar yapılır ve gerektiğinde hedefler gözden geçirilir.
Bu 1-5 adımları uygulamak için somut eylem hedefleri, AI işletmecileri için rehber niteliğindeki belge[ja]de belirtilmiştir, bu nedenle her bir maddeyi ayrı ayrı dikkatlice inceleyelim.
Japon Hukuku Altında Uygulanan Agile Yönetişim İçin Eylem Hedefleri
Japonya’da AI işletmecileri için hazırlanan rehber ekinde belirtilen Agile yönetişim uygulamaları için eylem hedeflerini gözden geçirelim.
Çevre & Risk Analizi
Agile Yönetişim kapsamında “Çevre & Risk Analizi” yürütme hedefleri olarak AI İşletmecileri Kılavuzu eklerinde belirtilen üç ana madde şunlardır:
- Fayda/Risk anlayışı
- AI’nin toplumsal kabulünün anlaşılması
- Şirketin AI yetkinlik düzeyinin kavranması
Fayda/Risk Anlayışı
“Çevresel ve Risk Analizi” uygulaması için belirlenen hedeflerden biri “Fayda/Risk Anlayışı”dır.
AI İşletmecileri Kılavuzu Ek’inde şöyle açıklanmaktadır:
Hedef 1-1【Fayda/Risk Anlayışı】
Tüm taraflar, yönetim katmanının liderliği altında, AI’nin geliştirilmesi, sunulması ve kullanımının amacını netleştirdikten sonra, elde edilen faydaların yanı sıra istenmeyen risklerin de olduğunu, kendi işletmelerinin faaliyetleri doğrultusunda somut bir şekilde anlamalı, bunları yönetim katına rapor etmeli, yönetim katında paylaşmalı ve anlayışı zamanında güncellemelidir.
Kaynak: AI İşletmecileri Kılavuzu Ek
Özellikle dikkat edilmesi gereken noktalar şunlardır:
- AI’nin geliştirilmesi, sunulması ve kullanımının amacını, işletmenin değer yaratma ve toplumsal sorunları çözme gibi hedeflerle net bir şekilde tanımlamak
- Kendi işletmenize özgü fayda ve riskleri somut bir şekilde anlamak
- Kaçınılması gereken “riskler” ve birden fazla tarafı ilgilendiren konulara dikkat ederek, değer zinciri/risk zinciri boyunca faydaları sağlamak ve riskleri azaltmak
- Yönetim katına hızlı bir şekilde raporlama/paylaşım yapılabilen bir sistem kurmak
AI’nin Toplumsal Kabulünün Anlaşılması
“Çevre ve Risk Analizi” için belirlenen eylem hedeflerinden ikincisi, “AI’nin toplumsal kabulünün anlaşılması”dır.
AI İşletmecileri Kılavuzu Ek’inde şu şekilde açıklanmaktadır:
Eylem Hedefi 1-2【AI’nin Toplumsal Kabulünün Anlaşılması】
Her kurum, yönetim katmanının liderliği altında, AI’nin tam ölçekli geliştirilmesi, sunulması ve kullanımından önce, paydaşların görüşlerine dayanarak toplumsal kabulün mevcut durumunu anlamakla yükümlüdür. Ayrıca, AI sistemleri ve hizmetlerinin tam ölçekli geliştirilmesi, sunulması ve kullanımından sonra da, dış çevredeki değişiklikleri göz önünde bulundurarak, gerektiğinde paydaşların görüşlerini zamanında tekrar doğrulamak beklenmektedir.
Alıntı: AI İşletmecileri Kılavuzu Ek
Uygulama için anahtar noktalar şunlardır:
- Paydaşların belirlenmesi
- Paydaşların AI’nin toplumsal kabulünü anlamaları için çaba gösterilmesi ve AI’nin geliştirilmesi, sunulması ve kullanılması
- AI sistemleri ve hizmetlerinin sunulmasının ardından, hızla değişen dış çevreyi dikkate alarak ve gerektiğinde paydaşların görüşlerini zamanında tekrar doğrulama
Kendi AI Uzmanlık Seviyenizin Anlaşılması
“Çevre ve Risk Analizi” için belirlenen eylem hedeflerinden biri de “Kendi AI Uzmanlık Seviyenizin Anlaşılması”dır.
Japon AI İşletmecileri Kılavuzu Eki’nde şöyle açıklanmaktadır:
Eylem Hedefi 1-3【Kendi AI Uzmanlık Seviyenizin Anlaşılması】
Her kuruluş, üst yönetimin liderliği altında, Eylem Hedefleri 1-1 ve 1-2’nin uygulanmasını temel alarak, kullanmayı düşündüğü AI’nin amaçları, kendi iş alanları ve büyüklükleri gibi faktörler ışığında risklerin önemsiz olduğuna karar vermedikçe, kendi AI sistemleri ve hizmetlerinin geliştirilmesi, sunulması ve kullanılması konusundaki deneyim düzeylerini, bu süreçlere dahil olan mühendisler de dahil olmak üzere çalışan sayısı ve deneyim düzeylerini, ilgili çalışanların AI teknolojisi ve etik konusundaki bilgi düzeylerini de göz önünde bulundurarak kendi AI uzmanlık seviyelerini değerlendirir ve uygun zamanlarda bu değerlendirmeyi yeniden yapar. Mümkünse, bu sonuçları makul bir kapsamda paydaşlarla paylaşmak beklenir. Risklerin önemsiz olduğuna ve AI uzmanlık seviyesinin değerlendirilmesine gerek olmadığına karar verildiğinde, bu değerlendirmenin yapılmadığı ve nedenleriyle birlikte bu durumun paydaşlarla paylaşılması beklenir.
Alıntı: Japon AI İşletmecileri Kılavuzu Eki
Uygulama için anahtar noktalar şunlardır:
- Kendi iş alanları ve büyüklükleri gibi faktörler ışığında her kuruluşun AI uzmanlık seviyesinin değerlendirilmesi gerekliliğini gözden geçirin
- AI uzmanlık seviyesinin değerlendirilmesi gerektiğine karar verildiğinde, AI risklerine karşı yanıt verme kapasitesini görselleştirerek AI uzmanlık seviyesini değerlendirin
- AI uzmanlık seviyesinin değerlendirilmesine gerek olmadığına karar verildiğinde bile, mümkünse bu durumu ve nedenlerini makul bir kapsamda paydaşlarla paylaşın
Hedef Belirleme
Agile Yönetişimde “Hedef Belirleme” uygulaması için, AI İşletmecileri Kılavuzu eklerinde aşağıdaki eylem hedefleri belirtilmiştir.
Eylem Hedefi 2-1【AI Yönetişim Hedeflerinin Belirlenmesi】
Her kuruluş, üst yönetimin liderliği altında, AI sistemleri ve hizmetlerinin getirebileceği fayda/riskler, AI sistemleri ve hizmetlerinin geliştirilmesi, sunulması ve kullanımı ile ilgili toplumsal kabul, kendi AI yetkinlik düzeylerini göz önünde bulundurarak, AI yönetişim hedeflerinin belirlenme sürecinin önemini de dikkate alarak, kendi AI yönetişim hedeflerini (örneğin AI politikası) belirleyip belirlememe konusunu değerlendirir ve hedefleri belirler. Ayrıca, belirlenen hedeflerin paydaşlara açıklanması beklenir. Potansiyel risklerin önemsiz olduğu gerekçesiyle AI yönetişim hedefleri belirlenmezse, hedeflerin belirlenmediği ve bunun nedenleri paydaşlara açıklanmalıdır. Bu kılavuzda belirtilen “Ortak İlkeler” yeterince işlevsel olduğu düşünülüyorsa, kendi AI yönetişim hedefleri yerine bu “Ortak İlkeler” hedef olarak kullanılabilir.
Bununla birlikte, hedef belirlenmemiş olsa bile, bu kılavuzun önemini anlamak ve Eylem Hedefleri 3’ten 5’e kadar olan uygulamaları uygun şekilde gerçekleştirmek beklenir.
Alıntı: AI İşletmecileri Kılavuzu Ekleri
Uygulama için anahtar noktalar şunlardır:
- Her kuruluşun “AI Yönetişim Hedeflerini” belirleyip belirlemeyeceğini değerlendirin
- Hedef belirlemenin gerekli olduğuna karar verildiğinde, hedefleri belirleyin
- Hedef belirlemenin gerekli olmadığına karar verildiğinde bile, mümkünse, bu gerçeği ve nedenlerini paydaşlarla makul bir kapsamda açıklayın
Sistem Tasarımı (Yapay Zeka Yönetim Sistemlerinin Kurulumu)
Japonya’da Yapay Zeka işletmecileri için hazırlanan rehber ekinde belirtilen, “Sistem Tasarımı (Yapay Zeka Yönetim Sistemlerinin Kurulumu)” uygulaması için hedef davranışlar aşağıdaki dört ana başlık altında toplanmıştır.
- Hedeflerin ve sapmaların değerlendirilmesi ile sapma durumlarına müdahalenin zorunlu hale getirilmesi
- Yapay Zeka yönetimi personelinin bilgi düzeyinin artırılması
- Farklı birimler ve departmanlar arası iş birliği ile Yapay Zeka yönetiminin güçlendirilmesi
- Kullanıcıların olaylarla ilgili yükünün önleyici ve erken müdahale ile hafifletilmesi
Japonya’da AI Yönetim Sistemlerinin Kurulumunda Hedef ve Sapmaların Değerlendirilmesi ve Zorunlu Sapma Yönetimi
“Sistem Tasarımı (AI Yönetim Sistemlerinin Kurulumu)” için belirlenen eylem hedeflerinden biri, “Hedef ve Sapmaların Değerlendirilmesi ve Zorunlu Sapma Yönetimi”dir.
Japon AI İşletmecileri Rehberi’nde şu şekilde belirtilmiştir:
Eylem Hedefi 3-1【Hedef ve Sapmaların Değerlendirilmesi, Ayrıca Zorunlu Sapma Yönetimi】
Her kurum, yönetim katmanının liderliği altında, kendi AI yönetim hedeflerinden sapmaları belirlemeli, bu sapmaların yarattığı etkileri değerlendirmeli ve risk tespit edildiğinde, bu riskin büyüklüğü, kapsamı ve sıklığı gibi faktörleri göz önünde bulundurarak, riskin kabul edilebilirliğini değerlendirmeli ve kabul edilebilir bulunmadığı durumlarda, AI’nin geliştirilmesi, sunumu ve kullanımına ilişkin yaklaşımları yeniden gözden geçirmeyi teşvik eden bir süreci, AI yönetim sisteminin tamamında ve AI sistemleri ve hizmetlerinin tasarım, geliştirme, kullanıma başlama öncesi ve sonrası gibi uygun aşamalarında entegre etmesi beklenmektedir. Yönetim katmanı, bu yeniden gözden geçirme süreci hakkında temel politikalar ve diğer stratejileri belirlerken, operasyonel katman bu sürecin somutlaştırılmasını sağlamalıdır. Ayrıca, AI yönetim hedefleriyle olan sapma değerlendirmesine, AI’nin geliştirilmesi, sunumu ve kullanımıyla doğrudan ilgili olmayan kişilerin de dahil edilmesi beklenmektedir. Bununla birlikte, sadece sapma varlığına dayanarak AI’nin geliştirilmesi, sunumu ve kullanımını keyfi olarak yasaklamak uygun değildir. Bu nedenle, sapma değerlendirmesi, riskleri değerlendirmek için bir adım olup, iyileştirme için sadece bir başlangıçtır.
Alıntı: AI İşletmecileri Rehberi Ek
Uygulama için anahtar noktalar şunlardır:
- AI sistemleri ve hizmetlerinin mevcut durumu ile “AI Yönetim Hedefleri” arasındaki sapmayı belirleyip değerlendirmek
- AI sistemleri ve hizmetlerinin kullanımıyla ilişkili riskler tespit edildiğinde, bu risklerin kabul edilebilirliğini değerlendirmek
- Kabul edilebilir bulunmayan durumlarda, geliştirme, sunum ve kullanım yaklaşımlarını yeniden gözden geçirmek ve bu süreci, uygun geliştirme, sunum ve kullanım aşamalarına ve kurum içi karar alma süreçlerine entegre etmek
- Bu eylemleri yönetim katmanının liderliğinde, kararlarının sorumluluğunu alarak ve operasyonel katmanın somutlaştırmasıyla sürekli olarak uygulamak
- Kurum içinde farkındalık oluşturmak için, belirlenen sapma değerlendirme öğelerini kurum içinde paylaşmak
AI Yönetiminde İnsan Kaynaklarının Okuryazarlığının Artırılması
AI yönetim sistemlerinin tasarımı (“Sistem Tasarımı”) için belirlenen eylem hedeflerinden bir diğeri, “AI Yönetiminde İnsan Kaynaklarının Okuryazarlığının Artırılması”dır.
Japonya’daki AI İşletmecileri Kılavuzu’nda şu şekilde belirtilmiştir:
Eylem Hedefi 3-2【AI Yönetim Sistemi İnsan Kaynaklarının Okuryazarlığının Artırılması】
Her kuruluş, yönetim katmanının liderliği altında, AI yönetim sistemini uygun bir şekilde işletmek için, dış kaynaklardan eğitim materyallerinin kullanımını da göz önünde bulundurarak, AI okuryazarlığını stratejik olarak artırmakla yükümlüdür. Örneğin, AI sistemleri ve hizmetlerinin hukuki ve etik yönlerinden sorumlu olan yöneticiler, yönetim ekipleri ve görevliler için, AI etiği ve AI’nin güvenilirliği hakkında genel okuryazarlığı artırmak amacıyla eğitimler düzenlenirken; AI sistemleri ve hizmetlerinin geliştirilmesi, sunulması ve kullanımı projelerinde görev alan kişilere sadece AI etiği değil, yapay zeka teknolojileri hakkında da eğitimler verilmelidir. Tüm çalışanlara, AI yönetim sisteminin konumlandırılması ve önemi hakkında eğitim sağlanması düşünülebilir.
Kaynak: AI İşletmecileri Kılavuzu Ek
Uygulama için öne çıkan noktalar şunlardır:
- Görev ve sorumluluklara uygun eğitim ve eğitim materyalleri kullanarak AI okuryazarlığını artırmak
- Her bir kişinin üstlendiği role uygun eğitim ve eğitim materyallerini etkin bir şekilde kullanmak
- Özellikle önemli olan AI etiği konusunda tüm çalışanların eğitim almasını sağlamak gibi yenilikçi yaklaşımlar geliştirmek
AI Yönetimini Güçlendirmek için Çeşitli Taraflar ve Departmanlar Arası İşbirliği
AI yönetim sistemlerinin kurulması için gerçekleştirilen “Sistem Tasarımı” faaliyetlerinde belirlenen hedeflerden biri, “AI Yönetimini Güçlendirmek için Çeşitli Taraflar ve Departmanlar Arası İşbirliği”dir.
Japonya’daki AI işletmecileri için hazırlanan rehberde şu ifadeler yer almaktadır:
Hedef 3-3【AI Yönetimini Güçlendirmek için Çeşitli Taraflar ve Departmanlar Arası İşbirliği】
Çeşitli taraflar, eğitimde kullanılan veri setlerinin hazırlanmasından AI sistemlerinin ve hizmetlerinin geliştirilmesine, sunulmasına ve kullanılmasına kadar olan tüm süreçleri kendi departmanlarında gerçekleştirmiyorlarsa, yönetim katmanının liderliği altında, ticari sırlar gibi konulara dikkat ederek, kendi şirketleri veya departmanları tarafından yeterince gerçekleştirilemeyen AI sistemleri ve hizmetlerinin operasyonel zorluklarını ve bu zorlukların çözümü için gerekli bilgileri açıkça belirlemeleri ve adil rekabetin korunması altında, mümkün ve makul ölçüde paylaşmaları beklenmektedir. Bu sırada, gerekli bilgi alışverişinin sorunsuz bir şekilde gerçekleşebilmesi için, taraflar arasında önceden bilgi paylaşımının kapsamı konusunda anlaşmaya varılması ve gizlilik sözleşmesi imzalanması gibi konuların değerlendirilmesi beklenmektedir.
Kaynak: AI İşletmecileri Rehberi Ekleri
Uygulama için dikkate alınması gereken noktalar şunlardır:
- Her bir tarafın kendi başına çözemediği AI sistemleri ve hizmetlerinin operasyonel zorluklarını ve çözüm için gerekli bilgileri belirlemek
- Çeşitli taraflar arasında, fikri mülkiyet hakları ve gizlilik gibi konulara dikkat ederek, mümkün ve makul ölçüde bilgi paylaşımı yapmak
※Bu uygulamalar, çeşitli yasal düzenlemeler, tarafların AI politikaları, ticari sırlar, sınırlı erişimli veriler gibi konuların yanı sıra adil rekabetin korunmasını ön koşul olarak gerektirir, bu nedenle dikkatli olunmalıdır.
Kullanıcıların İncident İle İlgili Yükünün Önleme ve Erken Müdahale İle Azaltılması
“Sistem Tasarımı (AI Yönetim Sistemlerinin Kurulumu)” uygulaması için belirlenen hedeflerden dördüncüsü “Kullanıcıların İncident İle İlgili Yükünün Önleme ve Erken Müdahale İle Azaltılması”dır.
AI İşletmecileri Rehberinde şu şekilde belirtilmiştir:
Hedef 3-4【Önleme ve Erken Müdahale İle AI Kullanıcıları ve İş Dışı Kullanıcıların İncident İle İlgili Yükünün Azaltılması】
Her bir kurumun, yönetim katmanının liderliği altında, incidentlerin önlenmesi ve erken müdahale yoluyla AI kullanıcıları ve iş dışı kullanıcıların incident ile ilgili yükünü hafifletmesi beklenmektedir.
Kaynak: AI İşletmecileri Rehberi Ek
- Sistem arızalarını, bilgi sızıntılarını, şikayetlerin ortaya çıkmasını önlemek ve meydana geldiğinde hızlı bir şekilde müdahale etmek
- Incident önleme ve erken müdahale için bir sistem kurmak
Uygulama
Agile yönetişim uygulamalarının hayata geçirilmesi için AI işletmecileri rehber ekinde belirtilen hedeflerden üçü şunlardır:
- AI yönetim sistemlerinin işletilme durumunun açıklanabilir olmasını sağlama
- Tekil AI sistemlerinin işletilme durumunun açıklanabilir olmasını sağlama
- AI yönetişiminin uygulama durumunun aktif olarak ifşa edilmesini değerlendirme
Japonya’da AI Yönetim Sistemi Operasyon Durumunun Açıklanabilirliğinin Sağlanması
“Operasyon”un gerçekleştirilmesi için belirlenen hedeflerden biri “Japonya’da AI Yönetim Sistemi operasyon durumunun açıklanabilirliğinin sağlanması”dır.
Japon AI İşletmecileri Kılavuzu’nda şu şekilde belirtilmiştir:
Hedef 4-1【Japonya’da AI Yönetim Sistemi Operasyon Durumunun Açıklanabilirliğinin Sağlanması】
Her kurum, yönetim katmanının liderliği altında, örneğin, Hedef 3-1’deki sapma değerlendirme sürecinin uygulanma durumunu kaydetmek gibi, AI Yönetim Sistemi’nin operasyon durumu hakkında ilgili paydaşlara şeffaflık ve hesap verebilirlik sağlaması beklenmektedir.
Kaynak: AI İşletmecileri Kılavuzu Ekleri
Operasyonun önemli noktalarından biri olarak, AI Yönetim Sistemi’nin operasyon durumunu ilgili paydaşlara açıklanabilir bir durumda tutmak için uygun ve mantıklı bir kapsamda hareket etmek gösterilebilir.
Japonya’da Bireysel AI Sistemlerinin İşletme Durumunun Açıklanabilirliğinin Sağlanması
AI sistemlerinin “işletilmesi” için belirlenen hedeflerden biri de “AI Yönetim Sistemi işletme durumunun açıklanabilirliğinin sağlanması”dır.
Japon AI İşletmecileri Rehberi’nde şu şekilde belirtilmiştir:
Hedef 4-2【Bireysel AI Sistemlerinin İşletme Durumunun Açıklanabilirliğinin Sağlanması】
Her kurum, üst yönetimin liderliği altında, bireysel AI sistemleri ve hizmetlerinin geçici ve tam işletim sırasında sapmaların sürekli değerlendirilmesini gerçekleştirmek için, geçici ve tam işletim durumlarını izlemeli ve PDCA döngüsünü işletirken sonuçları kaydetmelidir. AI sistemlerini geliştiren kurumlar, bu tür izlemeleri gerçekleştiren kurumları desteklemesi beklenmektedir.
Alıntı: AI İşletmecileri Rehberi Ekleri
Uygulamada dikkat edilmesi gereken noktalar şunlardır:
- Her kurumun AI işletme durumunu izlemek, PDCA döngüsünü işletirken sonuçları kaydetmek.
- Her kurumun tek başına mücadele etmesinin zor olduğu durumlarda, kurumlar arası iş birliği yapmak.
Japonya’da AI Yönetişiminin Uygulama Durumunun Aktif Açıklanması Üzerine Değerlendirme
Operasyonel hedefler arasında üçüncü olarak sıralanan, “AI yönetim sistemlerinin işletme durumunun açıklanabilir bir durumda tutulması ve Japonya’daki AI yönetişiminin uygulama durumunun aktif açıklanması üzerine değerlendirme”dir.
Japon AI İşletmecileri Rehberi’nde şu şekilde belirtilmiştir:
Hedef 4-3【Japonya’da AI Yönetişiminin Uygulama Durumunun Aktif Açıklanması Üzerine Değerlendirme】
Her kuruluş, AI yönetişim hedeflerinin belirlenmesi, AI yönetim sistemlerinin kurulması ve işletilmesi gibi konularda bilgiyi, Kurumsal Yönetim Kodu’nun finansal olmayan bilgileri arasında konumlandırarak açıklamayı değerlendirmesi beklenmektedir. Halka açık olmayan şirketler de dahil olmak üzere, AI yönetişimi ile ilgili faaliyet bilgilerinin açıklanmasını değerlendirmesi beklenir. Ve değerlendirme sonucunda, açıklama yapılmaması durumunda, bu kararın nedenleriyle birlikte paydaşlara açıklanması beklenir.
Kaynak: AI İşletmecileri Rehberi Ek
Uygulama için anahtar noktalar şunlardır:
- Şirketinizin AI’ye yönelik temel yaklaşımından, AI yönetim sistemlerinin kurulması ve işletilmesine kadar, AI yönetişimi ile ilgili bilgilerin şeffaflığını sağlamayı değerlendirin.
- AI yönetişimi ile ilgili bilgileri açıklarken, bu bilgileri Kurumsal Yönetim Kodu’nun finansal olmayan bilgileri arasında konumlandırmayı değerlendirin.
- AI yönetişimi ile ilgili bilgileri açıklamama kararı alındığında, bu durumu ve nedenlerini paydaşlarla paylaşın.
Değerlendirme
Agile Yönetişimde “değerlendirme” uygulaması için hedeflenen eylemler, AI İşletmecileri Kılavuzu’nda belirtilen iki ana başlık altında toplanmıştır:
- AI Yönetim Sisteminin işlevlerinin doğrulanması
- Dış paydaşların görüşlerinin değerlendirilmesi
AI Yönetim Sisteminin İşlevlerinin Doğrulanması
“Değerlendirme” uygulaması için belirlenen ilk hedef “AI Yönetim Sisteminin işlevlerinin doğrulanması”dır.
AI İşletmecileri Kılavuzu’nda şu şekilde belirtilmiştir:
Eylem Hedefi 5-1【AI Yönetim Sisteminin İşlevlerinin Doğrulanması】:
Her kuruluş, yönetim katmanının liderliği altında, AI Yönetim Sisteminin tasarımı ve işletilmesinden bağımsız olan ilgili uzmanlara, AI yönetişim hedeflerine göre, AI Yönetim Sisteminin uygun şekilde tasarlandığını ve işletildiğini, yani Eylem Hedefleri 3 ve 4’ün uygulanması yoluyla, AI yönetişim hedeflerine ulaşmak için AI Yönetim Sisteminin uygun şekilde işleyip işlemediğini değerlendirme ve sürekli iyileştirme yapmaları beklenmektedir.
Alıntı: AI İşletmecileri Kılavuzu
Uygulama için anahtar noktalar şunlardır:
- Yönetim katmanının, sürekli iyileştirme için değerlendirme odak noktalarını kendi sözleriyle açıklaması
- AI Yönetim Sisteminin tasarımı ve işletilmesinden bağımsız uzmanların atanması
- AI Yönetim Sisteminin uygun şekilde işleyip işlemediğinin izlenmesi
- İzleme sonuçlarına dayanarak sürekli iyileştirmelerin yapılması
Dış Paydaşların Görüşlerinin Değerlendirilmesi
“Değerlendirme” uygulaması için belirlenen ikinci hedef “Dış paydaşların görüşlerinin değerlendirilmesi”dir.
AI İşletmecileri Kılavuzu’nda şu şekilde belirtilmiştir:
Eylem Hedefi 5-2【Paydaşların Görüşlerinin Değerlendirilmesi】:
Her kuruluş, yönetim katmanının liderliği altında, paydaşlardan AI Yönetim Sistemi ve işletilmesine yönelik görüşlerini talep etmeyi düşünmelidir. Değerlendirme sonucunda, söz konusu görüşlerin uygulanmamasına karar verilirse, bunun nedenlerinin paydaşlara açıklanması beklenmektedir.
Alıntı: AI İşletmecileri Kılavuzu Eki
Uygulama için anahtar noktalar şunlardır:
- Paydaşlardan, AI Yönetim Sistemi ve işletilmesine yönelik görüşlerinin talep edilmesinin düşünülmesi
- Söz konusu görüşlerin uygulanmamasına karar verildiğinde, bunun nedenlerinin paydaşlara açıklanması
Çevresel ve Risk Yeniden Analizi
Agile Yönetişimde “Çevresel ve Risk Yeniden Analizi”nin uygulanması için belirlenen hedeflerden biri “Hedef 1-1’den 1-3’e kadar olanların zamanında yeniden uygulanması”dır.
Japonya’daki AI İşletmecileri Rehberi’nde şu şekilde belirtilmiştir:
Hedef 6-1【Hedef 1-1’den 1-3’e kadar olanların zamanında yeniden uygulanması】:
Her kuruluş, yönetim katmanının liderliği altında, Hedef 1-1’den 1-3’e kadar olanları, yeni teknolojilerin ortaya çıkışını, düzenlemeler gibi toplumsal sistemlerdeki değişiklikleri hızla anlayarak, zamanında yeniden değerlendirme, anlayışın güncellenmesi, yeni bakış açıları kazanılması gibi işlemleri gerçekleştirmeli ve buna dayanarak AI sistemlerinin iyileştirilmesi veya yeniden yapılandırılması, operasyonların geliştirilmesi beklenmektedir. Ayrıca, Hedef 5-2 uygulanırken, mevcut AI yönetim sistemleri ve operasyonlarının yanı sıra, çevresel ve risk analizini de içeren ve bu rehberde de önem verilen Agile Yönetişime uygun AI yönetişiminin tümünün gözden geçirilmesi için dışarıdan görüş alınması da düşünülmelidir.
Kaynak: AI İşletmecileri Rehberi Ek
Uygulama için anahtar noktalar şunlardır:
- Yeni teknolojilerin ortaya çıkışını, AI ile ilgili teknolojik yenilikleri, düzenlemeler gibi toplumsal sistemlerdeki değişiklikleri anlamak
- Zamanında yeniden değerlendirme, anlayışın güncellenmesi, yeni bakış açıları kazanılması gibi işlemleri gerçekleştirmek ve buna uygun AI sistemlerinin iyileştirilmesi, yeniden yapılandırılması, operasyonların değiştirilmesi gibi işlemleri yapmak
- AI yönetişim anlayışını kurum kültürü olarak benimsetmek
Japonya’da AI Yönetişimi Oluştururken Dikkat Edilmesi Gerekenler
Bunlar, “AI İşletmecileri İçin Kılavuz” temel alınarak geliştirilen çevik yönetişim yöntemine dayanan AI yönetişiminin somut yöntemleridir.
Yine de, bu yöntemler tüm AI işletmecileri için ortak olarak oluşturulmuş olup, şirketinizin hangi iş modeline uygun olduğu, hangi tür AI sistemleri veya hizmetleri sunduğu gibi faktörlere bağlı olarak her durumda ayrı ayrı düşünülmesi gerekmektedir.
Şirketiniz için hangi tür bir organizasyon veya yapıya ihtiyaç duyulduğu, hangi tür eylemlerin veya dokümantasyonun gerekli olduğu duruma göre değişiklik gösterir ve bunların gelecekteki iş avantajlarına ve dezavantajların önlenmesine nasıl katkıda bulunacağını göz önünde bulundurarak yapılması gerekmektedir.
Ayrıca, AI iş dünyasında çeşitli hukuki riskler gizlenmiştir. Bu nedenle, önlem almanın ilk aşamasından itibaren bir avukatın desteğini almanızı öneririz.
Özet: Yapay Zeka İşletmecileri Kılavuzuna Uyum için Avukatlara Başvurun
Bu makalede, Yapay Zeka İşletmecileri Kılavuzu’na uygun bir Yapay Zeka yönetişimi yapısının nasıl oluşturulacağı açıklanmaktadır.
Yapay Zeka yönetişimi yöntemleri, Yapay Zeka İşletmecileri Kılavuzu’nda detaylı bir şekilde belirtilmiştir ve yöneticiler, yönetişimin bir parçası olarak şirket içinde organizasyonlar kurmak veya yazılı belgeler hazırlamak zorundadırlar.
Hızla değişen Yapay Zeka iş dünyasında, henüz yeni oluşturulmuş ve karmaşık olan bu kılavuza uyum sağlamak büyük zorluklar içermektedir. Erken bir aşamadan itibaren, hem IT alanında hem de hukukta uzmanlaşmış profesyonellerin tavsiyelerini alarak, şirketiniz için en uygun Yapay Zeka yönetişimini oluşturmanızı öneririz.
Monolit Hukuk Bürosu’nun Önlemleri Hakkında Bilgilendirme
Monolit Hukuk Bürosu, özellikle internet ve hukuk alanlarında zengin deneyime sahip, IT ve hukuki uzmanlığı birleştiren bir hukuk firmasıdır.
AI işletmeleri birçok hukuki riski beraberinde getirir ve AI ile ilgili hukuki sorunlarda uzmanlaşmış avukatların desteği hayati önem taşır. Büromuz, AI konusunda bilgili avukatlar ve mühendislerden oluşan bir ekip ile ChatGPT dahil olmak üzere AI işletmelerine yönelik sözleşme hazırlama, iş modelinin yasallığının değerlendirilmesi, fikri mülkiyet haklarının korunması, gizlilik konularında uyum gibi ileri düzeyde hukuki destek sağlamaktadır. Aşağıdaki makalede detayları bulabilirsiniz.
Monolit Hukuk Bürosu’nun Uzmanlık Alanları: AI (ChatGPT vb.) Hukuki İşler[ja]
Category: IT
