×

AI Watch: Yapay Zeka Standardizasyon Ortamı Güncellemesi Bölüm-4


AI Watch: Yapay Zeka Standardizasyon Ortamı Güncellemesi
Avrupa Yapay Zeka Yönetmeliği bağlamında IEEE standartlarının analizi
Bölüm-4


 
[Yayım Tarihi: 23 Ocak 2025]

Aşağıdaki JRC Teknik Raporu Avrupa Birliği  web sitesindeki orjinal İngilizce versiyonundan  alınarak  ETP  Hayri Aydın   tarafından yapay zeka çeviri yazılımları kullanarak Türkçe'ye çeviri yapılmış , kontrol edilerek düzenlenmiş ve ETP Sabri Günaydın tarafından yayına alınmıştır. Rapor üç bölüm  halinde yayınlanacaktır.

Kaynak: https://publications.jrc.ec.europa.eu/repository/handle/JRC131155

(Rapor Tarihi 01.02.2024 )  Bu yayın tüm hakları saklı olmak üzere telif hakkıyla korunmaktadır. 

Avrupa Birliği Yayınlar Ofisi'nin, JRC Teknik Rapor yazarlarının Türkçe çeviri ile ilgili sorumluluğu yoktur. ETP  Türkçe çeviri ve düzenleme sorumluluğunu üstlenir.

Türkçe çeviride  göreceğiniz olası hataları " iletisim@etp.com.tr "  adresine e-posta göndermenizi rica ederiz. 

Bu raporun ETP Portalımızda yayını ile ilgili bize izin veren, destek ve kılavuz olan   Avrupa Birliği Yayınlar Ofisi'nden Mr. Brian Killeen 'e  teşekkür ederiz. 





5    Avrupa Yapay Zeka Yasası için Standartlar: IEEE ve ISO/IEC tamamlayıcılıkları

Önceki analiz, ilgili teknik alanlardaki ilgili ISO/IEC standartları ile birlikte IEEE standartlarının AI Yasası gereklilikleri ile ilgili kapsam sağladığı belirli alanları zaten tanımlamaktadır. Bu standartlardan bazılarının ISO/IEC JTC1 SC42 ortamını özellikle iyi bir şekilde tamamladığı ve Avrupa Standardizasyon Kuruluşları tarafından Avrupa bağlamında benimsenmesi için dikkate alınması gereken değerli kaynakları temsil ettiği görülmektedir. Özellikle, aşağıdaki 3 standardın çok ilgili olduğu düşünülmektedir:

-    IEEE P7003 "Algoritmik Önyargı Değerlendirmeleri Standardı". İstenmeyen önyargıların değerlendirilmesi ve azaltılması, YZ sistemlerinin tasarımındaki en temel endişelerden biridir ve yasal metinde özel bir makalenin konusu olmasa da, yüksek riskli YZ sistemleri için tüm güvenilirlik gereksinimlerini önemli ölçüde etkiler. Henüz taslak halinde olsa da, IEEE P7003, algoritmik sistemlerde önyargının kapsamlı bir şekilde ele alınmasını sağlayacak gibi  görünmektedir ve gelecekteki YZ Yasasında önyargı ile ilgili gereklilikler için öncelikli bir referans olarak düşünülmelidir. Alt bölüm 5.1, bu standardın, "YZ sistemlerinde önyargı ve YZ destekli karar verme" konulu ISO/IEC TR 24027 teknik raporu ve erken geliştirme aşamasındaki bir teknik şartname olan ISO/IEC DTS 12791 "Sınıflandırma ve regresyon makine öğrenimi görevlerinde istenmeyen önyargıların tedavisi" dahil olmak üzere ilgili ISO/IEC çalışmaları ile bir karşılaştırmasını sunmaktadır,

-    IEEE P7001/D4 "Otonom Sistemlerin Şeffaflığı için Taslak Standart". Bu standart şeffaflık, kayıt tutma ve insan gözetimi ile ilgili gereklilikleri kısmen kapsamaktadır.

Şeffaflıkla ilgili olarak, IEEE P7001 standardı, YZ Yasasının 13. Maddesindeki gereklilikleri kısmen kapsamaktadır. YZ sistemlerinin kullanıcılarını ilgili paydaşlar olarak kabul eder ve kullanım talimatları gibi ilgili şeffaflık araçlarını tanımlar. Bununla birlikte, YZ Yasası'nda kullanım talimatları için talep edilen belirli bilgi öğelerinin kapsamı eksiktir. Şeffaflık gerekliliklerinin tam kapsamının ya doğrudan Avrupa Standardizasyonu yoluyla ya da ISO/IEC AWI 12792 "YZ sistemlerinin şeffaflık taksonomisi" gibi yaklaşan ISO/IEC çalışmaları ile doldurulması gerekebilir. Bu bağlamda, YZ sistem dokümantasyonu için endüstri uygulamalarının resmileştirilmesi faydalı olabilir, çünkü bunların birçoğunun YZ yönetmeliği bağlamında ilgili olduğu bulunmuştur [11].

Kayıt tutma söz konusu olduğunda, IEEE P7001'deki kapsamı önemlidir. Çoğu yazılım sistemi için geçerli olan kayıt formatları veya kayıt tutma yaklaşımları gibi genel kaygıları kapsayan mevcut standartlar olsa da, şimdiye kadar incelenen standardizasyon ortamında, YZ'ye özgü kayıt tutma teknik özellikleri sağlayan standartların belirgin bir eksikliği vardır. Bunlar, örneğin, YZ sistem kararlarının, ara durumların ve dahili olayların kapsamlı bir şekilde kaydedilmesine ilişkin özel rehberliği içerir. Bu unsurlardan bazılarının kapsamı, IEEE P7001'i dikkate alınması gereken özellikle ilgili bir kaynak haline getirmektedir.

Son olarak, insan gözetimi de IEEE P7001'in kapsadığı bir alandır. Bu bağlamda, bu standartta yer alan ve sistemin işlevinin kullanıcılar ve operatörler tarafından anlaşılmasını sağlamaya yönelik hükümler, YZ Kanununun 14. Maddesi bağlamında doğrudan ilgilidir. Buna ek olarak, sistemin kararlarının açıklanmasıyla ilgili hususlar da bir rol oynayabilir. IEEE P7001 ve ISO/IEC TS 6254 "ML modellerinin ve YZ sistemlerinin açıklanabilirliği için hedefler ve yaklaşımlar" da sunulanlar gibi açıklanabilirlik tekniklerinin uygunluğu hakkında daha ayrıntılı bir tartışma 5.2 alt bölümde verilmiştir.

Bundan bağımsız olarak, kontrol edilebilirlik ve yapay zeka sistemlerinin çalışmasına müdahale etmek için ilgili yaklaşımlar gibi insan gözetiminin diğer yönlerinin bu spesifikasyonlarda anlamlı bir şekilde ele alınmadığı ve ISO/IEC AWI TS 8200 "Otomatik yapay zeka sistemlerinin kontrol edilebilirliği" gibi gelecekteki standartların dikkate alınmasını gerektirebileceği belirtilmelidir.

-    IEEE 7000 "Sistem Tasarımı Sırasında Etik Kaygıların Ele Alınması için Standart Model Süreci". Bu standart temelde etik tasarımla ilgilidir ve özellikle YZ yönetmeliğinin 9. Maddesindeki risk yönetimi gereklilikleri bağlamında ilgili bulunmuştur. ISO/IEC bağlamında, ISO/IEC 23894 "Yapay Zeka - Risk Yönetimi" gibi benzer şekilde olgun ve ilgili belgelerin yanı sıra ISO/IEC CD 42001 "Yapay Zeka - Yönetim sistemi" bölümlerini bulabiliriz. Bununla birlikte, IEEE 7000'in ürün tasarımı odaklı yapısı, risk değerlendirmelerini tasarım yaşam döngülerinin erken aşamalarına entegre etmek isteyen yüksek riskli yapay zeka sistemleri sağlayıcıları için özellikle yararlı olabilecek benzersiz bir bakış açısı sağlar. Ayrıca, IEEE 7000 şu anda ISO/IEC düzeyinde benimsenme sürecinden geçmektedir. Bu durum, belirlenen sınırlamaların süreç içerisinde ele  alınması koşuluyla, bu standardı YZ Yasası bağlamında gelecekte Avrupa'da benimsenmesi için dikkate alınması gereken oldukça ilgili bir standart haline getirmektedir. IEEE 7000 ve ISO/IEC 23894 arasındaki tamamlayıcılıkların daha ayrıntılı bir analizi alt bölüm 5.3'te bulunabilir.

5.1    Önyargı değerlendirmesi ve azaltımının standardizasyonu

YZ'de önyargının potansiyel olarak zararlı etkilerinin ele alınması, güvenilir YZ'nin geliştirilmesi için kilit öneme sahiptir. Aslında, YZ Yasasında önyargı teriminin kullanımı, ayrımcılık ve diğer haksız muamele farklılıkları gibi temel haklara yönelik risklerle yakından bağlantılıdır. Bu bağlamda, standartların, YZ sistemleri için gerekli ve doğal bir şey olan önyargının teknik ve tarafsız bir tanımı ile terimin yasal metinde kullanımıyla daha yakından bağlantılı olan "istenmeyen" önyargı (ISO/IEC) veya "gerekçesiz" ve "uygunsuz" önyargı (IEEE) arasında ayrım yapma eğiliminde olduğu belirtilmelidir. İncelenen tüm standartlar, bu istenmeyen önyargı biçimlerini, YZ sistemlerinin kullanımından kaynaklanan olumsuz sonuçları önlemek için hem teknik hem de teknik olmayan önlemleri içeren değerlendirme ve azaltma yaklaşımlarının hedefi olarak tanımlamaktadır.

Bunun ışığında, önyargı değerlendirme ve azaltma yöntem ve tekniklerinin, CEN-CENELEC-ETSI PWI "Güvenilirlik özelliklerine ilişkin kapsayıcı birleşik yaklaşım" gibi şu anda Avrupa Standardizasyon Kuruluşlarının yol haritasında bulunan ön çalışma öğeleri de dahil olmak üzere, YZ Yasası için Avrupa ve uyumlaştırılmış standartlarda belirgin bir şekilde ortaya çıkması beklenmektedir. Ancak, bu alandaki IEEE standardına ilişkin analizimizin de gösterdiği gibi, YZ önyargısına ilişkin Avrupa standardizasyon çalışmalarının sıfırdan başlaması gerekmemektedir. Aslında, IEEE 7003, henüz tamamlanmamış olsa da, algoritmik sistemlerde önyargı tanımlama, değerlendirme ve azaltma konusunda kapsamlı bir kapsam sağlama yolunda ilerlemektedir ve YZ sağlayıcıları için sistemlerinin karar vermede istenmeyen, gerekçesiz veya kabul edilemez önyargılar getirmesini önlemek için yararlı bir kaynak teşkil etmektedir. Ayrıca, bu spesifikasyon ISO/IEC düzeyinde YZ önyargısı üzerine mevcut ve devam eden çalışmalarla iyi bir şekilde eşleşmektedir. Örnek olarak ISO/IEC DTR 24027 "YZ sistemlerinde önyargı ve YZ destekli karar verme", kural koyucu bir belge olmamakla birlikte, IEEE çalışmasının tamamlanabileceği somut bir yön olan bunları değerlendirmek ve tedavi etmek için somut yöntemler ve ölçütler de dahil olmak üzere YZ'deki istenmeyen önyargı kaynaklarının kapsamlı bir tanımını sunar. ISO/IEC 12791 "Sınıflandırma ve regresyon makine öğrenimi görevlerinde istenmeyen önyargıların tedavisi" bağlamında, ISO/IEC 24027 üzerine inşa edilen ve makine öğrenimine odaklanan yakın zamanda başlatılan bir teknik şartname kapsamında daha fazla ilgili materyalin geliştirilmesi beklenmektedir. Bu aşamada, ISO/IEC 12791 bir taslaktan biraz daha fazlasını içermektedir, ancak YZ Yasası tarafından talep edildiği gibi, operasyonlar ve pazar sonrası izleme ve hatta YZ sisteminin emekliye ayrılması gibi dağıtımdan sonraki aşamaları ele alarak, istenmeyen yanlılığı tedavi etmek için tüm YZ sistemi yaşam döngüsü boyunca uygulanacak standart azaltma teknikleri sağlamayı amaçlamaktadır.

Buna ek olarak, IEEE ve ISO/IEC'nin önyargı konusundaki çalışmaları arasındaki tamamlayıcılık, bu standartların içeriğinin ötesine geçerek, önyargı hususlarını paydaşlara sunma yapılarına kadar uzanabilir. Bu anlamda, ISO/IEC çalışması, istenmeyen önyargı kaynaklarını YZ sisteminde nereden kaynaklandıklarına göre kategorize eder: bireyler, veriler veya mühendislik süreçleri ve belirli YZ yaşam döngüsü aşamasına bağlı olarak en ilgili önyargı kaynaklarını belirlemek için doğal olarak kullanılabilir. Öte yandan IEEE, sınıflandırma kriteri olarak ihmal veya çarpıklık gibi istenmeyen önyargılara neden olan mekanizmalara odaklanmaktadır. IEEE 7003, farklı önyargı kaynaklarını anlamak, değerlendirmek ve azaltmak için kapsamlı bir katalog ve kontrol listesi olarak özellikle yararlıdır. Sırasıyla YZ yaşam döngüsüne ve önyargı mekanizmalarına odaklanan hem ISO hem de IEEE perspektifleri, yüksek riskli YZ sistemleri sağlayıcıları için değerlidir. Her ikisi de, önyargının toplumsal faktörlere olduğu kadar hesaplama faktörlerine de bağlı olduğu gerçeği gibi temel konularda hemfikirdir ve her ikisi de metodolojilerin belirli durumlara ve YZ sistemlerinin kullanım bağlamlarına göre ayarlanması gerektiğini vurgulamaktadır.

Sonuç olarak, IEEE 7003, Bölüm 4'te sunulan incelemede ana hatlarıyla belirtildiği gibi konunun geniş bir kapsamını sağlayarak, önyargı ile ilgili YZ Yasası gerekliliklerinin standartlaştırılması için çok uygun bir kaynak olarak düşünülmelidir. Ayrıca, bu standart, örneğin YZ yaşam döngüsünün somut adımlarında önyargının tanımlanması için daha fazla rehberlik sağlaması açısından, gelecekteki ISO/IEC belgeleri ile potansiyel olarak tamamlanabilir.

5.2    Yapay zeka şeffaflığı ve açıklanabilirlik standartlarının rolü

YZ Kanunu'nun 13. ve 14. Maddeleri, yüksek riskli YZ sistemlerinin kullanıcılarının, uygun kullanım ve insan gözetimi sağlamak amacıyla çıktılarını yorumlayabilmelerini öngörmektedir. Gerçekten de, bir YZ sisteminin şeffaflığı, kullanıcıların çıktılarını uygun şekilde anlaması ve kullanması ve ayrıca çalışmasını denetlemesi için çok önemlidir. Bu amaçla, açıklanabilir YZ alanı, YZ sistemlerinin anlaşılmasını ve gözetimini destekleyen ilgili teknikler üretmiştir. Bununla birlikte, açıklanabilirlik teknikleri, YZ sistem çıktılarını anlamak ve yorumlamak için mevcut olan tek araç değildir ve bu nedenle, her yüksek riskli YZ sisteminin açıklanabilir olması bir gereklilik değildir (ve belki de teknik olarak mümkün değildir).

Buna uygun olarak IEEE P7001, ilk iki seviyede kullanıcılara bilgi sağlanmasına yönelik Madde 13 gereklilikleriyle uyumlu dokümantasyon yaklaşımları, senaryolar, operasyon ilkeleri ve interaktif eğitim materyallerini göz önünde bulundurarak artan bir karmaşıklık ve karmaşıklık aralığına sahip şeffaflık seviyeleri tanımlamaktadır. Bu ilk seviyelerde, özellikle alan uzmanı kullanıcılar ve süper kullanıcılar için öngörülen bazı yaklaşımlar, sağlanan materyalin sistemle etkileşimlerin provasına izin vermesini ve güvenli işletim ve denetim hususlarını içermesini açıkça talep ettiğinden, insan gözetimine ilişkin Madde 14 gerekliliklerinin yerine getirilmesiyle de ilgilidir.

IEEE çalışmasında tanımlanan daha yüksek şeffaflık seviyeleri, bu yazının yazıldığı sırada aktif bir araştırma alanı olan açıklanabilir YZ alanının bir parçasıdır. Açıklanabilir YZ teknikleri, tüm yüksek riskli YZ sistemleri için kesin bir gereklilik olmasa da, yüksek derecede YZ şeffaflığı sağlayacak ve insan gözetimini büyük ölçüde destekleyecektir. Gerçekten de, YZ modeli karar verme sürecinin güvenilir bir açıklamasına sahip olmak, sistemi denetleyen insanın Madde 14'te istendiği gibi "herhangi bir özel durumda yüksek riskli YZ sistemini kullanmamaya veya başka bir şekilde yüksek riskli YZ sisteminin çıktısını göz ardı etmeye, geçersiz kılmaya veya tersine çevirmeye karar verebilmesini" sağlamanın en etkili yollarından biri olabilir. Bununla birlikte, açıklanabilir YZ alanı hala emekleme aşamasındadır ve YZ ürünlerine güvenilir bir şekilde entegre edilmesi için daha fazla araştırmaya ihtiyaç vardır. Şu anda, açıklanabilir YZ'de standardizasyona uygun, yani genel olarak iyi uygulama olarak kabul edilen teknikler gibi birkaç son teknoloji yaklaşım olabilir. Bu durumun, mevcut standardizasyon çalışmalarında tanımlanan bazı yüksek şeffaflık seviyelerinin pratikte elde edilmesini zorlaştırması beklenmektedir. Bu sınırlama kesinlikle analiz edilen IEEE standardı için geçerli olmakla birlikte ISO/IEC TS 6254 "Makine öğrenimi modellerinin ve yapay zeka sistemlerinin açıklanabilirliği için hedefler ve yaklaşımlar" gibi benzer ISO/IEC çalışmaları için de geçerlidir. Bu teknik şartname, YZ sisteminin davranış çıktısı ve sonuçları ile ilgili farklı paydaşların açıklanabilirlik hedeflerine ulaşmak için kullanılabilecek yaklaşımları ve yöntemleri tanımlamakta ve mevcut yaklaşımları kategorize etmek için bunları kullanarak açıklanabilirliğin çeşitli özelliklerini (açıklama ihtiyaçları, biçimi, yaklaşımları ve teknik kısıtlamaları) tanımlamaktadır. Bununla birlikte, ISO/IEC TS 6254'ün incelenen versiyonunun önemli bir sınırlaması, kapsadığı metodolojilerin teknolojik olgunluğunu ve bilinen sınırlamalarını tartışmaması veya karşılaştırmamasıdır. Gerçekten de, belgede vurgulandığı gibi: "bir dizi açıklanabilirlik yöntemi için, sağladıkları açıklamaların YZ sisteminin nihai karara nasıl ulaştığını temsil edip etmediği hala açık bir araştırma sorusudur". Bu, ISO/IEC TS 6254'te sunulan açıklanabilir YZ metodolojileri tarafından sağlanan bazı açıklamaların güvenilir olmayabileceği, yani YZ sisteminin gerçek karar verme sürecini yansıtmayabileceği anlamına gelir. ISO/IEC TS 6254'te tartışılması gereken bazı açıklanabilir YZ metodolojilerinin bilinen diğer sınırlamaları şunlardır: açıklamaların kararlılık ve sağlamlık eksikliği (yani, bir metodolojinin farklı çalışmalarının aynı örnek için farklı açıklamalar sağlayabileceği gerçeği), açıklama anlaşılabilirliğinin eksikliği ve YZ açıklamalarının otomasyon önyargısı üzerindeki olumsuz etkisi.

Buna rağmen ve açıklanabilir YZ teknolojilerinin birçok önemli yönü açık araştırma soruları olsa da, uzman paydaşların mevcut sınırlamalarını anlamaları yararlı olabilir. YZ geliştiricileri gibi bu paydaş grubu, açıklanabilir YZ'yi modelin geliştirme aşamasında, örneğin bir hata ayıklama aracı olarak veya model yaşam döngüsü boyunca akıl sağlığı kontrolleri yapmak için kullanabilir. Aslında, açıklanabilir YZ teknikleri modelin sağlamlığını ve doğruluğunu test etmek için yardımcı olabilir ve bu nedenle YZ Yasasının 15. Maddesi bağlamında bir rol oynayabilir. Bu husus, ISO/IEC TS 6254'ün açıklanabilirlikle ilgili düşüncelerinde de yansıtılmaktadır: "sistem testi sırasında belirli bir sistem davranışını açıklayabilmek, YZ geliştiricilerinin sistemde hata ayıklamasına yardımcı olur".

Bunu göz önünde bulundurarak, uzman kullanıcıları hedefleyen açıklanabilir YZ metodolojilerinin standartlaştırılması, YZ Kanununun 15. Maddesi bağlamında faydalı olabilir ve şu anda ESO'lar tarafından gelecek çalışmalarda ele alınması beklenmektedir, örneğin CEN-CENELEC-ETSI PWI "Güvenilirlik özelliklerine ilişkin kapsayıcı birleşik yaklaşım". Önyargı konusunda olduğu gibi, insan gözetimi ve açıklanabilir yapay zeka konusundaki çalışmaların sıfırdan başlamasına gerek yoktur. ESO'lar, daha önce tartışılan kayıt tutma konusuna ek olarak, şeffaflık ve insan gözetimi bağlamında IEEE P7001'in teknik içeriğini benimsemeyi düşünmelidir. Bu, YZ Yasası ile uyumlu gerçekçi şeffaflık gereksinimlerine öncelik verilmesini sağlamayı amaçlayan uyarlamalar gerektirebilir. Avrupalı standart belirleyiciler, ISO/IEC TS 6254'ü de gelecekte ilgili  bir referans olarak değerlendirmelidir. Aslında, bu belgenin kapsamı IEEE P7001 ile oldukça tamamlayıcı görünmektedir: IEEE standardı, şeffaflık arzularını, bunlara nasıl ulaşılacağını tanımlamadan ortaya koyarken, ISO/IEC spesifikasyonu, bunlardan bazılarını karşılayabilecek açıklanabilir YZ metodolojilerini tanımlamaktadır. Bu anlamda, ISO/IEC TS 6254, YZ geliştiricileri için çok bilgilendirici olabilecek bir açıklanabilirlik teknikleri kataloğu sunmaktadır. Bununla birlikte, YZ Yasasını desteklemek için benimsenmesi, somut paydaşlar (örneğin geliştiriciler ve/veya kullanıcılar) için olgunluklarının, hazır olma durumlarının ve katma değerlerinin gerçekçi bir değerlendirmesini içermelidir. Ve en önemlisi, açıklanabilirlik yöntemlerinin standartlaştırılması, insan gözetimi bağlamındaki diğer ilgili standartlaştırma çalışmalarının ihmal edilmesine neden olmamalıdır.   Mevcut yapay zeka standardizasyon ortamında yeterince temsil edilmediği görülen bazı ilgili alanlar,    daha basit olsa ve açıklamalara dayanmasa bile, kullanıcıların YZ çıktılarını yorumlamasını desteklemek için olgun, test edilmiş ve sağlam yöntemleri kapsayan teknik özellikler ve YZ sistemlerinin kontrol edilebilirliği gibi diğer insan gözetimi hususları yer almaktadır.

5.3    Risk yönetimi ve etik tasarım süreçleri

YZ risk yönetimi, kuruluşların risk yönetimini YZ ile ilgili faaliyetlerine entegre etmeleri için kılavuzlar sağlayan ISO/IEC DIS 23894 gibi ISO/IEC düzeyinde mevcut standartların kapsadığı bir alandır. ISO 31000 tarafından sağlanan risk yönetimi yönergeleri üzerine inşa edilmiş ve bunları YZ'ye özgü hususlarla tamamlamıştır. ISO/IEC 23894'te açıklanan genel risk yönetimi çerçevesi, YZ kullanarak ürün geliştiren kuruluşlar tarafından benimsenebilir ve ürünün yaşam döngüsü boyunca sistematik olarak uygulanabilecek bir risk tanımlama, analiz ve değerlendirme hattını tanımladığı için genel olarak YZ yönetmeliğinin 9 (2) Maddesinin gereklilikleriyle uyumludur. ISO/IEC 23894'ün ISO 31000'e ek olarak sağladığı YZ'ye özgü hususlar ve kılavuzlar, YZ'yi benimseyenlerin ve sağlayıcıların neleri dikkate alması gerekebileceğine dair faydalı örnekler içermektedir. Eklerde, YZ risk kaynaklarının ön listesi veya risk yönetimi sürecinin YZ yaşam döngüsüne haritalanması gibi daha fazla ilgili bilgilendirici içerik bulunabilir. Bununla birlikte, ISO/IEC 23894'ün içeriği çoğunlukla bilgilendiricidir, bu da yararlı kılavuzlar ve ilkeler sağlayan ancak uyumluluk değerlendirmesine tabi olabilecek resmi şartname açısından hafif bir belge ile sonuçlanır. Ayrıca, bu belgenin odak noktası, kuruluşların karşılaştığı riskleri yönetme konusunda rehberlik sağlamaktır ve bu nedenle, YZ yönetmeliğinin 9. Maddesinde tanımlandığı gibi, örneğin yüksek riskli bir YZ sistemi içeren somut bir ürün geliştirme faaliyeti bağlamında risk yönetimi için özel olarak tasarlanmamış gibi görünmektedir.

Risk yönetiminin tamamlayıcı bir ürün odaklı görünümü, kullanım bağlamını göz önünde bulundurarak bir YZ sisteminin tasarımında etik değerleri ve riskleri sistematik olarak dikkate almak ve ele almak için bir süreci detaylandırdığı için IEEE 7000 standardı tarafından sağlanabilir. Süreç, ilk ürün tasarımı ve geliştirme aşamalarını kapsar ve YZ teknolojisinin bireylerle etkileşimlerinin yanı sıra etkilerini de dikkate alan uygun etik gereksinimlerin tanımlanmasıyla sonuçlanır. Bu etik gereksinimler, YZ sisteminde uygulanabilecek ve test edilebilecek somut özelliklere ve kontrollere yol açan teknik gereksinimler gibi diğer gereksinimlerle birlikte yönetilebilir, değerlendirilebilir ve doğrulanabilir. Bu, YZ Yasası'nın gerekliliklerinin yanı sıra iyi kurulmuş sistem mühendisliği uygulamaları ile uyumlu risk tabanlı bir tasarım süreciyle etkili bir şekilde sonuçlanır. Bu nedenle, bu standardı çok çeşitli YZ sağlayıcıları tarafından kullanılan mevcut geliştirme süreçleriyle entegre etmek mümkün olmalı ve somut, sistematik geliştirme süreçlerine ihtiyaç duyan farklı sektörlerde ve farklı boyutlarda yüksek riskli YZ sistemleri geliştiricileri için değerli bir girdiyi temsil etmelidir. Sonuç olarak, Avrupa Standardizasyon kuruluşları, YZ Yasasının ihtiyaçlarına uygunluğunu garanti ederken, bu standardın entegrasyonunu düşünebilir. Bu, diğer şeylerin yanı sıra, tasarıma yansıtılacak değerler açısından şu anda tarafsız olan standardın, Avrupa değerlerine ve YZ Yasasında vurgulanan belirli YZ risklerine ve korunan çıkarlara, yani bireylerin sağlığı, güvenliği ve temel haklarıyla ilgili olanlara öncelik vermesini sağlamayı gerektirecektir.

Bu ve güçlü süreç yönelimi ve YZ tasarım ve geliştirme yaşam döngüsünün kısmi kapsamı gibi diğer nedenlerden dolayı, IEEE 7000 standardı yasal metindeki tüm risk yönetimi gereksinimlerini tek başına karşılayamaz. Gerekli bazı tamamlayıcı unsurlar, somut YZ risk kaynaklarını kapsayan ve bunların değerlendirilmesi ve azaltılması için kontrol listeleri ve kılavuzlar sağlayan teknik şartnamelerdir. Bunlar da şu anda ISO/IEC 23894 tarafından sağlanmamaktadır ve bu da yüksek riskli YZ sistemleri için farklı gereksinimler arasındaki etkileşimlerin ayrıntılı bir şekilde ele alınması, artık risklerin iletişimi ve tedavisi veya bir risk yönetimi süreci bağlamında YZ sistemlerini test etmek için gerekli kapsam, prosedürler ve değerlendirme ölçütlerinin tanımı gibi Madde 9'un diğer temel unsurlarından yoksundur. Yukarıda belirtilen tüm eksik yönlerin, yakın zamanda ESO düzeyinde önerilen CEN-CENELEC-ETSI PWI "Risk kataloğu ve risk yönetimi" gibi yeni Avrupa standardizasyon çalışmaları tarafından kapsanması beklenmektedir.

6    Tartışma

YZ standardizasyonuna ilişkin mevcut IEEE belgelerinin sadece nispeten küçük bir örneğini içermesine rağmen, analizimiz YZ Yasası kapsamındaki yüksek riskli YZ sistemleri için gereksinimlerin çoğunu kısmen kapsayan önemli miktarda içerik belirlemiştir. Bu durum Şekil 1'de gösterilmektedir; burada farklı tonlar, YZ Yasası standardizasyon ihtiyaçlarına göre her bir belgenin nitel analizi yoluyla uzmanlar tarafından atanan puanları göstermektedir. Bu puanlar, yasal metindeki ilgili maddelerin kapsamının hem genişliğini hem de derinliğini dikkate almaktadır. Bununla birlikte, bu değerlerin, bu standartların uygunluğunun yalnızca yaklaşık bir ölçüsünü sağladığı unutulmamalıdır. Örneğin, yasal metinde tek bir madde tarafından kapsanmayan, ancak yönetmelikteki yüksek riskli YZ sistemleri için gereklilikler boyunca yaygın olan önyargı ile ilgili riskler gibi YZ sistemlerinin temel teknik hususları vardır. Sonuç olarak, bu hususları kapsayan teknik şartnameler, bireysel gerekliliklerde daha düşük ilişkili puanlara sahip olabilir, ancak yine de kritik standardizasyon ihtiyaçlarını karşılayabilir. Ayrıca, münferit standartlar ve belgelendirme kriterleri, bazı durumlarda maddeleri kısmen çoğu veya tüm gerekliliklere değinen hususlar içerse bile, yalnızca kapsanan ana yasal gerekliliklere göre değerlendirilmiştir. Nispeten küçük kapsamları nedeniyle analizde dikkate alınmayan gereklilikler Şekil 1'de beyaz tonlar olarak gösterilmiştir. Bu hususlar göz önünde bulundurulduğunda, okuyucunun sadece bu puanlara güvenmemesi, bunları bir rehber olarak alması ve bölüm 4 ve 5'te sunulan münferit standartların tam analizine başvurması tavsiye edilir.

İncelenen iki belge türü, yani standartlar ve belgelendirme kriterleri, doğaları gereği çok farklıdır. Standartlar, daha güçlü bir derinlik ile dar bir dizi gereksinim ve endişeye odaklanma eğilimindedir. İncelenen tüm standartlar olgunlaşmış, geniş bir YZ sistemleri yelpazesine uygulanabilir ve YZ yönetmeliğinin yatay doğası ile iyi uyumludur. Çoğunlukla süreç odaklı spesifikasyonlardır ve YZ Yasası ile ilgilidirler. Özellikle, oldukça değerli 3 standart belirledik: IEEE 7000 -veya ISO/IEC tarafından planlanan kabulünden sonra yakında çıkacak olan ISO/IEC/IEEE 24748-7000- Sistem Tasarımı Sırasında Etik Kaygıların Ele Alınması için Standart Model Süreci; Otonom Sistemlerin Şeffaflığı için IEEE P7001/D4 Taslak Standardı; ve Algoritmik Önyargı Hususları için IEEE P7003/D1 Taslak Standardı.

Bölüm 5'te tartışıldığı gibi, bu belgelerin bazıları tarafından sağlanan teknik özellikler, ISO/IEC ortamını tamamlayarak, yüksek riskli YZ sistemleri için YZ Yasası gerekliliklerinin operasyonel hale getirilmesini destekleyecektir. Bir bütün olarak benimsemenin ileriye dönük en etkili yol olmayabileceği bazı durumlarda, analizimiz gelecekteki Avrupa şartnamelerine entegre edilecek ilgili içeriğin seçimini kolaylaştırabilir. Ayrıca, bu içeriğin Avrupa YZ Yasası merceğinden tamamlanması gereken somut yönleri de belirledik. Bunlar arasında YZ'ye özgü risklerle ve en son tekniklerle daha güçlü bağlantılar kurmak, YZ güvenilirliğini ölçmek için somut ölçütler sağlamak veya bazı durumlarda tam YZ sistem yaşam döngüsünün kapsamını sağlamak yer almaktadır. Bu öneriler, Bölüm 4'teki ayrıntılı analizimizin bir parçası olarak ele alınmıştır. Buna ek olarak, ISO/IEC'nin diğer standartları ile tamamlayıcılıklar göz önünde bulundurulduğunda, kullanılan terminolojinin, örneğin risk, şeffaflık ve önyargı ile ilgili belirli terimlerle ilgili olarak uyumlaştırılması da gerekecektir.

 

 
Şekil 1 Analiz edilen standartlar ve belgelendirme kriterleri tarafından sağlanan yasal gerekliliklerin kapsamına genel bakış


Belgelendirme kriterleri belgeleri standartlardan daha geniştir ve uygunluk değerlendirme paydaşlarını hedefler. Bu nedenle, istenen sonuçlara ulaşmak için somut yöntemler ve süreçler hakkında daha az derinlikli ve kapsamlı ayrıntılar içermese de, yasal metindeki çoğu maddeden unsurları kapsayan geniş sonuç odaklı gereklilikler ve kanıtlar içerirler. Kapsamlılıkları göz önüne alındığında, yasal gerekliliklerin çoğunu veya tamamını puanlama eğilimindedirler, ancak aynı zamanda AI Yasasının mevcut kapsamı dışında kalan birçok kriteri de içerirler.

Buna rağmen, belgelendirme kriterleri süitlerinde açıklanan kanıtlar, uygunluk değerlendirmesi için bir temel olarak yasal metinde açıklanan kalite yönetim sistemi ve teknik dokümantasyon ile uyumludur. Bu nedenle, bu kriterlerin bir alt kümesinin uygun şekilde seçilmesi ve birleştirilmesi, yüksek riskli YZ sistemlerinin değerlendirilmesi için bir temel oluşturabilir. Doğal olarak, bu, seçilen unsurların YZ yönetmeliğini destekleyen gelecekteki standartların içeriği ile önceden dikkatli bir şekilde uyumlaştırılmasını gerektirecektir; bu, şu anda birçoğu hala gelişimin erken aşamalarında olduğu için zor olabilecek bir şeydir. Bununla birlikte, bu belge boyunca, bu sertifikasyon paketlerini YZ Yasası bağlamında daha etkili hale getirmek ve gelecekteki YZ yönetmeliğine uygunluğun doğrulanması için uygulanabilir yöntemlere duyulan ihtiyaca katkıda bulunmak için bazı önerilerde bulunulmuştur. Somut öneriler arasında, talep edilen kanıtların nasıl değerlendirileceği ve ölçüleceği konusunda daha fazla ayrıntı sağlanması ve bazılarının daha somut ve nesnel bir şekilde belirtilmesi yer almaktadır. Bu hususun pratik deneyimlere dayalı olarak daha da geliştirilmesi ve uyarlanması beklenmektedir. Bir diğer önemli husus, kriterleri belirli YZ sistemlerinin özelliklerine ve YZ sistemi sağlayıcısının kuruluşunun büyüklüğü ve kaynaklarına göre seçmek ve eşleştirmek için bir sürecin tanımlanması olacaktır.

Halen geliştirilme aşamasında oldukları göz önüne alındığında, IEEE tarafından bu sertifikasyon kriterleri etrafında planlanan gelecekteki yinelemeler ve ek dokümantasyon ve sertifikasyon programları bu noktaların çoğunu ele alabilir. Gerçekten de, bu incelemenin yapılmasından bu yana, IEEE, yapay zeka ürünlerinin toplumsal etkisini keşfetmeyi ve ilgili kriter paketlerinin uygun bir seçimini üretmeyi amaçlayan bir zarar-fayda analizi de dahil olmak üzere sertifikasyon kriterleri için bir uygulama konsepti olan certifAIed sertifikasyon programını kullanıma sunmuştur. Sertifikasyon süreci, ikili başarılı/başarısız kararlarıyla sınırlı olmayan, ancak değerlendiricilerin iyileştirme için önerilerde bulunmasına olanak tanıyan bir değerlendirmenin temeli olarak standartlaştırılmış bir Etik Durum dokümantasyonu öngörmektedir. YZ Yasası bağlamında, bu yaklaşım gelecekte ECPAIS kriterlerini sadece uygunluk değerlendirmesi bağlamında değil, aynı zamanda sağlayıcıların YZ ürünlerindeki etik riskleri ele almak için sürekli ve yinelemeli bir süreç uygulamaları için bir süreç olarak da ilgili hale getirebilir. Çok çeşitli kullanım durumlarına ve alanlarına uygulanma ve uyarlanma potansiyeli göz önüne alındığında, sertifikasyon materyalinin tamamı gelecekteki bir incelemenin konusu olabilir.

Toplu olarak, incelenen standartlar ve sertifikasyon kriterleri, YZ Yasasında tanımlanan yüksek riskli YZ sistemleri için, önyargı ile ilgili risklerin ele alınması, uygun insan gözetiminin sağlanması veya kayıt tutma mekanizmalarının uygulanması gibi uluslararası standartların nispeten az olduğu gözlemlenenler de dahil olmak üzere, gereklilikleri önemli ölçüde kapsamaktadır. Bu bağlamda ve olgunluk seviyeleri göz önüne alındığında, IEEE standartlarının ISO/IEC standardizasyon ortamını uygun bir şekilde tamamladığı görülmektedir.


7    Sonuçlar

Bu raporda, IEEE Standartlar Birliği'nin çeşitli YZ standartları ve sertifikasyon kriterleri paketlerinin derinlemesine bir analizini sunuyoruz. Bu analiz, Avrupa Komisyonu'nun Ortak Araştırma Merkezi'nden Güvenilir YZ alanında uzman bir grup tarafından, bu spesifikasyonların YZ Yasası bağlamında Avrupa standardizasyon ihtiyaçlarını ne ölçüde karşıladığını değerlendirmek amacıyla gerçekleştirilmiştir.

Genel olarak, incelenen belgelerin, yasal metinde tanımlanan gerekliliklere uymada yüksek riskli YZ sistemleri sağlayıcılarını destekleyebilecek ilgili teknik ayrıntıları sağladığı görülmüştür. Daha da önemlisi, incelenen şartnamelerin bazıları, önceki analizler tarafından standardizasyon boşlukları olarak işaretlenen somut teknik alanlara odaklanmakta, bu da onları YZ yönetmeliği için Avrupa ve uyumlaştırılmış standartların tanımı için potansiyel olarak değerli kaynaklar haline getirmektedir.

Bu standartların sağlanması, Avrupa Komisyonu'ndan gelen bir talebin alınması ve kabul edilmesi üzerine, Avrupa Standardizasyon Kuruluşlarının görevidir. Bu kuruluşlar kendi kapasiteleri dahilinde, mevcut şartnamelerden faydalanabilir ve gerektiğinde bunları Avrupa düzenleyici bağlamına uyarlayabilirler. YZ konusundaki mevcut uluslararası çalışmalardan yararlanmanın, YZ Yasası için gerekli standartları geliştirmenin, çabaların tekrarlanmasını önlemenin ve YZ sağlayıcıları tarafından geniş çapta benimsenmesini kolaylaştırmanın etkili bir yolu olması beklenmektedir. Avrupa bağlamında benimsenmesi için ilgili YZ standartlarının birincil kaynağı, mevcut işbirliği anlaşmalarıyla kolaylaştırılan bir süreç olan ISO/IEC'dir. Bununla birlikte, IEEE Standartlar Birliği gibi diğer önde gelen SDO'larla da benzer düzenlemeler mümkündür. Nitekim, dijital egemenlik gibi konularda ortaklaşa çalışmak üzere CEN-CENELEC, IEEE ve diğer standart belirleyicileri içeren çalıştay anlaşmalarının başlatılması da dahil olmak üzere bu yönde olumlu gelişmeler olmuştur. Bir başka önemli gelişme de IEEE ve ISO/IEC JTC1 SC42 arasında bir kategori-A irtibatının yeniden kurulmasıdır; bu da CEN ve CENELEC ile yapay zeka standardizasyonu konusunda işbirliği için daha fazla fırsat yaratabilir.

Bunları, IEEE ve Avrupa standart belirleyicileri arasındaki bağları güçlendiren, IEEE Standartlar Birliği tarafından Güvenilir Yapay Zeka konusunda üstlenilen önemli çalışmalardan yararlanmayı ve bunları Avrupa bağlamına uyarlamayı amaçlayan gelecekteki olası işbirliklerinin önünü açan ve Yapay Zeka Yasasını desteklemek için teknik şartnameler sağlamaya yönelik devam eden önemli çabalara daha fazla ivme kazandıran umut verici adımlar olarak görüyoruz.






Bu yayın, Avrupa Komisyonu'nun bilim ve bilgi servisi olan Ortak Araştırma Merkezi (JRC) tarafından hazırlanan bir Teknik rapordur. Avrupa politika oluşturma sürecine kanıta dayalı bilimsel destek sağlamayı amaçlamaktadır. Bu yayının içeriği Avrupa Komisyonu'nun pozisyonunu veya görüşünü yansıtmak zorunda değildir. Ne Avrupa Komisyonu ne de Komisyon adına hareket eden herhangi bir kişi bu yayının kullanımından sorumlu değildir. Bu yayında kullanılan ve kaynağı ne Eurostat ne de diğer Komisyon hizmetleri olan verilerin altında yatan metodoloji ve kalite hakkında bilgi almak için, kullanıcılar atıfta bulunulan kaynakla irtibata geçmelidir. Kullanılan tanımlamalar ve planlardaki maddelerin sunumu, Avrupa Birliği'nin herhangi bir ülke, bölge, şehir veya alanın veya yetkililerinin yasal statüsü veya sınırlarının veya sınırlarının sınırlandırılması ile ilgili herhangi bir görüşün ifadesi anlamına gelmez.

İletişim bilgileri

İsim: Josep Soler Garrido
Adres: Sevilla Edificio EXPO, Avda Inca Garcilaso sn, 41092 Seville,
İspanya E-posta: josep.soler-garrido@ec.europa.eu

AB Bilim Merkezi
https://joint-research-centre.ec.europa.eu



Referanslar

[1]    Avrupa Komisyonu, "Yapay Zekâya ilişkin uyumlaştırılmış kuralları belirleyen (Yapay Zekâ Yasası) ve bazı birlik yasama tasarruflarını tadil eden bir Avrupa Parlamentosu ve Konsey Tüzüğü Teklifi", 2021.


[2]    Avrupa Komisyonu, "Yeni yasal çerçeve," [Çevrimiçi]. Mevcut: https://ec.europa.eu/growth/single- market/goods/new-legislative-framework_en. [Erişim tarihi 23 03 2022].

[3]    Avrupa Komisyonu, "Avrupa Standardizasyonunda Kilit Oyuncular," [Çevrimiçi]. Mevcut: https://ec.europa.eu/growth/single-market/european-standards/key-players-european-standardisation_en. [Erişim tarihi 23 03 2022].

[4]    Uluslararası Standardizasyon Örgütü (ISO); Avrupa Standardizasyon Komitesi (CEN),
ISO ve CEN arasındaki teknik işbirliğine ilişkin anlaşma (Viyana Anlaşması).

[5]    (IEC), Uluslararası Elektroteknik Komisyonu; (CENELEC), Avrupa Elektroteknik Standardizasyon Komitesi, Yeni çalışmaların ortak planlanması ve paralel oylamaya ilişkin IEC - CENELEC Anlaşması (Frankfurt Anlaşması).

[6]    S. Nativi ve S. De Nigris, "AI Watch, AI standardizasyon ortamının durumu ve bir AI düzenleyici çerçeve için EC önerisine bağlantı," Ortak Araştırma Merkezi (Avrupa Komisyonu), 2021.

[7]    StandICT.eu, "TWG AI Raporu: Yapay Zekâ Standartlarının Görünümü," 2021.

[8]    "Güvenli ve güvenilir yapay zekâyı desteklemek için Avrupa Standardizasyon Kuruluşlarına taslak standardizasyon talebi," 2022. [Çevrimiçi]. Mevcut: https://ec.europa.eu/docsroom/documents/52376.


[9]    "ISO/IEC Joint Technical Committee 1 / Subcommittee 42 (Artificial intelligence)," [Çevrimiçi]. Mevcut: https://www.iso.org/committee/6794475.html. [Erişim tarihi 23 03 2022].

[10]    "IEEE Standartlar Birliği," [Çevrimiçi]. Mevcut: https://standards.ieee.org/. [Erişim tarihi 23 03 2022].

[11]    I. Hupont, M. Micheli, B. Delipetrev, E. Gómez ve J. Soler Garrido, "Documenting high-risk AI: an European regulatory perspective," TechRxiv, 2022.


AB Bilim Merkezi
https://joint-research-centre.ec.europa.eu


Kısaltmalar ve tanımlar listesi

A/IS             Otonom ve Akıllı Sistemler 
CEN            Avrupa Standardizasyon Komitesi
CENELEC  Avrupa Elektroteknik Standardizasyon Komitesi
EC              Avrupa Komisyonu
ECPAIS      Otonom ve Akıllı Sistemler için Etik Sertifika Programı
ESO           Avrupa Standardizasyon Örgütü
ETSI           Avrupa Telekomünikasyon Standartları Enstitüsü
EU             European Birliği 
IEC            Uluslararası Elektroteknik Komisyonu
IEEE          Elektrik ve Elektronik Mühendisleri Enstitüsü
ISO            Uluslararası Standardizasyon Örgütü
ITU-T         Uluslararası Telekomünikasyon Birliği - Telekomünikasyon Standardizasyon Sektörü
JRC           Ortak Araştırma Merkezi
JTC           Ortak Teknik Komite
SC             Alt Komite
SDO          Standart Geliştirme Organizasyonu

 
Paylaş:
E-BÜLTEN KAYIT
Güncel makalelerimizden haberdar olmak için e-bültene kayıt olun!
Sosyal Medyada Bizi Takip Edin!
E-Bülten Kayıt