AI Watch: Yapay Zeka Standardizasyon Ortamı Güncellemesi
Avrupa Yapay Zeka Yönetmeliği bağlamında IEEE standartlarının analizi
Bölüm-1

Avrupa Komisyonu Nisan 2021'de, Avrupa Birliği'nde güvenilir YZ uygulamalarının benimsenmesi için gerekli düzenleyici koşulları belirleyen Yapay Zeka için önerdiği yasal çerçeve olan YZ Yasasını sundu. YZ Yasası, risk temelli bir yaklaşım benimseyerek, başta yüksek riskli olarak sınıflandırılanlar olmak üzere belirli YZ sistemleri için bir dizi yasal gereklilik ortaya koymaktadır. Bu raporun yazıldığı sırada YZ Yasası, eş yasa koyucular, Avrupa Parlamentosu ve Avrupa Birliği Konseyi arasında müzakere aşamasındadır. Bir anlaşma sağlandığında ve nihai yasal metin yürürlüğe girdiğinde, standartlar ilgili YZ sistemlerinin sağlayıcılarını desteklemede temel bir rol oynayacaktır. Standartlar, YZ sağlayıcılarının yasal yükümlülüklerine uymak için uygulayabilecekleri somut süreçleri, yöntemleri ve teknikleri tanımlayarak, yasal metinde öngörülen temel gerekliliklere gerekli teknik ayrıntı düzeyini getirecek şekilde belirlenmiştir. Aslında, Avrupa Komisyonu tarafından yayınlanan resmi bir standardizasyon talebine dayanarak Avrupa standardizasyon kuruluşları tarafından üretilen uyumlaştırılmış standartlar, kabul edildikten ve bu standartların referansı Resmi Gazete'de yayınlandıktan sonra operatörlere söz konusu AB uyum mevzuatının yasal gerekliliklerine uygunluk karinesi sağlar. Bununla birlikte, standartların hazırlanması, kapsamlı teknik uzmanlık ve çok sayıda paydaşın koordinasyonunu gerektiren ayrıntılı bir süreçtir. Neyse ki, YZ son yıllarda birçok standart geliştirme kuruluşu tarafından aktif bir çalışma alanı olmuştur ve bu da gelecekteki YZ Yasasını destekleme potansiyeline sahip çok sayıda şartname ile sonuçlanmıştır. Bu raporda, IEEE Standartlar Birliği tarafından üretilen ve güvenilir YZ'nin yönlerini kapsayan geniş standartlar ve sertifikasyon kriterleri yelpazesinden seçilen bir dizi spesifikasyonu analiz ediyoruz. Analiz edilen belgelerin birçoğunun YZ Yasası açısından son derece ilgili teknik içerik sağladığı tespit edilmiştir. Ayrıca, bazıları önceki analizlerde belirlenen önemli standardizasyon boşluklarını da kapsamaktadır. Bu çalışma, düzenleyici ihtiyaçları desteklemek için şu anda YZ standardizasyon faaliyetlerini planlayan Avrupa ve uluslararası standardizatörlere bağımsız girdi sağlamayı amaçlamaktadır. Bu rapor, Avrupa YZ Yönetmeliği teklifinden kaynaklanan standardizasyon ihtiyaçlarını karşılayabilecek IEEE standartları ve sertifikasyon kriterlerindeki somut unsurları tanımlamakta ve bu doğrultuda potansiyel benimsenmeleri ve geliştirilmeleri için öneriler sunmaktadır.

Bu çabalar, Nisan 2021'de Avrupa Komisyonu'nun yapay zekâda mükemmeliyeti artırmak ve teknolojinin güvenilir olmasını sağlamak için bir dizi eylem önerdiği zaman somutlaştırıldı. Yapay Zekâ için Avrupa Yaklaşımına ilişkin önerilen Yönetmelik (kısaca "YZ Yasası") ve YZ Koordineli Planının güncellenmesi, AB ülkeleri arasında yatırım ve yeniliği güçlendirirken, insanların ve işletmelerin güvenliğini ve temel haklarını garanti altına almayı amaçlamaktadır. Yapay Zekâ Koordineli Planının 2021 gözden geçirmesi, AI Watch raporlarına atıfta bulunmakta ve AI Watch'un Koordineli Planın uygulanmasını ve izlenmesini destekleme rolünü teyit etmektedir.

AI Watch, Avrupa Birliği'nin yapay zekâ alanındaki endüstriyel, teknolojik ve araştırma kapasitesini; Üye Devletlerdeki yapay zekâ ile ilgili politika girişimlerini; yapay zekânın benimsenmesini ve teknik gelişmelerini ve yapay zekânın etkisini izlemektedir. AI Watch, küresel manzara içinde bir Avrupa odağına sahiptir. AI Watch bağlamında Komisyon, Üye Devletler ile koordinasyon içinde çalışmaktadır. AI Watch sonuçları ve analizleri AI Watch Portalında yayınlanmaktadır.

AI Watch'un derinlemesine analizlerinden, Avrupa Birliği'nin güçlü olduğu alanları ve yatırıma ihtiyaç duyulan alanları daha iyi anlayabileceğiz. AI Watch, yapay zekânın büyüme, istihdam, eğitim ve toplum üzerindeki etkilerinin ve faydalarının bağımsız bir değerlendirmesini sağlayacaktır.

AI Watch, Avrupa Komisyonu Ortak Araştırma Merkezi (JRC) tarafından İletişim Ağları, İçerik ve Teknoloji Genel Müdürlüğü (DG CNECT) ile işbirliği içinde geliştirilmiştir.

Bu rapor, AI Watch'un şu hedefine yöneliktir: Avrupa ve uluslararası Standart Geliştirme Kuruluşlarının (SDO’lar) Yapay Zekâ konusundaki çalışmalarını izlemek ve bilgi toplamak ve bunların Yapay Zekâ konusundaki Avrupa düzenleyici çerçeve önerisi bağlamındaki uygunluğunu değerlendirmektir. 

Teşekkür

Yazarlar, Avrupa Komisyonu ile yapay zekâ standardizasyonu konusunda birçok yararlı ve verimli tartışmaya katıldıkları ve özellikle gözden geçirildiğinde birçoğu hala taslak halinde olan gerekli belgeleri ve standartları kolaylaştırarak bu JRC raporunu mümkün kıldıkları için IEEE Standartlar Birliği'ne teşekkür eder. Benzer şekilde, DG CNECT'ten meslektaşları Salvatore Scalzo, Tatjana Evas, Filipe Jones Mourao, Thierry Boulange ve Antoine-Alexandre Andre'ye sürekli destekleri ve özellikle mükemmel ekip çalışması için teşekkür ediyorlar. Ayrıca, başta Antonio Conte (DG GROW), Thomas Reibe (DG CNECT) ve Emilio Dávila (DG CNECT) olmak üzere yapay zekâ standardizasyon faaliyetlerine katılan ve çalışmalarımızı destekleyen çeşitli Avrupa Komisyonu servislerinden birçok meslektaşlarına teşekkürlerini sunarlar. Benzer şekilde, birçok değerli tartışma için Avrupa Standardizasyon Kuruluşlarına ve özellikle CEN/CENELEC JTC21 Stratejik Danışma Grubu bünyesindeki AI standardizasyon yol haritası tanımlama faaliyetlerine katılanlara teşekkür ediyorlar. Son olarak, AI Watch'a dahil olan birçok kişiye ve özellikle AI standardizasyonu konusundaki değerli katkıları için Stefano Nativi ve Sarah de Nigris'e ve liderlikleri ve destekleri için Eva Martínez ve Paul Desruelle'e teşekkür ediyorlar.

Yazarlar
Soler Garrido, Josep
Tolan, Songül
Hupont Torres, Isabelle
Fernández Llorca, David
Charisi, Vicky
Gómez Gutiérrez, Emilia
Junklewitz, Henrik
Hamon, Ronan
Fano Yela,
Delia Panigutti, Cecilia

Yönetici Özeti

Avrupa Komisyonu'nun Avrupa Birliği'nde Yapay Zekânın düzenlenmesine ilişkin teklifi - "Yapay Zekâ Yasası"- bu raporun yayınlandığı sırada Avrupa Parlamentosu ve Konseyi tarafından müzakere edilmektedir. İki ortak yasa koyucu tarafından yakın zamanda kaydedilen ilerleme, özellikle de Konsey'in Aralık 2022'de genel yaklaşımını benimsemesi, kurumlar arası müzakerelerin yaklaşan başlangıcına ve yasama sürecinin son aşamalarına giden yolu açmaktadır. Yönetmelik yürürlüğe girdiğinde ve bir geçiş döneminden sonra, yüksek riskli olarak sınıflandırılan YZ sistemlerinin, piyasaya sürülmeden veya hizmete alınmadan önce kapsamlı bir dizi YZ güvenilirlik gerekliliklerine uyması gerekecektir. Ürünlere ilişkin AB yasal çerçevesine uygun olarak, uyumlaştırılmış standartlar, bu gereklilikleri yerine getirmek için teknik çözümler tanımlayarak ve ilgili YZ sistem sağlayıcılarına yasal bir uygunluk karinesi sağlayarak YZ ürünlerinin piyasaya sürülmesini kolaylaştırmada kilit bir rol oynayacaktır. YZ yönetmeliğinin etkinliğini sağlamak için standartların önemi göz önüne alındığında, Avrupa Komisyonu, gerekli standartları geliştirmek için Avrupa Standardizasyon Kuruluşlarına resmi yetki sağlayan bir standardizasyon talebini kabul etme sürecini başlatmıştır. Komisyon'un standardizasyon talebinin 2023 yılı başlarında resmi olarak kabul edilmesi beklenmektedir; bu da talepte belirtilen standardizasyon kuruluşlarının talep edilen standardizasyon çıktılarının sağlanması için bir çalışma programı hazırlaması ve sunması gereken dört aylık bir dönemin başlangıcını işaret etmektedir. Bu rapor esas olarak, bu çalışma programının geliştirilmesini ve faaliyetlerinin planlanmasını desteklemek için Avrupa Standardizasyon Kuruluşlarına bir girdi olarak tasarlanmıştır.

Standardizasyon talebinin kendisinde de vurgulandığı gibi, YZ yasasını desteklemek için kabul edilecek teknik şartnameler setinin önemli ölçüde uluslararası çalışmalara dayanması beklenmektedir. Bu çalışmaların uygunluğu ve Avrupa bağlamında benimsenmesini kolaylaştıran mevcut anlaşmalar göz önüne alındığında, bunların çoğunlukla ISO ve IEC'den gelmesi beklenmektedir. Bununla birlikte, ilgili YZ standardizasyon çalışmaları, IEEE Standartlar Birliği gibi diğer uluslararası standardizasyon kuruluşları tarafından da yürütülmüştür. Bu raporda, 8 IEEE belgesinin sistematik bir analizini sunuyoruz. Bunlar, etik olarak uyumlu otonom ve akıllı sistemler için IEEE 7000 serisinden standartların yanı sıra otonom ve akıllı sistemler için IEEE etik sertifikasyon programından seçilen sertifika kriterleri paketlerini içerir. Bu standartların analizi, yapay zekâ önyargısı, insan gözetimi, kayıt tutma ve risk yönetimi ile ilgili gerekliliklerin operasyonel hale getirilmesine yönelik değerli içeriğin tanımlanmasıyla sonuçlanmıştır. Benzer şekilde, sertifikasyon kriterlerinin analizi, gelecekte YZ yönetmeliğine uygunluğun doğrulanması için uygulanabilir yöntemlere olan ihtiyacı karşılamak için bir temel sağlayabileceklerini göstermektedir. Bunun ışığında, IEEE standartlarının içeriğinin derinlemesine bir incelemesini sunarak, mevcut ISO/IEC çalışmaları ile bir karşılaştırma sağlıyor ve YZ Yasası için Avrupa standardizasyon çalışmalarına potansiyel entegrasyonlarını kolaylaştırmak için Avrupa ihtiyaçlarına uyarlanması gerekebilecek alanları belirliyoruz.

Analizimizden çıkan önemli gözlemler ve tavsiyeler şunlardır:

Analizimizden çıkan önemli gözlemler ve tavsiyeler şunlardır:

•    Algoritmik Önyargı Hususları için IEEE P7003 Taslak Standardı, önyargı ile ilgili olarak YZ Yasası gerekliliklerinin operasyonel hale getirilmesi için ilgili bir teknik şartname kaynağı olarak düşünülmelidir. İstenmeyen önyargı, YZ sistemlerinin potansiyel risklerinin çoğunun ana nedenidir ve IEEE belgesi, bu temel güvenilirlik yönüne ilişkin kapsamlı bir kapsam sunmaktadır. Buna ek olarak, şu anda ISO/IEC'den teknik bir spesifikasyon, gelişimin çok daha az ileri bir aşamasında görünmektedir. Bunu göz önünde bulundurarak, Avrupa bağlamında IEEE çalışmalarından yararlanmaya yönelik formüllerin araştırılmasını öneriyoruz. YZ önyargısı, yasal metindeki yüksek riskli YZ sistemleri için tüm güvenilirlik gereklilikleriyle güçlü bir şekilde bağlantılıdır. Bu nedenle, şu anda CEN-CENELEC JTC21 tarafından güvenilirlik özelliklerine ilişkin kapsayıcı bir birleşik yaklaşım üzerine planlanan bir çalışma öğesi, bu çalışma için uygun bir entegrasyon aracını temsil edebilir.

•    Otonom Sistemlerin Şeffaflığı için IEEE P7001 Taslak Standardı, insan gözetimi ile ilgili hususları kapsamaktadır. YZ sisteminin işlevinin kullanıcıları ve operatörleri tarafından anlaşılmasını sağlamak için bu belgede açıklanan önlemler oldukça önemlidir. Belge, artan karmaşıklık dereceleri ile çeşitli şeffaflık seviyelerini kapsamaktadır. YZ Yasası  bağlamında, olgun, sağlam ve etkili olan temel yaklaşımlar özellikle uygundur. Öte yandan, belgede tanımlanan en yüksek şeffaflık seviyelerinden bazıları, uygulamada elde edilmesi zor olabilecek sistem kararlarının açıklanmasını veya uyumlaştırılmış standardizasyon için potansiyel olarak hazır olmayan deneysel araştırma yöntemlerinin kullanılmasını gerektirmektedir. Bu ileri şeffaflık seviyeleri, YZ Yasası'ndaki insan gözetimi gerekliliklerine uyum için kesinlikle gerekli değildir ve standardizasyon talebi açıkça konsolide ve sağlam yöntemler istemektedir. Analizimiz bu IEEE belgesinin yanı sıra devam eden ISO/IEC çalışmalarını da inceliyor, insan gözetimi ile ilgili ve becerilerin açıkça ana hatlarını çizerek, teknolojik olgunluğu ve mevcut farklı metodolojilerin bilinen sınırlamalarını dikkate alan Avrupa standartlarının gerekliliğini vurgulayan ve bunları kullanan paydaşlar tarafından talep edilmektedir.                          

IEEE P7001'deki bazı içerikler, bu raporda ayrıntılı olarak açıklandığı üzere bu çabaya katkıda bulunabilir.

•    IEEE P7001 taslak standardı, Avrupa YZ yönetmelik teklifindeki kayıt tutma gerekliliklerini de kapsaması çok değerlidir. En önemlisi, YZ sistemlerini içeren olayların incelenmesini ve soruşturulmasını kolaylaştıran uzman paydaşlara yönelik şeffaflıkla ilgili içeriktir. Bu, YZ sistem kararlarının, ara durumların ve dahili olayların kaydedilmesine ilişkin özel rehberlik de dahil olmak üzere, YZ sağlayıcılarının etkili kayıt ve kayıt tutma önlemlerini uygulamalarına yardımcı olacak unsurları içermektedir. Bu, kayıt formatları gibi tüm yazılım sistemleri için daha genel olarak uygulanabilir endişeleri kapsayan mevcut standartları tamamlayabilir. Bunu göz önünde bulundurarak, bu IEEE çalışmasının bir kısmını Avrupa YZ standardizasyonu için çalışma programına, muhtemelen güvenilirlik özellikleri üzerine kapsayıcı birleşik bir yaklaşım üzerine planlanan CEN-CENELEC JTC21 standardına entegre etmenin yollarını araştırmayı  öneriyoruz.

•    Sistem Tasarımı Sırasında Etik Kaygıların Ele Alınmasına Yönelik IEEE 7000 Standart Model Süreci, YZ Yasasındaki risk yönetimi gerekliliklerinin operasyonel hale getirilmesine yönelik faydalı bir referanstır. ISO/IEC'ninkiler de dahil olmak üzere incelenen diğer uluslararası standartların aksine, bir YZ sisteminin tasarımında etik değerleri ve riskleri sistematik olarak ele almak ve bunları izlenebilir ürün gereksinimlerine dönüştürmek için bir süreç sağladığından, kuralcılık ve ürün odaklılık düzeyinin altını çiziyoruz. Bu standardın bir başka olumlu yönü de ISO/IEC düzeyinde devam eden benimsenmesidir, bu da Avrupa düzeyinde daha sonra benimsenmesini kolaylaştıracaktır. Ancak bu standart, YZ kanununun risk yönetimi maddesinde yer alan tüm unsurları tek başına kapsayamaz. Örneğin, geliştirme, dağıtım, işletme ve pazar sonrası izleme dahil olmak üzere ilk tasarım aşamalarının ötesinde tüm YZ yaşam döngüsünün daha kapsamlı bir şekilde ele alınması için genişletilmesi gerekecektir. Ayrıca, AB yönetmelik teklifinin özünde yer alan belirli risklere ve Avrupa değerlerine göre uyarlamanın standarda dahil edilmesi ve uygunluk kontrollerinde önceliklendirilmesi gerekecektir. Buna ek olarak, süreç odaklı bir standart olarak, örneğin şu anda CEN-CENELEC JTC21'in yapay zekâ sistemleri risk kataloğu ve risk yönetimi çalışmaları kapsamında planlandığı gibi, teknik düzeyde somut spesifikasyon ve rehberlik ile tamamlanmalıdır. Aslında, Avrupa düzeyinde standardizasyon çalışmasını, ISO/IEC ve IEEE'den değerli içeriğin entegrasyonu ve tamamlanması için bir araç olarak görüyoruz, YZ risk yönetimi standartları söz konusu olduğunda parçalanmayı önlüyor, dolayısıyla YZ sağlayıcılarının uyumluluğu sağlamak için çalışmalarını kolaylaştırıyoruz.

Sonuç olarak, analizimiz IEEE standartlarında Avrupa yapay zekâ yönetmeliğini desteklemek için teknik şartnameler hazırlayan Avrupalı standardizatörler tarafından dikkate alınması gereken somut unsurlar belirlemiştir. Birçok durumda, analiz edilen spesifikasyonlar ya eşdeğer ISO/IEC standartlarına kıyasla daha ileri bir aşamadadır ya da oldukça tamamlayıcıdır. Bu nedenle, Avrupalı standardizatörleri, Avrupa Komisyonu'ndan gelecek standardizasyon talebine yanıt olarak hazırlanacak çalışma planında, yalnızca ISO/IEC'den değil, aynı zamanda IEEE'den de mevcut uluslararası çalışmalardan tam olarak yararlanmanın formüllerini araştırmaya ve gerektiğinde Avrupa özelliklerine göre tamamlamaya teşvik ediyoruz.

1    Giriş
Nisan 2021'de Avrupa Komisyonu, Avrupa Birliği'nde güvenilir YZ uygulamalarının geliştirilmesi ve kullanılmasına yönelik koşulları belirlemek amacıyla Yapay Zekânın (YZ) düzenlenmesine yönelik teklifini, "YZ Yasası "nı [1] sunmuştur. YZ Yasası, risk profillerine bağlı olarak YZ sistemleri sağlayıcıları için bir dizi yükümlülük tanımlayarak risk temelli bir yaklaşım izlemektedir. Yüksek riskli YZ sistemlerinin sağlayıcılarının (insanların temel hakları, sağlığı ve/veya güvenliği için risk oluşturan sistemler dahil), yasal metnin Başlık III, Bölüm 2'sinde (Madde 8 ila 15) tanımlanan somut gereklilikleri yerine getirmeleri gerekecektir; bu gereklilikler risk yönetimi, veri ve veri yönetişimi, teknik dokümantasyon, kayıt tutma, şeffaflık ve kullanıcılara bilgi sağlanması, insan gözetimi, doğruluk, sağlamlık ve siber güvenlik ile ilgilidir.

Ancak yasal metin, bu gerekliliklerin teknik düzeyde nasıl yerine getirileceğini belirtmemektedir. Bunun yerine, Yeni Yasal Çerçeveyi [2] takip eden Avrupa yönetmeliklerinde olduğu gibi, kamu çıkarlarını korumak için temel, üst düzey gereklilikleri tanımlamakta ve ürünlerin bu gerekliliklere uyması için gereken Avrupa uyumlaştırılmış standartlarının oluşturulmasını öngörmektedir. Bu bağlamda, YZ Yasası yürürlüğe girdiğinde Avrupa Standardizasyon Kuruluşları¹ (ESO’lar) [3] tarafından üretilen bir dizi teknik şartname ile desteklenecektir. Bu spesifikasyonlar, gönüllülük esasına dayanmakla birlikte, yasal gerekliliklere uygunluk karinesi sağlamakta ve dolayısıyla büyüklükleri ve kaynakları ne olursa olsun tüm YZ sağlayıcıları için eşit bir oyun alanı sağlamanın yanı sıra uygunluk değerlendirme prosedürünü basitleştirmede temel bir rol oynamaktadır. YZ Yasasını desteklemek için YZ standartlarını ve teknik özelliklerini tanımlama süreci sıfırdan başlamamaktadır. ESO'lar, özellikle CEN ve ISO arasındaki Viyana anlaşması [4] veya CENELEC ile IEC arasındaki Frankfurt anlaşması [5] gibi uluslararası standardizasyon kuruluşlarıyla yapılan işbirliği anlaşmaları yoluyla mevcut standartlardan ve teknik şartnamelerden yararlanabilmektedir. Mevcut uluslararası çalışmaların benimsenmesi, iş tekrarından kaçınmanın ve yaklaşan YZ düzenlemesi için gereken çok çeşitli standartları geliştirmek için gereken süreyi büyük ölçüde azaltmanın en etkili yoludur.

Bu bağlamda, bir Avrupa YZ standardizasyon yol haritası tanımlama sürecinde önemli bir ilk adım, uluslararası düzeyde mevcut manzarayı değerlendirmektir. Bu çabayı desteklemek için JRC, 2021 yılında ilk YZ standardizasyon manzara analizini sunmuştur [6]. StandICT.eu projesi [7] tarafından üretilen YZ standardizasyon anketi gibi ilgili çalışmalara dayanan bu analiz, başlıca uluslararası ve Avrupa Standartları Geliştirme Kuruluşlarından (SDO'lar) yaklaşık 140 standart ve standardizasyon çıktısını (teknik raporlar, teknik özellikler ve sertifikasyon kriterleri gibi) kapsamıştır: ISO/IEC, ETSI, IEEE ve ITU-T. Bu standartların bir alt kümesi, özellikle o sırada nihai veya taslak formda mevcut olan YZ Yasası bağlamında ilgili olanlar, daha ayrıntılı olarak incelenmiş ve belirli YZ Yasası gereksinimlerini operasyonel hale getirme potansiyeline sahip umut verici standartların kısa bir listesinin yanı sıra potansiyel standardizasyon boşluklarının bir ön listesi ile sonuçlanmıştır. Bu raporun yayınlanmasından bu yana, Avrupa YZ düzenleyici süreci önemli ölçüde ilerlemiştir. Avrupa Parlamentosu ve Konsey tarafından yasal metnin müzakeresinde önemli ilerlemeler kaydedilmiştir. Buna paralel olarak, Avrupa Komisyonu ESO'lara gönderilmek üzere ilk standardizasyon talimatını hazırlamaktadır [8]. YZ Yasası teklifinin gerekliliklerinin altında yatan ana teknik alanları kapsayan ve gelecekteki uyumlaştırılmış standartlar için teknik zemini hazırlamaya hizmet eden Avrupa standartlarını talep eden bu ilk yetkinin 2023'ün başlarında kabul edilmesi bekleniyor. Bundan sonra, ortak yasa koyucular arasındaki müzakerelerin sonucunu yansıtmak için güncellemelere tabi olması muhtemeldir. Buna rağmen, ilk yetki, ESO'lar tarafından kabul edildikten sonra, YZ Yasasının uygulanmasını destekleyen kapsamlı bir şartname seti üretmek için önümüzdeki önemli görevi resmileştirecektir.

Standardizasyon talebi beklentisiyle, ESO'lar ön yol haritası tanımlama faaliyetlerinde bulunmuş ve örneğin YZ güvenilirliğinin teknik yönleri veya YZ sistem risk yönetimi gibi belirlenen standardizasyon ihtiyaçlarından bazılarını ele alan yeni spesifikasyonların geliştirilmesini araştırmak için yeni geçici gruplar kurma sürecini başlatmıştır. Avrupa Komisyonu, yasal metindeki gereklilikler açısından standartların teknik analizi de dahil olmak üzere bu süreci desteklemektedir. Bu rapor öncelikle bu planlama faaliyetlerine bir girdi olarak hizmet etmeyi amaçlamaktadır. Şu anda JTC1 SC42'de Yapay Zekâ [9] üzerine devam etmekte olan önemli miktarda ISO/IEC standardizasyon faaliyetine rağmen, YZ Yasası'ndaki gereklilikleri tam olarak karşılamak için ele alınması gereken boşluklar oldukça fazladır. Diğer önde gelen uluslararası SDO'lar tarafından mevcut spesifikasyonların ayrıntılı bir analizinin, bu boşluklardan bazılarını ele alan uygun standartların belirlenmesiyle sonuçlanabileceğini tahmin ediyoruz. Bu çalışmada, IEEE Standartlar Birliği'nin [10] standartlarını dikkate alarak standardizasyon manzara analizimizi tamamlıyoruz.

¹ ESO'lar Avrupa Standardizasyon Komitesi (CEN), Avrupa Elektroteknik Standardizasyon Komitesi (CENELEC) ve Avrupa Telekomünikasyon Standartları Enstitüsü'dür (ETSI).


2    Kapsam dahilindeki belgeler

Önceki bölümde tartışıldığı gibi, IEEE standartları ve ilgili standardizasyonla ilgili çıktılar, 2021'de sunulan ilk AI Watch standardizasyon manzara analizinde zaten kısmen ele alınmıştır. Gerçekten de çeşitli SDO'lardan gelen yaklaşık 140 belgeden oluşan koleksiyona çok çeşitli IEEE standartları dahil edilmiştir. Bu ilk seviye analiz, kamuya açık bilgilere (örneğin, özetler ve meta veriler) dayandırılmış ve YZ Yasası teklifindeki ilgili maddelerle ilk eşleştirme ile sonuçlanmıştır. Bununla birlikte, IEEE belgelerinin tamamı o sırada mevcut olmadığından, ISO gibi diğer SDO'ların standartlarında olduğu gibi daha ayrıntılı bir içerik incelemesine tabi tutulmamıştır. Bu raporla, Yapay Zekâ konusundaki IEEE standartlarının daha ayrıntılı bir tartışmasını ve gelecekteki Avrupa YZ düzenlemesi kapsamında yüksek riskli YZ sağlayıcılarının yükümlülüklerini teknik düzeyde operasyonel hale getirmeye uygunluklarını başlatıyoruz.

İlgilenilen geniş belge seti bir önceki çalışmaya kıyasla değişmemiştir ve temel olarak iki somut koleksiyondan gelenleri içermektedir: 7000 standart serisi ve Otonom ve Akıllı Sistemler için Etik Sertifikasyon Programı (ECPAIS). 7000 serisindeki belgeler, Otonom ve Akıllı Sistemlere (A/IS) güçlü bir şekilde odaklanarak teknoloji ve etiğin kesiştiği noktadaki belirli endişeleri ele almaktadır ve bu nedenle Avrupa YZ düzenleme teklifinin insan merkezli görüşü ve temel haklara yönelik risklere odaklanması bağlamında çok ilgili referanslardır. ECPAIS sertifikasyon paketleri, güvenilir YZ'nin hesap verebilirlik, şeffaflık ve algoritmik önyargının azaltılması gibi temel yönlerini ölçmek için sonuç temelli kriterler sağlayarak süreç odaklı standartları tamamlayan ve A/IS ürünlerinin, sistemlerinin ve hizmetlerinin bu kriterlere göre sertifikalandırılmasını sağlayan tamamen farklı bir çıktı türüdür.

Bu rapor, Tablo 1'de listelenen bu gruptan seçilmiş bir belge alt kümesinin ayrıntılı bir analizini sunmaktadır.Yazım sırasında, bu belgelerin çoğunun hala devam eden çalışmalar olduğu veya kamuya açık olmadığı, ancak bu çalışma için IEEE tarafından paylaşıldığı unutulmamalıdır. Bu analiz, aynı seriden ya da potansiyel olarak kapsam dahilindeki diğer ilgili standart ailelerinden ilave belgeleri de kapsayacak şekilde gelecekteki raporlarda genişletilebilir. IEEE söz konusu olduğunda, bu, YZ yönetişimi ve lisanslama konularına, derin öğrenme veya birleştirilmiş öğrenme gibi belirli teknolojilere odaklanan 2800 serisinden seçilmiş belgeleri içerebilir veya hatta sağlık hizmetleri veya robotik gibi YZ Yasası bağlamında ilgilenilen somut uygulama sektörlerini kapsayabilir.
 

Tablo 1. Analiz edilen Analiz edilen IEEE standartlarının ve standardizasyon çıktılarının listesi.

3    Metodoloji

Kapsam dahilindeki standartları ve belgelendirme kriterlerini gözden geçirmek için uzman analizine dayalı bir metodoloji uygulanmıştır. Bu analiz iki adımda gerçekleştirilmiştir:

1)    Avrupa YZ yönetmeliğinin gereklilikleri açısından bireysel IEEE standartlarının ve sertifikasyon kriterlerinin bağımsız bir incelemesi ve

2)    ISO/IEC YZ standardizasyon ortamı ile bir önceki adımda en ilgili olarak algılanan IEEE standartları arasındaki tamamlayıcılıkların analizi.

İlk adımda, hepsi bu raporun yazarı olan JRC uzmanlarından oluşan bir havuza, bu bölümde açıklanan ortak bir değerlendirme metodolojisini takiben ayrıntılı inceleme için Tablo 1'den standartlar hazırlanmıştır. Tüm katılımcılar YZ yönetmeliği hakkında derinlemesine bilgi sahibidir ve Yapay Zekânın güvenilirliğinin farklı yönleri konusundaki teknik uzmanlardır. Her belge, bağımsız bir değerlendirme için iki uzmana atanmıştır. Bireysel incelemeler, uzmanın belgenin bir dizi ilgili kriteri nasıl karşıladığını düşünmesini sağlamak, sürece rehberlik etmek ve sonuçlarda nesnelliği ve tekrarlanabilirliği teşvik etmek için tüm katılımcılar için ortak bir protokol oluşturmak üzere tasarlanmış özel yapım bir ankete dayanmaktadır.

Ankette yer alan hususlar, standart incelemeler için Tablo 2'de ayrıntılı olarak açıklanmıştır; belgelendirme kriterleri için de benzer değerlendirmeler yapılmıştır.
 

Tablo 2. Standartların uzmanlar tarafından incelenmesine rehberlik etmek üzere tanımlanan kriter ve hususların özeti.
 

Form, başlangıçta arzu edilen nitelikler ve özellikler (YZ kapsamı, alan genelliği, olgunluk, teknik detay, uyum yönetimi) dahil olmak üzere genel kriterleri ve YZ Yasasındaki gereklilikler açısından ihtiyaç duyulan potansiyel boşlukları ve tamamlayıcılıkları dikkate alır.

Genel kriterler ayrıca, ilgili standardın genel YZ standardizasyon ortamı göz önüne alındığında uygunluğunun değerlendirilmesini de içerir. Genel olarak, şu anda diğer SDO'lar tarafından ele alınmayan standardizasyon ihtiyaçlarını kapsayan belgeler tercih edilmektedir. Potansiyel standardizasyon boşluklarının bir ön analizi [6]'da mevcuttur. Ancak bu raporda, özellikle CEN-CENELEC JTC 21 Stratejik Danışma Grubu bünyesinde ESO'lar tarafından yol haritası tanımlama faaliyetleri bağlamında devam eden tartışmalar tarafından yönlendirilen standardizasyon boşluklarının daha güncel bir değerlendirmesini ele alıyoruz. Bu grup bağlamında, standartları AI Yasası gerekliliklerini operasyonel hale getirmeye uygun olarak değerlendirmek için biraz daha katı kriterler kullanılmakta ve [6]'daki analize kıyasla ek boşluklar ortaya çıkmaktadır. Örneğin, teknik raporlar gibi normatif içeriği olmayan belgeler, yönetmelik yürürlüğe girmeden önce olgunluğa ulaşamayabilecek erken gelişim aşamalarındaki belgeler gibi dikkate alınmamıştır. Bunu göz önünde bulundurarak, ilgili ürün gereksinimlerini kapsayan güvenilir YZ yönlerine ilişkin olgun ve teknik olarak sağlam standartlar, örneğin şeffaflık, önyargının ele alınması, insan gözetimi (açıklanabilirlik ve kontrol edilebilirlik yönleri dahil) ve sağlamlık, mevcut boşlukları gidermek için özel bir ilgi alanıdır.

Açıklanan genel kriterlerin yanı sıra, form ayrıca gözden geçiren kişiyi, standardın sağladığı YZ Yasasındaki bireysel gerekliliklerin kapsamının ayrıntılı bir analizini yapmaya yönlendirir. Kapsamda, Avrupa Komisyonu'ndan gelen ilk standardizasyon yetkisine dahil edilmesi beklenen yasal metnin 2. Bölümündeki 8-15. Maddelerdeki yüksek riskli YZ sistemleri için gereklilikler bulunmaktadır. Ek olarak, yüksek riskli YZ sistemleri sağlayıcılarının bazı yükümlülükleri, yani bir kalite yönetim sistemi kurma (Bölüm 3, Madde 17) da dikkate alınmaktadır. Önceki standart analiz faaliyetleriyle uyumlu olarak, diğer hususlar, özellikle uygunluk değerlendirmesiyle ilgili spesifikasyonlara duyulan ihtiyaç, analizimizin bir parçası değildir.

Belirli bir standart veya sertifikasyon paketinin rehberli analizi bağımsız olarak tamamlandıktan sonra, görevlendirilen iki uzmanın görüşlerini paylaştığı ve bir fikir birliğine vardığı bir konsolidasyon toplantısı gerçekleştirilir. Bunun ardından, farklı kriterlerin hem niceliksel hem de niteliksel analizini içeren bir inceleme formu hazırlanır. İncelenen tüm belgeler için formlar Bölüm 4'te sunulmuştur.

Bireysel standartların tüm incelemeleri tamamlandığında ve konsolide edildiğinde, en alakalı olduğu düşünülenler -özellikle standardizasyon ortamına uyumları açısından- farklı bir uzman grubu tarafından ikinci bir analiz turu için seçilir. Bu ikinci turda artık standartlar tek başına değil, ISO/IEC'nin ilgili yapay zekâ standardizasyon çalışmaları bağlamında analiz edilmektedir. Avrupa Standardizasyon Kuruluşlarının şu anda Avrupa YZ Yasası bağlamında benimsenmeye aday olarak değerlendirdikleri standartlara odaklanarak, özellikle bireysel IEEE standartları ile en yakından ilgili ISO/IEC spesifikasyonları arasındaki tamamlayıcılıkları araştıran nitel bir analiz gerçekleştirilmiştir. Bu analiz 5. bölümde sunulmuştur.

Bundan sonraki bölümde " Detaylı Belge Analizi "  anlatılacaktır. 



Bu yayın, Avrupa Komisyonu'nun bilim ve bilgi servisi olan Ortak Araştırma Merkezi (JRC) tarafından hazırlanan bir Teknik rapordur. Avrupa politika oluşturma sürecine kanıta dayalı bilimsel destek sağlamayı amaçlamaktadır. Bu yayının içeriği Avrupa Komisyonu'nun pozisyonunu veya görüşünü yansıtmak zorunda değildir. Ne Avrupa Komisyonu ne de Komisyon adına hareket eden herhangi bir kişi bu yayının kullanımından sorumlu değildir. Bu yayında kullanılan ve kaynağı ne Eurostat ne de diğer Komisyon hizmetleri olan verilerin altında yatan metodoloji ve kalite hakkında bilgi almak için, kullanıcılar atıfta bulunulan kaynakla irtibata geçmelidir. Kullanılan tanımlamalar ve planlardaki maddelerin sunumu, Avrupa Birliği'nin herhangi bir ülke, bölge, şehir veya alanın veya yetkililerinin yasal statüsü veya sınırlarının veya sınırlarının sınırlandırılması ile ilgili herhangi bir görüşün ifadesi anlamına gelmez.

İletişim bilgileri
İsim: Josep Soler Garrido
Adres: Sevilla Edificio EXPO, Avda Inca Garcilaso sn, 41092 Seville,
İspanya E-posta: josep.soler-garrido@ec.europa.eu

AB Bilim Merkezi
https://joint-research-centre.ec.europa.eu


Referanslar

[1]    Avrupa Komisyonu, "Yapay Zekâya ilişkin uyumlaştırılmış kuralları belirleyen (Yapay Zekâ Yasası) ve bazı birlik yasama tasarruflarını tadil eden bir Avrupa Parlamentosu ve Konsey Tüzüğü Teklifi", 2021.


[2]    Avrupa Komisyonu, "Yeni yasal çerçeve," [Çevrimiçi]. Mevcut: https://ec.europa.eu/growth/single- market/goods/new-legislative-framework_en. [Erişim tarihi 23 03 2022].

[3]    Avrupa Komisyonu, "Avrupa Standardizasyonunda Kilit Oyuncular," [Çevrimiçi]. Mevcut: https://ec.europa.eu/growth/single-market/european-standards/key-players-european-standardisation_en. [Erişim tarihi 23 03 2022].

[4]    Uluslararası Standardizasyon Örgütü (ISO); Avrupa Standardizasyon Komitesi (CEN),
ISO ve CEN arasındaki teknik işbirliğine ilişkin anlaşma (Viyana Anlaşması).

[5]    (IEC), Uluslararası Elektroteknik Komisyonu; (CENELEC), Avrupa Elektroteknik Standardizasyon Komitesi, Yeni çalışmaların ortak planlanması ve paralel oylamaya ilişkin IEC - CENELEC Anlaşması (Frankfurt Anlaşması).

[6]    S. Nativi ve S. De Nigris, "AI Watch, AI standardizasyon ortamının durumu ve bir AI düzenleyici çerçeve için EC önerisine bağlantı," Ortak Araştırma Merkezi (Avrupa Komisyonu), 2021.

[7]    StandICT.eu, "TWG AI Raporu: Yapay Zekâ Standartlarının Görünümü," 2021.

[8]    "Güvenli ve güvenilir yapay zekâyı desteklemek için Avrupa Standardizasyon Kuruluşlarına taslak standardizasyon talebi," 2022. [Çevrimiçi]. Mevcut: https://ec.europa.eu/docsroom/documents/52376.


[9]    "ISO/IEC Joint Technical Committee 1 / Subcommittee 42 (Artificial intelligence)," [Çevrimiçi]. Mevcut: https://www.iso.org/committee/6794475.html. [Erişim tarihi 23 03 2022].

[10]    "IEEE Standartlar Birliği," [Çevrimiçi]. Mevcut: https://standards.ieee.org/. [Erişim tarihi 23 03 2022].

[11]    I. Hupont, M. Micheli, B. Delipetrev, E. Gómez ve J. Soler Garrido, "Documenting high-risk AI: an European regulatory perspective," TechRxiv, 2022.


AB Bilim Merkezi
https://joint-research-centre.ec.europa.eu