Yapay Zekâ Yasası
AB Konseyi ve Parlamento dünyada yapay zeka için ilk kurallar üzerinde anlaşmaya vardı

Bu yazı Avrupa Birliği Konseyi  web sitesinde yayınlanan orjinal İngilizce versiyonundan  alınarak  ETP Yapay Zeka Çalışma Grubumuzdan  Sabri Günaydın tarafından yapay zeka çeviri yazılımları kullanarak Türkçe'ye tercüme edilerek düzenlenmiştir.

 ETP  Türkçe çeviri ve düzenleme sorumluluğunu üstlenir.

Türkçe çeviride  göreceğiniz olası hataları " iletisim@etp.com.tr "  adresine e-posta göndermenizi rica ederiz. 

Bu yazının ETP Portalımızda yayını ile ilgili bize destek ve kılavuz olan   "Avrupa Birliği Konseyi Basın Bürosu" na teşekkür ederiz. 

3 günlük 'maraton' görüşmelerinin ardından, Konsey başkanlığı ve Avrupa Parlamentosu müzakerecileri, yapay zeka yasası olarak adlandırılan yapay zeka (AI) ile ilgili uyumlaştırılmış kurallara ilişkin teklif üzerinde geçici bir anlaşmaya vardı.

Taslak yönetmelik, Avrupa pazarına sunulan ve AB'de kullanılan yapay zekâ sistemlerinin güvenli olmasını ve temel haklar ile AB değerlerine saygı göstermesini sağlamayı amaçlıyor. Bu dönüm noktası niteliğindeki teklif aynı zamanda Avrupa'da yapay zeka alanında yatırım ve inovasyonu teşvik etmeyi amaçlıyor.

Bu tarihi bir başarı ve geleceğe yönelik büyük bir kilometre   taşıdır! Bugünkü anlaşma, hızla gelişen teknolojik ortamda   toplumlarımızın ve ekonomilerimizin geleceği için kilit öneme   sahip bir alanda küresel bir zorluğu etkili bir şekilde ele   almaktadır. Ve bu çabada son derece hassas bir dengeyi     korumayı başardık: vatandaşlarımızın temel haklarına tam  olarak  saygı gösterirken Avrupa genelinde yapay zekanın inovasyonunu ve yaygınlaşmasını arttırmak.

Carme Artigas
 İspanya'nın dijitalleşme ve yapay zekadan  sorumlu devlet bakanı

Yapay Zeka Yasası(YZ) yasası, AB'nin tek pazarında hem özel hem de kamu aktörleri tarafından güvenli ve güvenilir YZ'nin geliştirilmesini ve benimsenmesini teşvik etme potansiyeline sahip amiral gemisi niteliğinde bir yasama girişimidir. Ana fikir, YZ'yi 'risk temelli' bir yaklaşım izleyerek topluma zarar verme kapasitesine göre düzenlemektir: risk ne kadar yüksekse, kurallar o kadar katıdır. Dünyada türünün ilk yasama önerisi olarak, GDPR'nin yaptığı gibi, diğer yargı alanlarında YZ düzenlemesi için küresel bir standart belirleyebilir ve böylece dünya sahnesinde teknoloji düzenlemesine Avrupa yaklaşımını teşvik edebilir.

Geçici anlaşmanın ana unsurları

İlk Komisyon teklifiyle karşılaştırıldığında, geçici anlaşmanın başlıca yeni unsurları aşağıdaki şekilde özetlenebilir:

Daha somut bir ifadeyle, geçici anlaşma aşağıdaki hususları kapsamaktadır:

Tanımlar ve kapsam

Bir YZ sisteminin tanımının, YZ'yi daha basit yazılım sistemlerinden ayırt etmek için yeterince açık kriterler sağlamasını sağlamak için uzlaşma anlaşması, tanımı OECD tarafından önerilen yaklaşımla uyumlu hale getirmektedir.

Geçici anlaşma ayrıca düzenlemenin AB hukuku kapsamı dışındaki alanlara uygulanmayacağını ve hiçbir durumda üye devletlerin ulusal güvenlik alanındaki yetkilerini veya bu alanda görev üstlenen herhangi bir kuruluşu etkilememesi gerektiğini açıklığa kavuşturmaktadır. Ayrıca, yapay zeka yasası münhasıran askeri veya savunma amaçlı kullanılan sistemler için geçerli olmayacaktır. Benzer şekilde, anlaşma, düzenlemenin yalnızca araştırma ve yenilik amacıyla kullanılan YZ sistemleri veya profesyonel olmayan nedenlerle YZ kullanan kişiler için geçerli olmayacağını öngörmektedir.

YZ sistemlerinin yüksek riskli ve yasaklanmış YZ uygulamaları olarak sınıflandırılması

Uzlaşma anlaşması, ciddi temel hak ihlallerine veya diğer önemli risklere neden olması muhtemel olmayan YZ sistemlerinin yakalanmamasını sağlamak için yüksek risk sınıflandırması da dahil olmak üzere yatay bir koruma katmanı sağlamaktadır. Yalnızca sınırlı risk arz eden YZ sistemleri, kullanıcıların daha fazla kullanım konusunda bilinçli kararlar verebilmeleri için içeriğin YZ tarafından oluşturulduğunun açıklanması gibi çok hafif şeffaflık yükümlülüklerine tabi olacaktır.

Çok çeşitli yüksek riskli YZ sistemleri yetkilendirilecek, ancak AB pazarına erişim sağlamak için bir dizi gereklilik ve yükümlülüğe tabi olacaktır. Bu gereklilikler, ortak yasa koyucular tarafından, örneğin veri kalitesi veya KOBİ'lerin yüksek riskli YZ sistemlerinin gerekliliklere uygun olduğunu göstermek için hazırlamaları gereken teknik belgelerle ilgili olarak, paydaşların uyması için teknik olarak daha uygulanabilir ve daha az külfetli olacak şekilde açıklığa kavuşturulmuş ve ayarlanmıştır.

YZ sistemleri karmaşık değer zincirleri aracılığıyla geliştirildiği ve dağıtıldığı için, uzlaşma anlaşması, bu zincirlerdeki çeşitli aktörlerin, özellikle de YZ sistemlerinin sağlayıcıları ve kullanıcılarının sorumluluklarının ve rollerinin dağılımını netleştiren değişiklikler içermektedir. Ayrıca, YZ Yasası kapsamındaki sorumluluklar ile ilgili AB veri koruma veya sektörel mevzuat gibi diğer mevzuat kapsamında halihazırda var olan sorumluluklar arasındaki ilişkiyi de açıklığa kavuşturmaktadır.

YZ'nin bazı kullanımları için risk kabul edilemez olarak değerlendirilmektedir ve bu nedenle bu sistemler AB'den yasaklanacaktır. Geçici anlaşma, örneğin, bilişsel davranış manipülasyonu, internetten veya CCTV görüntülerinden yüz görüntülerinin hedeflenmemiş kazınması, işyerinde ve eğitim kurumlarında duygu tanıma, sosyal puanlama, cinsel yönelim veya dini inançlar gibi hassas verileri çıkarmak için biyometrik sınıflandırmayı ve bireyler için bazı öngörücü polislik vakalarını yasaklamaktadır.

Kanun yaptırımı  istisnaları

Kolluk kuvvetlerinin özellikleri ve hayati önem taşıyan çalışmalarında YZ'yi kullanma kabiliyetlerini koruma ihtiyacı göz önünde bulundurularak, Komisyon teklifinde YZ sistemlerinin kolluk kuvvetleri amacıyla kullanımına ilişkin çeşitli değişiklikler kabul edilmiştir. Uygun güvencelere tabi olan bu değişiklikler, faaliyetleriyle ilgili olarak hassas operasyonel verilerin gizliliğine saygı gösterme ihtiyacını yansıtmayı amaçlamaktadır. Örneğin, kolluk kuvvetlerinin acil durumlarda uygunluk değerlendirme prosedürünü geçmemiş yüksek riskli bir YZ aracını kullanmasına izin veren bir acil durum prosedürü getirilmiştir. Bununla birlikte, temel hakların YZ sistemlerinin olası kötüye kullanımlarına karşı yeterince korunmasını sağlamak için özel bir mekanizma da getirilmiştir.

Ayrıca, kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemlerinin kullanımına ilişkin olarak, geçici anlaşma, bu tür kullanımın kolluk kuvvetleri için kesinlikle gerekli olduğu ve bu nedenle kolluk kuvvetlerinin bu tür sistemleri kullanmasına istisnai olarak izin verilmesi gereken amaçları açıklığa kavuşturmaktadır. Uzlaşı anlaşması ek güvenceler öngörmekte ve bu istisnaları belirli suçların mağdurları, terör saldırıları gibi gerçek, mevcut veya öngörülebilir tehditlerin önlenmesi ve en ciddi suçlardan şüphelenilen kişilerin aranması durumlarıyla sınırlandırmaktadır.

Genel amaçlı yapay zeka sistemleri ve temel modelleri

YZ sistemlerinin birçok farklı amaç için kullanılabildiği (genel amaçlı YZ) ve genel amaçlı YZ teknolojisinin daha sonra başka bir yüksek riskli sisteme entegre edildiği durumları dikkate almak için yeni hükümler eklenmiştir. Geçici anlaşma ayrıca genel amaçlı YZ (GPAI) sistemlerinin özel durumlarını da ele almaktadır.

Video, metin, görüntü üretme, yanal dilde konuşma, hesaplama veya bilgisayar kodu üretme gibi çok çeşitli ayırt edici görevleri yetkin bir şekilde yerine getirebilen büyük sistemler olan temel modeller için de özel kurallar kabul edilmiştir. Geçici anlaşma, temel modellerin piyasaya sürülmeden önce belirli şeffaflık yükümlülüklerine uymalarını öngörmektedir. 'Yüksek etkili' temel modeller için daha katı bir rejim getirilmiştir. Bunlar, büyük miktarda veri ile eğitilen ve gelişmiş karmaşıklığa, yeteneklere ve ortalamanın çok üzerinde performansa sahip olan ve değer zinciri boyunca sistemik riskleri yayabilecek temel modellerdir.

Yeni bir yönetişim mimarisi
 
GPAI modellerine ilişkin yeni kurallar ve bunların AB düzeyinde uygulanmasına yönelik bariz ihtiyacın ardından, Komisyon bünyesinde bu en gelişmiş YZ modellerini denetlemek, standartların ve test uygulamalarının geliştirilmesine katkıda bulunmak ve tüm üye ülkelerde ortak kuralları uygulamakla görevli bir YZ Ofisi kurulmuştur.
Bağımsız uzmanlardan oluşan bilimsel bir panel, temel modellerinin yeteneklerini değerlendirmek için metodolojilerin geliştirilmesine katkıda bulunarak, yüksek etkili temel modellerinin belirlenmesi ve ortaya çıkması konusunda tavsiyelerde bulunarak ve temel modelleriyle ilgili olası maddi güvenlik risklerini izleyerek YZ Ofisine GPAI modelleri hakkında tavsiyelerde bulunacaktır.

Üye devletlerin temsilcilerinden oluşacak YZ Kurulu, Komisyon için bir koordinasyon platformu ve danışma organı olarak kalacak ve temel modeller için uygulama kurallarının tasarımı da dahil olmak üzere tüzüğün uygulanması konusunda Üye Devletlere önemli bir rol verecektir. Son olarak, YZ Kurulu'na teknik uzmanlık sağlamak üzere endüstri temsilcileri, KOBİ'ler, yeni kurulan şirketler, sivil toplum ve akademi gibi paydaşlar için bir danışma forumu oluşturulacaktır.

Cezalar

YZ kanunu ihlalleri için para cezaları, suç işleyen şirketin bir önceki mali yıldaki küresel yıllık cirosunun bir yüzdesi veya önceden belirlenmiş bir miktar (hangisi daha yüksekse) olarak belirlenmiştir. Bu, yasaklanan YZ uygulamalarının ihlali için 35 milyon Avro veya %7, YZ kanununun yükümlülüklerinin ihlali için 15 milyon Avro
veya %3 ve yanlış bilgi sağlanması için 7,5 milyon Avro veya %1,5 olacaktır. Bununla birlikte, geçici anlaşma, YZ kanunu hükümlerinin ihlali durumunda KOBİ'ler ve yeni kurulan şirketler için idari para cezalarında daha orantılı sınırlar öngörmektedir.

Uzlaşma anlaşması ayrıca, bir gerçek veya tüzel kişinin AI yasasına uyulmaması ile ilgili olarak ilgili piyasa gözetim otoritesine şikayette bulunabileceğini ve böyle bir şikayetin söz konusu otoritenin özel prosedürleri doğrultusunda ele alınmasını bekleyebileceğini açıkça ortaya koymaktadır.

Şeffaflık ve temel hakların korunması

Geçici anlaşma, yüksek riskli bir YZ sisteminin dağıtıcıları tarafından piyasaya sürülmesinden önce bir temel haklar etki değerlendirmesi yapılmasını öngörmektedir. Geçici anlaşma ayrıca yüksek riskli YZ sistemlerinin kullanımına ilişkin daha fazla şeffaflık sağlamaktadır. Özellikle, Komisyon teklifinin bazı hükümleri, kamu tüzel kişileri olan yüksek riskli bir YZ sisteminin belirli kullanıcılarının da yüksek riskli YZ sistemleri için AB veri tabanına kaydolmak zorunda kalacağını belirtmek için değiştirilmiştir. Ayrıca, yeni eklenen hükümler, bir duygu tanıma sisteminin kullanıcılarının, gerçek kişileri böyle bir sisteme maruz kaldıklarında bilgilendirme yükümlülüğüne vurgu yapmaktadır.

İnovasyonu destekleyen önlemler
 
Daha inovasyon dostu bir yasal çerçeve oluşturmak ve kanıta dayalı düzenleyici öğrenmeyi teşvik etmek amacıyla, yeniliği destekleyen önlemlere ilişkin hükümler Komisyon teklifine kıyasla önemli ölçüde değiştirilmiştir.

Özellikle, yenilikçi YZ sistemlerinin geliştirilmesi, test edilmesi ve doğrulanması için kontrollü bir ortam oluşturması beklenen YZ düzenleyici sanal alanların, yenilikçi YZ sistemlerinin gerçek dünya koşullarında test edilmesine de izin vermesi gerektiği açıklığa kavuşturulmuştur. Ayrıca, YZ sistemlerinin gerçek dünya koşullarında, belirli koşullar ve güvenceler altında test edilmesine izin veren yeni hükümler eklenmiştir. Daha küçük şirketlerin idari yükünü hafifletmek için geçici anlaşma, bu tür operatörleri desteklemek için üstlenilecek eylemlerin bir listesini içermekte ve bazı sınırlı ve açıkça belirtilmiş derogasyonlar sağlamaktadır.

Yürürlüğe giriş

Geçici anlaşma, belirli hükümler için bazı istisnalar dışında, AI yasasının yürürlüğe girmesinden iki yıl sonra uygulanmasını öngörmektedir.

Sonraki adımlar

Bugünkü geçici anlaşmanın ardından, yeni tüzüğün ayrıntılarına son şeklinin verilmesi için önümüzdeki haftalarda teknik düzeyde çalışmalar devam edecek. Bu çalışmalar tamamlandıktan sonra Başkanlık uzlaşma metnini onay için üye devletlerin temsilcilerine (Coreper) sunacak.

Metnin tamamının her iki kurum tarafından onaylanması ve ortak yasa koyucular tarafından resmi olarak kabul edilmeden önce yasal-dilsel revizyondan geçmesi gerekecektir.

Arka plan bilgileri

Nisan 2021'de sunulan Komisyon teklifi, AB'nin temel haklara saygılı, güvenli ve yasal YZ'nin tek pazarda geliştirilmesini ve yaygınlaştırılmasını teşvik etme politikasının önemli bir unsurudur.

Teklif, risk temelli bir yaklaşım izlemekte ve YZ için yasal kesinliği sağlamayı amaçlayan tek tip, yatay bir yasal çerçeve ortaya koymaktadır. Taslak yönetmelik, yapay zekada yatırım ve inovasyonu teşvik etmeyi, temel haklar ve güvenlikle ilgili mevcut yasaların yönetişimini ve etkili bir şekilde uygulanmasını geliştirmeyi ve yapay zeka uygulamaları için tek bir pazarın geliştirilmesini kolaylaştırmayı amaçlamaktadır. Avrupa'da yapay zekâ yatırımlarını hızlandırmayı amaçlayan yapay zekâ üzerine koordineli plan da dâhil olmak üzere diğer girişimlerle el ele gitmektedir. 6 Aralık 2022'de Konsey, bu dosya üzerinde genel bir yaklaşım (müzakere yetkisi) için bir anlaşmaya varmış ve Haziran 2023'ün ortasında Avrupa Parlamentosu ile kurumlar arası görüşmelere ('üçlü') başlamıştır.

•    Yapay Zeka Yasası, Konseyin Genel Yaklaşımı, 6 Aralık 2022
•    Yapay zeka yasası, Komisyon teklifi, 14 Nisan 2021
•    Yapay zekaya Avrupa yaklaşımı (Avrupa Komisyonu bilgileri)
•    Avrupa için dijital bir gelecek (arka plan bilgisi)
•    Çevrimiçi yaşamınız: AB bunu sizin için nasıl daha kolay ve güvenli hale getiriyor (uzun haber)
•    Yapay zeka (arka plan bilgisi)



Kaynak: AB Konseyi/Basın Bürosu 


Basın İçin:
Basın Sözcüsü:Dimosthenis Mammonas