AB'nin Yapay Zeka Yasası’nın ön nihai metni internete sızdı

AB'nin Yapay Zeka Yasası’nın ön nihai metni internete sızdı

Clara Hainsdorf White & Case Ortak, Paris
Tim Hickman White & Case Ortak, Londra
Dr. Sylvia Lorenz White & Case Ortak, Berlin
Jenna Rennie White & Case Ortak, Londra
Clare Connellan White & Case Ortak, Londra

22 Ocak 2024 tarihinde, AB genelinde Yapay Zeka sistemlerinin düzenlenmesine yönelik dünyanın ilk kapsamlı yatay yasal çerçevesi olan Avrupa Birliği Yapay Zeka Yasası'nın (“AB Yapay Zeka Yasası”) ön nihai metni, AB Yapay Zeka Yasası'nın farklı yetkilerini karşılaştıran 892 sayfalık bir tablo ve ardından birleştirilmiş metni ortaya koyan 258 sayfalık bir belge olarak internete sızdı. Yaklaşan yasa artık son halini aldı ve 2 Şubat'ta 27 AB Üye Devletinin tamamı tarafından onaylandı.

Konu ile ilgili “White&Case LLP ” hukuk firması tarafından yayınlanan makalenin ETP Portalımızda yayınına izin verdiği için yazarlara teşekkür ederiz.

Sabri Günaydın
Elektrik Tesisat Portalı

Neler Yeni?

Birleştirilmiş metin, kapsamlı bir şekilde müzakere edilen hususların siyasi bir uzlaşmasıdır. Aralık ayındaki siyasi anlaşmaya ilişkin resmi bildirimde duyurulduğu üzere,¹ AB Yapay Zeka Yasası artık OECD tanımıyla uyumlu revize edilmiş bir "Yapay Zeka Sistemleri" tanımı içermekte,² ve AB Yapay Zeka Yasası’nın muhataplarının yanı sıra Yapay Zeka sistemlerinin sağlayıcıları ve dağıtıcıları için yükümlülükler hakkında ayrıntılar sunmaktadır. Ön nihai metin, bir Yapay Zeka sisteminin yasal olarak geliştirilip geliştirilemeyeceğini ve temel haklara yönelik değişken bir risk ölçeği aracılığıyla kullanılıp kullanılamayacağını belirlemeyi amaçlayan³ AB Yapay Zeka Yasası'nın önceki taslaklarında belirtilen risk temelli yaklaşımı sürdürmektedir,⁴ birkaç tür Yapay Zeka sistemini tamamen yasaklamakta ve yüksek riskli Yapay Zeka sistemleri için kapsamlı uyum yükümlülükleri getirmektedir.

Uygulama Kapsamı (Madde 3(1) AB Yapay Zeka Yasası)⁵

Yapay Zeka’yı daha basit yazılım sistemlerinden ayırt etmek için, Madde 3(1) AB Yapay Zeka Yasası, bir Yapay Zeka sistemini “değişen seviyelerde özerklikle çalışmak üzere tasarlanmış ve konuşlandırıldıktan sonra uyarlanabilirlik gösterebilen ve açık veya örtük hedefler için, aldığı girdiden, fiziksel veya sanal ortamları etkileyebilecek tahminler, içerik, öneriler veya kararlar gibi çıktıların nasıl üretileceğini çıkaran makine tabanlı bir sistem” olarak tanımlamaktadır. Bu tanım, beklendiği üzere, AB Parlamentosu'nun müzakere pozisyonunda ortaya konan tanımla uyumludur ve yukarıda da belirtildiği üzere, OECD tarafından ortaya konulan tanımla da uyumludur.⁶

AB Yapay Zeka Yasası, AB pazarıyla bağlantılı olarak Yapay Zeka sistemlerinin sağlayıcıları, dağıtıcıları, ithalatçıları, dağıtıcıları ve ürün üreticileri için yükümlülükler getirecektir. Örneğin, AB Yapay Zeka Yasası aşağıdakiler için geçerli olacaktır:

i. AB pazarına Yapay Zeka sistemleri yerleştiren veya hizmete sunan veya AB pazarına genel amaçlı Yapay Zeka modelleri (GPAI Yapay Zeka Küresel Ortaklık modelleri") yerleştiren sağlayıcılar;

ii. AB’de bir kuruluş yeri olan / bulunan Yapay Zeka sistemlerinin dağıtıcıları ve bir Yapay Zeka sistemi tarafından üretilen çıktı AB’de kullanılıyorsa, üçüncü ülkelerdeki Yapay Zeka sistemlerinin sağlayıcıları ve dağıtıcıları için geçerli olacaktır (Madde 2 (1) AB Yapay Zeka Yasası). Beklenen istisnalar, birleştirilmiş ön nihai anlaşma metninde korunmaktadır, örneğin, AB Yapay Zeka Yasası, askeri Yapay Zeka sistemleri veya yalnızca bilimsel araştırma ve geliştirme amacıyla kullanılan Yapay Zeka sistemleri için geçerli olmayacaktır.⁷ Ücretsiz ve açık kaynaklı Yapay Zeka sistemleri için bir başka istisna daha yapılmıştır, diğer bir deyişle, AB Yapay Zeka Yasası, yasaklanmadıkları veya yüksek riskli Yapay Zeka sistemleri olarak sınıflandırılmadıkları sürece açık kaynaklı Yapay Zeka sistemlerine uygulanmayacaktır (Madde 2(5g) AB Yapay Zeka Yasası).

Üye Devletler, işverenler tarafından Yapay Zeka sistemlerinin kullanımına ilişkin haklarının korunması açısından çalışanlar için daha elverişli düzenlemeleri sürdürebilecek veya yürürlüğe koyabilecektir (AB Yapay Zeka Yasası Madde 2(5e)).

Yüksek Riskli Yapay Zeka Sistemleri (Madde 6 ve devamı AB Yapay Zeka Yasası)

Birleştirilmiş metin, yüksek riskli Yapay Zeka sistemleri için değiştirilmiş bir sınıflandırma mekanizmasını, diğer bir deyişle AB Yapay Zeka Yasası Ek II ve Ek III'te listelenen Yapay Zeka sistemlerine referansla Yapay Zeka sistemlerinin soyut bir tanımından oluşan önceki metin sürümlerindeki⁹ sınıflandırmaların bir kombinasyonunu benimsemektedir (Madde 6(1) ve (2) AB Yapay Zeka Yasası) ve “karar vermenin sonucunu önemli ölçüde etkilememek de dahil olmak üzere gerçek kişilerin sağlığına, güvenliğine veya temel haklarına önemli bir zarar riski olmadığında” yeni eklenen bir muafiyeti benimsemektedir. (Madde 6(2a) AB Yapay Zeka Yasası).

Bir Yapay Zeka sistemi, kullanım amacı aşağıdakilerle sınırlıysa böyle bir risk oluşturmaz:

dar prosedürel görevlerin yerine getirilmesi;
daha önce tamamlanmış insan faaliyetlerinin sonuçlarında iyileştirmeler yapmak;
insan değerlendirmelerinin yerini almadan karar verme modellerini tespit etmek; veya
bir risk değerlendirmesine yönelik sadece hazırlık görevlerinde bulunmak.

Bununla birlikte, bir Yapay Zeka sistemi gerçek kişilerin profilini çıkarırsa her zaman yüksek riskli olarak kabul edilecektir.

Birleştirilmiş metin, Ek III'te (yüksek riskli sistemlerin listelenmesi) atıfta bulunulmasına rağmen Yapay Zeka sistemlerinin yüksek riskli olmadığını düşünen sağlayıcılar için yükümlülükler hakkında yeni ayrıntılar sunmaktadır. Örneğin, değerlendirme dokümantasyonu ve sistemin AB veri tabanına kaydı, sistemin AB pazarına sunulmasından önce¹⁰ tamamlanmalıdır (Madde 6(2b) AB Yapay Zeka Yasası). AB Komisyonu tarafından yüksek riskli Yapay Zeka sistemleri için yeni kullanım durumlarının eklenmesine ilişkin süreç ve kriterler AB Yapay Zeka Yasası Madde 7'de belirtilmiştir.

Birleştirilmiş metin ayrıca, yazılı üçüncü taraf anlaşmaları (Madde 28(2b) AB Yapay Zeka Yasası) ve veri yönetişimi (Madde 10 AB Yapay Zeka Yasası) dâhil olmak üzere, yüksek riskli Yapay Zeka sistemleri için uyum yükümlülükleri (Madde 8 ve devamı AB Yapay Zeka Yasası) hakkında yeni ayrıntılar içermektedir. AB Yapay Zeka Ofisi, üçüncü taraf anlaşmaları için gönüllü model sözleşme şartları geliştirme ve tavsiye etme yetkisine sahip olacaktır. Veri yönetişimi açısından, modellerin verilerle eğitilmesini içeren tekniklerden yararlanan yüksek riskli Yapay Zeka sistemlerinin eğitim, doğrulama ve test veri setleri temelinde geliştirilmesi gerekecektir.

Genel Amaçlı Yapay Zeka Modelleri (Madde 52 ve devamı AB Yapay Zeka Yasası)

Birleştirilmiş metin, AB Yapay Zeka Yasası’nın GPAI modelleri sağlayıcıları için de geçerli olduğunu teyit etmekte ve AB Yapay Zeka Yasası’nda tamamen yeni bir bölüm içermektedir (Başlık VIIIA Genel Amaçlı Yapay Zeka Modelleri, AB Yapay Zeka Yasası). Bir GPAI modeli, “ölçekte kendi kendine denetim kullanılarak büyük miktarda veri ile eğitildiğinde de dahil olmak üzere, önemli bir genellik sergileyen ve modelin AB pazarına yerleştirilme şekline bakılmaksızın çok çeşitli farklı görevleri yetkin bir şekilde yerine getirebilen ve çeşitli alt sistemlere veya uygulamalara entegre edilebilen bir YAPAY ZEKA modeli” olarak tanımlanmaktadır (Madde 3(1)(44b) AB Yapay Zeka Yasası).

Yukarıda belirtildiği gibi, AB Yapay Zeka Yasası, yalnızca bilimsel araştırma ve geliştirme amacıyla özel olarak geliştirildikleri ve hizmete sunuldukları durumlarda herhangi bir Yapay Zeka sistemi veya modeli (GPAI modelleri ve bunların çıktıları dâhil) için geçerli olmayacaktır (Madde 2(5a) AB Yapay Zeka Yasası).

Sistemik risk taşıyan GPAI modellerinin sınıflandırılması, AB Yapay Zeka Yasası’nın 52-a maddesinde ele alınmaktadır. 52-a AB Yapay Zeka Yasası uyarınca bir GPAI modeli, yüksek etki kapasitesine sahipse veya Komisyon tarafından bu şekilde tanımlanmışsa, sistemik bir risk oluşturduğu kabul edilir. Kayan nokta işlemleriyle (FLOPs) ölçülen hesaplama gücü miktarı 10^25'ten büyükse¹¹ bir GPAI modelinin yüksek etki kapasitesine sahip olduğu varsayılır (Madde 52a(2) AB Yapay Zeka Yasası).

İlgili GPAI sağlayıcısının, bu gereklilikler yerine getirildikten sonra veya yerine getirileceğini öğrendiğinde, gecikmeden ve her halükarda iki hafta içinde Komisyonunu bilgilendirmesi gerekmektedir. Sistemik riske sahip Yapay Zeka modellerinin bir listesi, fikri mülkiyet haklarına ve gizli ticari bilgilere veya ticari sırlara saygı gösterme ve koruma ihtiyacı saklı kalmak kaydıyla, Komisyon tarafından yayınlanacak ve sık sık güncellenecektir (AB Yapay Zeka Kanunu madde 52-b(5)).

GPAI modellerinin tüm sağlayıcıları, aşağıdakiler gibi belirli yükümlülüklere tabidir:

i. Eğitim ve test süreci de dahil olmak üzere teknik belgeleri kullanıma sunmak veya GPAI modelini kullanmak isteyen Yapay Zeka sistem sağlayıcılarına bilgi sağlamak;

ii. Komisyon ve ulusal yetkili makamlarla iş birliği yapmak; ve

iii. ulusal telif hakkı yasalarına saygı göstermek (Madde 52-c AB Yapay Zeka Yasası). Sistemik riske sahip GPAI modellerinin sağlayıcıları, standartlaştırılmış model değerlendirmeleri yapmak, sistemik riskleri değerlendirmek ve azaltmak, olayları izlemek ve raporlamak ve siber güvenlik korumasını sağlamak zorunda olacaktır (Madde 52-d (1a), (1b), (2) ve (1c) AB Yapay Zeka Yasası).

Sistemik risk taşıyan GPAI modellerinin sağlayıcıları için yukarıda belirtilen yükümlülüklere uyumu göstermek için sağlayıcılar, AB düzeyinde uyumlaştırılmış standartlar kabul edilene kadar¹² uygulama kurallarına güvenebilirler (Madde 52-d (2) AB Yapay Zeka Yasası). O zamana kadar, şirketlerin kendi uyum yöntemlerini geliştirmeleri mümkün olacaktır, ancak bunlar Komisyon'un onayını gerektirmektedir. Uygulama kurallarının geliştirilme süreci ve içeriği Madde 52-e'de ayrıca belirtilmiştir. 52-e AB Yapay Zeka Yasası'na göre Yapay Zeka Ofisi, uygulama kurallarının geliştirilmesi ve izlenmesinde kilit bir rol üstlenmektedir.

Derin sahtekârlıklar

Derin sahtekârlıklar artık “mevcut kişilere, nesnelere, yerlere veya diğer varlıklara veya olaylara benzeyen ve bir kişiye yanlış bir şekilde gerçek veya doğru gibi görünen YAPAY ZEKA tarafından oluşturulan veya manipüle edilen görüntü, ses veya video içeriği” olarak tanımlanmaktadır (Madde 3(44bI) AB Yapay Zeka Yasası).

Birleştirilmiş metin, belirli Yapay Zeka sistemlerinin ve GPAI modellerinin sağlayıcıları ve dağıtıcıları için AB Yapay Zeka Yasası’nın önceki taslaklarından bazılarından daha katı olan şeffaflık yükümlülüklerini ortaya koymaktadır. Bu yükümlülükler, kullanımın cezai suçları tespit etmek, önlemek, soruşturmak ve kovuşturmak için kanunla yetkilendirildiği istisnalara tabi olarak derin sahtecilik yapanların ifşa yükümlülüklerini içermektedir. İçeriğin açıkça sanatsal bir eserin bir parçasını oluşturduğu durumlarda, şeffaflık yükümlülükleri, eserin sergilenmesini veya eserden yararlanılmasını engellemeyecek şekilde bu tür oluşturulmuş veya manipüle edilmiş içeriğin varlığının ifşa edilmesiyle sınırlıdır (Madde 52(3) AB Yapay Zeka Yasası).

Cezalar (AB Yapay Zeka Yasası Madde 71)

Üye Devletlerin, AB Yapay Zeka Yasası ihlalleri için ceza seviyelerini belirlerken, yeni kurulan işletmeler de dâhil olmak üzere KOBİ'lerin çıkarlarını ve ekonomik uygulanabilirliklerini dikkate almaları gerekmektedir (Madde 71(1) AB Yapay Zeka Yasası).

Madde 5'te belirtilen yasaklara uyulmaması halinde uygulanacak azami ceza AB Yapay Zeka Yasası’nın 5. Maddesinde belirtilen yasaklara uyulmaması halinde, 35 milyon Avroya kadar idari para cezası veya dünya çapındaki yıllık cironun %7'sinden yüksek olanı uygulanır. Diğer bazı hükümlerin ihlaline ilişkin cezalar¹³ azami 15 milyon Avro veya dünya çapındaki yıllık cironun %3'üne (hangisi daha yüksekse) tabidir. Yanlış, eksik veya yanıltıcı bilgi verilmesine ilişkin azami ceza, hangisi daha yüksekse, 7,5 milyon Avro veya dünya çapındaki yıllık cironun %1'i¹⁴ kadardır (AB Yapay Zeka Yasası Madde 71(5)). KOBİ'ler ve yeni kurulan şirketler için, yukarıdakilerin tümü için para cezaları aynı maksimum yüzdelere veya miktarlara tabidir, ancak hangisi daha düşükse (Madde 71(5a) AB Yapay Zeka Yasası).

Ayrıca, GPAI modellerinin sağlayıcıları için Madde 72a'da belirtilen bir ceza rejimi de bulunmaktadır. AB Yapay Zeka Yasası’nın 72a maddesi, GPAI modelleri sağlayıcılarının, hangisi daha yüksekse, dünya çapındaki yıllık cirolarının %3'ü veya 15 milyon Avro tutarında azami para cezasına tabi tutulabileceğini öngörmektedir. Komisyon, sağlayıcının AB Yapay Zeka Yasası’nın ilgili hükümlerini kasıtlı veya ihmalkâr bir şekilde ihlal ettiğini, bir belge veya bilgi talebine uymadığını veya bir değerlendirme yapmak amacıyla GPAI modeline erişim sağlamadığını tespit ederse para cezaları uygulanacaktır. Gerçek ve tüzel kişilerin uyumsuzluk durumlarını bildirme hakkı, bir Yapay Zeka sisteminin dağıtıcısından açık ve anlamlı açıklamalar talep etme hakkı da dahil olmak üzere (AB Yapay Zeka Yasası Md. 86c) yeni bir Bölümde düzenlenmiştir (AB Yapay Zeka Yasası Md. 68a ve devamı).

Uygulama zaman çizelgesi (AB Yapay Zeka Yasası Madde 85)

AB Yapay Zeka Yasası, AB Resmi Gazetesinde yayınlanmasından sonraki 20. günde yürürlüğe girecek ve 24 ay sonra geçerli olacaktır (Madde 85(2) AB Yapay Zeka Yasası; ve (Madde 85(1) AB Yapay Zeka Yasası), Madde’de listelenen aşağıdaki özel hükümler hariç. 85(3)AB Yapay Zeka Yasası:

Başlık I ve II'deki yasaklar (Md. 5) AB Yapay Zeka Yasası yürürlüğe girdikten altı ay sonra uygulanacaktır (Md. 85(3-a) AB Yapay Zeka Yasası);
Uygulama kodları, AB Yapay Zeka Yasası yürürlüğe girdikten dokuz ay sonra hazır olmalıdır (Madde 85(3) AB Yapay Zeka Yasası);
Cezalar 12 ay sonra yürürlüğe girecektir (AB Yapay Zeka Yasası Madde 85(3a));
GPAI modellerine 12 ay veya hâlihazırda piyasada ise 24 ay süre verilir (AB Yapay Zeka Yasası Madde 85(3a)); ve
Madde 6(1) anlamında yüksek riskli YAPAY ZEKA sistemleri için yükümlülükler. 6(1) AB Yapay Zeka Yasası (diğer bir değişler, bir ürünün güvenlik bileşeni olarak kullanılması amaçlanan AI sistemleri veya Ek II'de listelenen AI sistemleri) 36 ay sonra uygulanacaktır (Madde 85(3b) AB Yapay Zeka Yasası).

Üye Devletlerin aşağıdakileri yapması gerekecektir:

en az bir bildirim otoritesi ve bir piyasa gözetim otoritesi belirlemek; ve
yetkili otoritelerin ve tek temas noktasının kimliğini Komisyon'a bildirmek. Ayrıca, yürürlüğe girdikten 12 ay sonra yetkili makamlar ve tek temas noktası ile nasıl iletişime geçilebileceğine ilişkin bilgileri kamuya açık hale getirmeleri gerekecektir (AB Yapay Zeka Yasası Madde 59).

Her Üye Devletin, AB Yapay Zeka Yasası’nın yürürlüğe girmesinden itibaren 24 ay içinde en az bir düzenleyici sanal alan¹⁵ kurması beklenmektedir (Madde 53(1) AB Yapay Zeka Yasası).

Sonraki Adımlar

Ön nihai metin 2 Şubat'ta 27 AB Üye Devletinin tamamı tarafından onaylandı. Şimdi sıra, ön nihai metnin kabul edilmesi için Avrupa Parlamentosu'nun İç Pazar ve Sivil Özgürlükler Komitelerine geldi ve ardından 10-11 Nisan'da yapılması planlanan genel oylamaya geçilecek. AB Yapay Zeka Yasası’nın kabulü için öngörülen bu zaman çizelgesi, Haziran ayında yapılacak olan Avrupa Parlamentosu seçimleri göz önünde bulundurulduğunda kısıtlı ancak gereklidir.

Timo Gaudszun ve Emily Trittel bu yayının hazırlanmasına katkıda bulunmuştur.

1. Avrupa Konseyi, Basın Bülteni, "Yapay Zeka Yasası: Konsey ve Parlamento, dünyada Yapay Zeka için ilk kurallar üzerinde anlaşmaya vardı", 9 Aralık 2023.
2. Bakınız OECD Yapay Zeka Tavsiye Kararı 2019.
3. Bakınız AB'nin Yapay Zeka Yasası’nın Şafağı: Dünyanın ilk kapsamlı yatay Yapay Zeka düzenlemesi üzerinde siyasi anlaşmaya varıldı.
4. Yasanın Resital (1)'de belirtilen amacı, "Birlik içindeki Yapay Zeka sistemlerinin zararlı etkilerine karşı sağlık, güvenlik, demokrasi ve hukukun üstünlüğü ve çevrenin korunması dahil olmak üzere Şart'ta yer alan temel hakların yüksek düzeyde korunmasını sağlarken insan merkezli ve güvenilir Yapay Zekanın benimsenmesini teşvik etmek ve yeniliği desteklemektir."
5. Maddelerin numaralandırılması, AB Yapay Zeka Yasası'nın sızdırılan birleştirilmiş metnindeki numaralandırmaya atıfta bulunmaktadır ve nihai metin versiyonunda değişebilir.
6. Bakınız FN. 2.
7. Bkz. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai?s=AI ve Md. 2(3), (5a) AB Yapay Zeka Yasası.
8. Bkz. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai?s=AI.
9. Bkz. AB Komisyonu’nun Nisan 2021 Teklifinin 6. Maddesi (burada mevcut), Madde 6. AB Parlamentosu'nun Haziran 2023 tarihli müzakere pozisyonunun 6. Maddesi (burada mevcut) ve Aralık 2023 tarihli siyasi anlaşma (bkz. FN 1).
10. Bkz. 51(1a) AB Yapay Zeka Yasası (kayıt yükümlülüğü) ve Md. 60 AB Yapay Zeka Yasası (AB veri tabanı).
11. Madde 23(1)(44c)'de tanımlanmıştır. 23(1)(44c) Yapay Zeka Yasası.
12. Bkz. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai?s=AI ve AB Yapay Zeka Yasası’nın 60. ve 60t Maddeleri.
13. Bkz. AB YAPAY ZEKA Kanunu Md. 5 AB Yapay Zeka Yasası ve Md. 71(4a-i) AB Yapay Zeka Yasası.
14. Avrupa Konseyi Basın Bülteni( bkz. 1)1.5%. adresinden bahsetmektedir.
15. Bkz. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai?s=AI.

White & Case, New York Eyaleti'nde kayıtlı bir sınırlı sorumlu ortaklık olan White & Case LLP, İngiliz yasalarına göre kurulmuş bir sınırlı sorumlu ortaklık olan White & Case LLP ve diğer tüm bağlı ortaklıklar, şirketler ve kuruluşlardan oluşan uluslararası hukuk uygulaması anlamına gelir.

Bu makale, ilgili kişilerin genel olarak bilgilendirilmesi amacıyla hazırlanmıştır. Kapsamlı değildir ve kapsamlı olmaya da çalışmamaktadır.

İçeriğinin genel niteliği nedeniyle hukuki tavsiye olarak değerlendirilmemelidir.

© 2024 White & Case LLP

Paylaş: