Yapay Zeka, Hukuk, Etik ve Uyum 
Makineler Rüyalarında Etik Görür mü?

Astellas Pharma Etik ve Uyum
Direktörü Av. Altuğ Özgün ve
Hukukçu Süneyye Zeyrek

İşgücünden tasarruf etmek isteyen büyük ölçekli hukuk firmaları ve şirketler, daha az tecrübe ve uzmanlık gerektiren işlerin robotlara yaptırılabileceğini söylüyorlar. Ancak iş, yüz yüze iletişim, empati, etkin dinleme, duygusal zeka gibi nitelikler gerektiren alanlara, yani etik ve uyuma gelince durum değişiyor. Yapay zeka belki etik ve uyum yöneticilerinin işlerini kolaylaştırabilir ve verimi artırabilir ancak yapay zekaya güvenerek insansız bir etik ve uyum departmanı oluşturulmasının başarısızlıkla sonuçlanacağını tahmin etmek zor değil.

Gelecekte makinelerin dünyayı ele geçirmesi fikri her zaman bilimkurgu dünyasının vazgeçilmez konularından biri olmuştur. İnsanoğlunun geliştirdiği makinelerin bir süre sonra yaratıcılarını kusurlu bulması ve insanlığı yok etmeye karar vermesi sonucunda kalan bir grup cesur insanın mücadelesi Terminatör ve Matrix gibi geniş kitlelerce izlenen filmlerde işlenmiştir. 

Bilim kurgudan gerçek dünyaya döndüğümüz­de ise yakın zamanda gündemi epeyce meş­gul eden, dünyanın insana en çok benzeyen robotu “Sophia” ile karşılaşıyoruz. Sophia, kendisi ile yapılan ilk röportajda insan ırkını yok etmek istiyor musun sorusuna “evet” cevabı vererek herkesi korkutmuştu. Ancak robotu üreten Hanson Robotics firmasına göre Sop­hia tamamen zararsız, insanlara yardım etmek ve onlarla iletişime geçmek için tasarlanmış. Aynı fikri paylaşan Suudi Arabistan hüküme­ti de geçtiğimiz aylarda Sophia’ya vatandaşlık verdi. Sophia ile yapılan diğer görüşmelerde, kendisinin insan mimiklerini çok başarılı tak­lit ettiği ve sorulan sorulara çok zeki cevaplar verdiği görülüyor. Sophia, yapay zekanın dün­ya için iyi olduğunu, insanlara birçok şekilde yardım edebileceğini düşünmekle beraber, bu teknolojiyi geliştirirken sonuçlarının iyi düşü­nülmesini, gelecekte insanların çalışabileceği iş alanlarının daralma ihtimalinin altını çiziyor.



DÜNYANIN İNSANA EN ÇOK BENZEYEN ROBOTU “SOPHIA”, KENDİSİ İLE YAPILAN İLK RÖPORTAJDA İNSAN IRKINI YOK ETMEK İSTİYOR MUSUN SORUSUNA “EVET” CEVABI VEREREK HERKESİ KORKUTMUŞTU.

Otomasyon sistemleri ile şu zamana kadar işgücünü esas alan meslekleri ele geçiren teknoloji, artık beyaz yaka meslekleri üzerinde de tehdit oluşturmaya başladı. Yapay zeka teknolojisinin gelişmesi ve gündelik yaşantı içinde yer edinmeye başlamasının akabinde, bankacılık başta olmak üzere bazı meslekler artık geçerliliklerini yitirmeye başladı. Hukuk ve uyum dünyasına baktığımızda geçmişte bu teknolojik devrimin özellikle hukuk sektöründe yer bulmasına imkan verilmezken, son birkaç yılda geliştirilen yapay zekalı avukat prototipleri, bu durumun hiç de imkansız olmadığını ortaya çıkardı. Muhakeme yeteneği ve ahlaki değerleri göz önünde bulundurma gibi meziyetler gerektiren bir meslekte, yapay zekânın ne kadar etkin olabileceği ise tartışma konusu. 

AVUKATLIKTA YAPAY ZEKA 
İşgücünden tasarrufetmek isteyen büyük ölçekli hukuk firmaları ve şirketler, daha az tecrübe ve uzmanlık gerektiren işlerin bu robotlara yaptırılabileceğini söylüyorlar. Bu görevler arasında otomatik olarak yapılan rutine bağlanmış, mesela basit sözleşmeler, raporlamalar ve alacak takibi gibi işler bulunuyor. İddiaya göre ise, 2020-2025 yılına kadar bu robotların hukuk alanında kullanılmaları yaygınlaşacak. Bu durum avukatları veya avukat adaylarını korkutmalı mı yoksa motive mi etmeli sorusu sorulduğunda, Amerikan Barosu’nun Hukuk Teknolojisi Kaynakları Merkezi’nin yönetim kurulu üyesi ve avukat Sofia Lingos, “İkisi de” cevabını vermiş. Lingos’a göre, yapay zekayı yenemeyeceksek ona katılmalıyız. Ayrıca yapay zekanın araç olarak kullanıldığında iş yükünü iş yükünü hafifletip zaman kazandırabileceği iddia ediliyor.(1)



“ROSS” isimli başka bir yapay zeka yazılımı avukat şu ana kadar 10 farklı hukuk firması tarafından satın alındı. ROSS’u geliştiren firmanın açıklamalarına göre, hukuk firmaları onu kullanarak hem mekanik işlere zaman harcamayacakları için zaman tasarrufu yapabilecek hem de uzun vadede maddi kazanç elde edebilecek.⁽²⁾ Watson IBM yazılımından gücünü alan ROSS, veri hafızasıyla 13 yıl önce sonuçlanan bir davanın gerekçesine bile saniyeler içinde ulaşabiliyor. Yaratıcısı Andrew Arruda’nın açıklamalarına göre, en çok zorlandıkları alan ROSS’un çalışma arkadaşlarıyla nasıl iletişim kuracağı konusuydu. Daha gerçekçi olması açısından karşısındaki kişinin sestonu ve üslubuna göre cevap verme yeteneğiyle donatıldı. Yaratıcılarına göre, daha az insan gücü gerektiği için, yapılan bu tasarrufdaha fazla müvekkile daha ucuza hizmet vermek olarak geri dönecek.⁽³⁾ Bu yeni gelişmelerin ışığında, hukukla ilgili mesleklerin nasıl bir değişime uğrayacağı ve gelecekte  avukatların işsiz kalıp kalmayacağı ise merak konusu.



Deloitte Insight Report verilerine göre, hukuk alanındaki yaklaşık 100 bin görev önümüzdeki 20 yıl içerisinde otomatiğe bağlanıp yapay zeka tarafından icra edilebilecek hale gelecek. Aynı rapor önümüzdeki yıllarda yaşanacak reformlardan sonra hukuk sektöründeki insanların yaklaşık %40’ının işlerini kaybedeceğini iddia ediyor.⁽⁴⁾ Geçmiş davaların sonuçlarını ve gerekçelerini, yürürlükteki yasaları ve genel sözleşme maddelerini sistemine kaydedip bu konularla ilgili çoğunlukla isabetli kararlar veren ve önerilerde bulunan yapay zekalı avukatların, muhakeme ve ahlak değerlendirmesi gerektiren konularda ne yapabileceği ise bilinmiyor. Bu durumda bu robotların sınırlı görevlerde kullanılmaları kaçınılmaz gibi görünüyor. Yapay zeka mekanik işlerde kullanıldıkları sürece etik açıdan sorun teşkil etmeyecek ama hüküm verme aşamasında kullanılmaları çok ciddi sorunlar çıkaracağa benziyor.

YARGIDA YAPAY ZEKA 
2016 yılında ABD’de Wisconsin v. Eric Loomis davasında, yazılım algoritması kullanılarak hüküm belirlemek konusu gündeme gelmiş ve bunun ne kadar etik olup olmadığı konusu tartışma yaratmıştı. Verilen kararda ise bu algoritmanın hüküm açısından uygun olduğu kabul edilmişti. Davada kullanılan Northpoint Inc isimli özel bir şirkete ait içerisinde pek çok veri grafiği taşıyan Compas adındaki yazılım, Eric Loomis isimli şahsın tekrar suç işleme olasılığının yüksek olduğunu ve “yüksek riskli bir birey” olduğunu belirledi. Davaya bakan hakimler yazılımın ortaya çıkardığı sonuçları dikkate aldı ve bunun sonucunda algoritmayla mahkûmiyetine karar verildi. Karara itiraz eden Loomis, adil bir biçimde yargılanmadığından bahisle davayı Wisconsin Yüksek Mahkemesi’ne taşıdı ama sonucu değiştiremedi. Kararı veren hakimler, yazılım dikkate alınmasa bile, eldeki verilere bakılarak aynı sonucun ortaya çıkacağını söylediler. Farklı bir hakim ise algoritmanın özellikle siyahi va¬tandaşlara yönelik daha önyargılı ve adaletsiz davranabileceğini iddia etti ancak şirket bu iddiaları yalanladı.⁽⁵⁾ Kararı eleştiren hukukçular; emsal niteliği taşıması durumunda bu tarz kararların etik açıdan sorunlu olduğunu, yargıda adalet ve eşitlik ilkelerinin zedelenebileceğini düşünüyor.



2016 YILINDA ABD WINCONSIN’DE GÖRÜLEN BİR DAVADA, NORTHPOINT INC İSİMLI ÖZEL BİR ŞİRKETE AİT, İÇERİSİNDE PEK ÇOK VERİ GRAFİĞİ TAŞIYAN COMPAS ADINDAKI YAZILIM, ERIC LOOMIS İSİMLİ ŞAHSIN TEKRAR SUÇ İŞLEME OLASILIĞININ YÜKSEK OLDUĞUNU BELİRLEDİ VE GÜMBÜRTÜ KOPTU.

ETİK VE UYUM DEPARTMANLARINI NASIL ETKİLEYECEK? 
Yapay zeka, etik ve uyum alanında da kendine yer edinecek gibi duruyor. Yapılan çalışmaların ortaya çıkardığı prototiplerin, şirket içindeki dolandırıcılıkları belirleyip, vaka araştırması yapma ve gerektiği zaman özenli inceleme (due diligence) yapabilme özelliklerini barındırdığı iddia ediliyor. Risk analizi, izleme (monitoring), şirket içi ihbar hatlarının (hot line) ilk incelemesi, üçüncü tarafözenli incelemesi gibi konular da yapay zekanın etkin kullanılabileceği alanlar arasında. 

Otomasyona bağlamış hukuksal konularda olduğu gibi, neredeyse sınırsız olan veri hafızası sayesinde saniyeler içinde aramalar yapıp sonuçlarını paylaşma kabiliyetinden dolayı, etik ve uyum çevrelerinde bu sistemlere talep artabilir. Normal bir insanın yapabileceği mekanik işleri çok daha kısa sürede ve çok daha ucuza yapması, yapay zekanın kuşkusuz büyük şirketler arasında talep görmesine sebep olacak. Dahası, denetim, araştırma ve karar verme aşamalarında kullanılınca, denetim etkinliğini artıracak ve masrafları düşürecek. Bu da şirketteki verim oranını yükseltebilir.⁽⁶⁾ 



HER NE KADAR YAPAY ZEKANIN ETİK VE UYUM YÖNETİCİLERİNİN İŞLERİNİ KOLAYLAŞTIRACAĞI VE VERİMİ ÇOĞALTACAĞI ÖNGÖRÜLMÜŞ OLSA DA, SADECE YAPAY ZEKAYA GÜVENEREK İNSANSIZ BİR ETİK VE UYUM DEPARTMANININ OLUŞTURULMASI BAŞARISIZLIKLA SONUÇLANACAKTIR

Bununla beraber “doğru olanı yap!” şeklinde sloganlaştırılan etik ve uyum kültüründe; neyin doğru olup neyin yanlış olduğu şirket kültürüne, coğrafyaya veya problem içindeki insan faktörüne göre değişime uğrayabilir. Etik dünyasında çokça tartışılan troleybüs probleminde belirtildiği üzere, bazen soruna mantık açısından en pragmatik olan cevap, etik açıdan doğru olmayabilir. Bir yapay zekanın bu gibi etik açmazları nasıl çözebileceği ise tartışmaların odak noktasını oluşturuyor. 

Bilindiği üzere etkin bir etik ve uyum programı sağlanması, şirket içinde bir etik ve uyum kültürünün oluşması ile mümkündür. Çalışanların prosedür ve politikalara bağlılıklarını sağlamak ve koruyabilmek için etik ve uyum yöneticisinin insan ilişkilerinin güçlü olması çok önemlidir. Etik ve uyum insanlarla, dolayısıyla kültürle alakalıdır. Yüz yüze iletişim, empati, etkin dinleme, duygusal zeka gibi nitelikler etik ve uyum  yöneticisi için elzem özelliklerdendir. Dolayısıyla, her ne kadar yapay zekanın etik ve uyum yöneticilerinin işlerini kolaylaştıracağı ve verimi çoğaltacağı öngörülmüş olsa da, sadece yapay zekaya güvenerek insansız bir etik ve uyum departmanının oluşturulması başarısızlıkla sonuçlanacaktır.⁽⁷⁾ Sonuç olarak gelecekte de günümüzde olduğu gibi gelişmiş teknolojiden yaralanan, iletişimi ve empatisi kuvvetli etik ve uyum yöneticileri, şirketleri risklerden korumak için tercih edilecek gibi… ♦

Dipnotlar: 
(1) https://www.cnbc.com/2017/02/17/lawyers-could-be-replaced-by-artificial-intelligence.html 
(2) http://www.rossintelligence.com/MTRKj/ 
(3) http://www.businessinsider.com/the-worlds-first-artificially-intelligent-lawyer-gets-hired-2016-5?IR=T 
(4) https://www.legaltechnology.com/latest-news/ deloitte-insight-100000-legal-roles-to-be-automated/ 
(5)https://www.nytimes.com/2017/05/01/us/politics/ sent-to-prison-by-a-software-programs-secret-algorithms.html 
(6 http://www.corporatecomplianceinsights.com/ artificial-intelligence-new-superpower-business-compliance/ 
(7) http://www.gamingtechlaw.com/2016/11/ compliance-2025-challenges

Kaynak : 
TEİD Inmagazine 
Elektrik Tesisat Portalı olarak  TEİD Etik ve İtibar Derneği 'ne  yayın izni verdikleri için teşekkür ederiz.