Google’ın Yapay Zeka İlkeleri Üzerindeki Değişiklikler
Google, yapay zeka ilkelerini 2018 yılında ilk kez yayımlamasının ardından, önemli bir değişiklikle karşımıza çıktı. The Washington Post’un dikkatini çektiği bu değişiklik, internet devinin silahlar veya gözetleme teknolojileri için AI araçları “tasarlamayacağına veya dağıtmayacağına” dair verdiği sözleri belgesinden çıkarmasıyla kendini gösterdi. İlk olarak belirttiği bu taahhütler, belgenin mevcut sürümünde yer alan “üzerinde çalışmayacağımız uygulamalar” başlıklı bir bölümde yer alıyordu. Ancak, bu bölüm artık belgede bulunmuyor.
Yeni belgede yer alan “sorumlu geliştirme ve dağıtım” başlıklı bölümde Google, “kullanıcı hedefleri, sosyal sorumluluk ve uluslararası hukuk ile insan haklarının yaygın olarak kabul edilen ilkeleriyle uyumlu olacak şekilde uygun insan denetimi, gerekli özeni gösterme ve geri bildirim mekanizmaları” uygulamayı taahhüt ediyor. Ancak, bu yeni taahhütler, şirketin yalnızca bir ay önceki AI ilkelerinde verdiği net ve belirgin taahhütlere kıyasla çok daha geniş kapsamlı ve belirsiz bir yapı sergiliyor.
- Örneğin, şirket daha önce “temel amacı veya uygulaması insanlara zarar vermek veya doğrudan kolaylaştırmak olan silahlar veya diğer teknolojilerde” kullanılmak üzere AI tasarlamayacağını duyurmuştu.
- AI gözetleme araçları konusunda ise “uluslararası kabul görmüş normları” ihlal eden teknolojiler geliştirmeyeceğini belirtmişti.
Google’ın yayınladığı blog yazısında, DeepMind CEO’su Demis Hassabis ve Google’da araştırma, laboratuvarlar, teknoloji ve toplum kıdemli başkan yardımcısı James Manyika, yapay zekanın “genel amaçlı bir teknoloji” olarak ortaya çıkmasının yeni bir politika değişikliğini gerektirdiğini ifade ediyor. Yazıda, “Demokrasilerin, özgürlük, eşitlik ve insan haklarına saygı gibi temel değerler tarafından yönlendirilen AI gelişiminde liderlik etmesi gerektiğine inanıyoruz. Bu değerleri paylaşan şirketler, hükümetler ve kuruluşlar, insanları koruyan, küresel büyümeyi teşvik eden ve ulusal güvenliği destekleyen AI yaratmak için birlikte çalışmalıdır.” ifadelerine yer veriliyor.
Ayrıca, ikili şu noktayı da vurguluyor: “AI İlkelerimiz tarafından yönlendirilerek, bilimsel odak noktamız ve uzmanlık alanlarımızla uyumlu AI araştırmalarına ve uygulamalarına odaklanmaya devam edeceğiz. Uluslararası hukuk ve insan hakları konusunda yaygın olarak kabul görmüş ilkelerle tutarlı kalacağız; her zaman belirli çalışmaları, faydaların potansiyel risklerden önemli ölçüde daha ağır basıp basmadığını dikkatlice değerlendirerek değerlendireceğiz.”
Google, ilk olarak ABD Savunma Bakanlığı ile imzaladığı ve dron görüntülerini analiz edecek bir AI yazılımı geliştirmesini gerektiren tartışmalı bir sözleşme olan Project Raven sonrasında 2018 yılında AI ilkelerini yayımlamıştı. Bu durum, çok sayıda Google çalışanının hükümetle yapılan bu sözleşmeye karşı protesto amacıyla istifa etmesine ve binlerce çalışanın sözleşmeye karşı bir dilekçe imzalamasına yol açmıştı.
