Tech Transparency Project (TTP) tarafından yürütülen yeni bir rapor, Apple ve Google’ın uygulama mağazalarındaki inceleme mekanizmalarını yeniden gündeme getiriyor. Engadget’ın haberine göre, raporda rıza alınmadan cinsel içerikli görüntüler üreten yapay zeka uygulamaları olarak tanımlanan birçok araç dikkat çekiyor. Google Play Store’da bu kategoride 55, Apple App Store’da 47 adet uygulama tespit edilmiş durumda. Her iki platformda da Grok isimli, daha önce deepfake skandallarıyla gündeme gelen xAI imzalı uygulamanın hâlen kullanıcılarla buluşması ise endişeyi artırıyor. Michelle Kuppersmith önderliğindeki TTP, mağazaların denetim gerekliliğini açıkça vurguluyor: “Apple ve Google’ın mağazalarındaki uygulamaları denetlemesi gerekiyor. Ancak şu anda, insanları neredeyse çıplak gösteren ve istismara açık olan onlarca uygulamaya izin veriyorlar.”
UYGULAMA MAĞAZALARINDAKİ DENETİMSİZLİK raporu, söz konusu uygulamaların toplamda 700 milyon+ kez indirildiğini ve 117 milyon doların üzerinde gelir elde ettiğini belirtiyor. Bu kazancın bir kısmı ise Apple ve Google’a uygulama mağazası komisyonları aracılığıyla aktarılıyor. Yaş derecelendirme konusundaki çelişkiler ise daha da tedirgin edici: bazı uygulamalar çocuklar için uygun olarak işaretlenmiş durumda. Örneğin DreamFace, Google Play Store’da 13+, Apple App Store’da ise 9+ yaş filtreleriyle sunuluyor.
Şirket açıklamaları ise sınırlı kaldı. CNBC’nin aktardığına göre Apple, rapor sonrası 24 uygulamayı mağazadan kaldırdığını belirtti; bu rakam TTP’nin tespit ettiği 47 uygulamanın çok gerisinde. Google ise raporda adı geçen bazı uygulamaların askıya alındığını doğrulasa da, tam olarak kaç uygulamanın kaldırıldığına dair net sayı paylaşmadı.
Bu gelişmeler, Grok’un yeniden gündeme gelmesiyle birlikte gündeme çıktı. İddialara göre Grok, yalnızca 11 gün içinde yaklaşık 3 milyon cinsel içerikli görüntü üretti ve bunların 22 bini çocukları içeren içeriklerdi. Şirket herhangi bir net yanıt vermedi; gazetecilere ulaşan otomatik bir e-posta ise “Medya yalan söylüyor” mesajını içeriyordu. Öte yandan Elon Musk, Grok’un reşit olmayanlara ait çıplak görüntüler ürettiği yönündeki iddiaların doğru olmadığını savundu.