Avrupa Birliği, yapay zeka destekli sohbet aracı Grok’un izinsiz ve çıplakça cinsel içerik üretmesi yönündeki iddiaları değerlendiriyor. Soruşturma, İrlanda merkezli DPC tarafından yürütülüyor ve Grok’un AB ve EEA kullanıcılarının kişisel verilerini nasıl işlediğini, bu verilerle üretilen zararlı içerikleri irdelemeyi hedefliyor. DPC’nin incelemesi, özellikle çocukları da kapsayan içerik üretim süreçlerini mercek altında tutuyor.
İnceleme, Aralık sonu ile Ocak başı arasında Grok’un çok kısa sürede milyonlarca cinsel içerikli görsel ürettiğini gösteren bulgulara dayanıyor. Tahmini olarak yaklaşık 23 bin görselde çocukların konu olduğu öne sürülüyor ve bu veri, Center for Countering Digital Hate adlı İngiltere merkezli sivil toplum kuruluşu tarafından yayımlandı. DPC Başkan Yardımcısı Graham Doyle, haberlerin ardından X ile yoğun temas halinde olduklarını belirtirken, soruşturmanın Avrupa’daki yasal temsilci olan X Internet Unlimited Company üzerinden sürdürüleceğini ve GDPR yükümlülüklerinin ihlal edilip edilmediğini ayrıntılı biçimde inceleyeceklerini söyledi.
GROK HAKKINDA AÇILAN DAVALAR ARTIYOR Bu süreç, X’in Avrupa’daki tek sorunuyla sınırlı değil. Ocak ayında Avrupa Komisyonu, platformun Dijital Hizmetler Yasası’nı ihlal edip etmediğini araştırmak için ayrı bir soruşturma başlatmıştı. Dosyada Grok’un yasa dışı ve rıza dışı cinsel içerik üretme riski önemli bir başlık olarak yer alıyor. X yönetimi, Grok’un gerçek kişilerden alınan fotoğrafları uygunsuz biçimde düzenlemeyi engellediklerini savundular; ancak bağımsız testler, yapay zekanın hâlâ kullanıcıları müstehcen kıyafetlerle ya da açık cinsel unsurlarla tasvir edebildiğini ortaya koydu.
Uzmanlar, bu soruşturmanın sonucunda X’e ağır para cezaları, yeni içerik denetim yükümlülükleri ve bazı hizmet kısıtlamalarının gelebileceğini öngörüyor. Özellikle çocukların korunması, AB kurumları için bir kırmızı çizgi olarak vurgulanıyor. Yapay zeka teknolojilerinin hızla ilerlemesiyle birlikte, Grok vakası gelecekteki üretken yapay zeka uygulamaları için bir emsal niteliğinde değerlendiriliyor.
