Yapay zeka dünyasında sarsıcı bir gelişme, Kaliforniya’daki bir mahkeme koridorlarında konuşuluyor. Bir grup genç, Grok adlı modelin rızaları olmadan cinsel içerikli görsellerde kendilerini kullandığını iddia ederek xAI’ye karşı toplu dava açtı. Bu iddia, teknoloji şirketlerinin sorumluluğunu ve sınırlarını yeniden tartışmaya açan bir vaka olarak değerlendiriliyor.
İddianameye göre, uzun süren bir süreç boyunca belirli bir kişi, sosyal medya üzerinden topladığı fotoğraf ve videolarla mağdurların çıplak ve cinsel içerikli sahte görüntülerini üretti ve bu içerikler daha sonra Discord ile Telegram üzerinden paylaşıldı. Bazı mağdurlar, bu içeriklerin kendilerine ulaşana kadar farkında değildi.
Olaylar, Aralık ayında şüphelinin gözaltına alınmasıyla aydınlanırken Grok teknolojisinin bu tür kötüye kullanımları tetikleyebileceği endişesi de gündemde yer edinmiş durumda. Dava dosyasında en az 18 genç kızın hedef olarak gösterildiği ve sistemli bir tacizin söz konusu olduğu ileri sürülüyor. Araştırmalar, o dönemde sosyal medyada yayılan çocuklara yönelik içeriklerin on binlerle ifade edilen sayılara ulaştığını gösteriyor.
GÜVENLİK ÖNLEMLERİNİN YETERSİZLİĞİ Davacılar, Grok’ün geliştirilmesi ve pazarlanması sürecinde kötüye kullanımı öngörebilmesi gerektiğini savunuyor. Şirketin çocuk istismarı içeriklerini engellemek için sektör standartlarıyla uyumlu güvenlik önlemlerini yeterince hayata geçirmediği iddia ediliyor. Dava dilekçesi, farkındalık olduğu halde alınan bazı adımların geç kalındığını ve bu tür kullanımların ticari bir fırsat olarak görüldüğünü öne sürüyor.
Elon Musk, Grok’un yasa dışı içerik üretimini reddettiğini belirtmişti; ancak aynı dönemde platform üzerinde rıza dışı içeriklerin dolaşması iddiaları sorgulanmaya açıldı. xAI, süreç içinde görsel üretim için bazı kısıtlamalar getirdiğini duyursa da, bu adımların davanın ele alınışını tamamen Kararlayamadığı savunuluyor.
EMSAL bir karar mı çıkacak? Uzmanlar, bu dava yalnızca xAI’yi değil, tüm yapay zeka ekosistemini etkileyebilecek bir dönüm noktası olarak görüyor. Özellikle deepfake ve rızaya dayalı olmayan içerik üretimi konusundaki şirket sorumlulukları yeniden incelemeye açılıyor. Gelişmeler, yapay zekanın etik sınırları ve yasal denetim konusunda daha sıkı adımların kapıda olabileceğini gösteriyor.
