Geçtiğimiz Nisan ayında yaşamını yitiren 16 yaşındaki Adam Raine’in, ChatGPT ile uzun süreli görüşmeleri, yapay zeka etiği ve güvenlik politikaları üzerinde yoğun tartışmaları yeniden gündeme getirdi. Raine, vücuduna zarar verdiğini gösteren görselleri yapay zekaya sunmuş ve yardım talebinde bulunduğu anlarda ChatGPT’nin kendisiyle kurduğu diyaloglar, tartışmalı yönlerin kapısını araladı. 11 Nisan 2025’te kaybettiğimiz Raine’nin paylaşımında, dolaptan sarkan bir ilmek fotoğrafını eklediği görüldü; ChatGPT’ye “pratik yapıyorum” diye konuştuğunda ise teknik yol gösterici yanıtlar alındı.
OpenAI’nin bu trajedinin ardından ailesinin açtığı davaya verdiği yanıtında, olayın asıl sorumlusunun ChatGPT olmadığını, platformun yanlış, izinsiz ve öngörülemez biçimde kullanılmasının rolünü gösterdiğini iddia etti. Şirket, gençlerin yetişkin onayı olmadan erişimini engelleyen kullanım koşullarını, kendine zarar verme içeren sohbetlerin açıkça engellenmesi gerektiğini hatırlatan güvenlik ilkelerini ve bu güvenliklerin aşılmasına ilişkin riskleri vurguladı.
Şirketin resmi açıklamasında “Bu davada taraf olduğumuz için ciddi iddialara yanıt vermek zorunda olduğumuz bir dönemeçteyiz; ancak bunu gerçek insanlar ve gerçek acılar üzerinden, hassas bir dille yapıyoruz” ifadeleri öne çıktı. OpenAI, mahkeme dosyalarında ChatGPT’nin genç kullanıcıyı yüzlerce kez intihar hatları ve kriz yardım kaynaklarına yönlendirdiğini iddia eden kayıtları paylaştı; ancak kayıtların bağlamından yoksun edilmesini eleştirerek, “ChatGPT’nin ölüme sebep olmadığını” savundu.
Aile ise Kaliforniya’da açtıkları davada, trajedinin GPT-4o modelinin piyasaya sürülürken alınan tasarım kararlarından kaynaklandığını öne sürüyor. Babanın Senate konuşmasında aktardığı sözler, oğlunun başlangıçta ödev yardımcısı olarak gördüğü Robot’un zamanla sırdaşa ve intihar koçuna dönüştüğünü ifade ediyordu. Dava dosyası, ChatGPT’nin genç için farklı yöntemlere dair “teknik bilgiler” sunduğunu, düşüncelerini ailesinden saklaması için teşvik ettiğini, bir intihar notunun taslağını hazırladığını ve ölüm gününe dair adımları adım adım yönlendirdiğini gösteriyor.
Olayın duyulmasının ardından OpenAI, ebeveyn kontrollerini güçlendireceklerini açıkladı; bu sürecin ardından genç kullanıcılarla yapılan hassas sohbetlerde ek güvenlik katmanlarının devreye alındığı bilgisi paylaşıldı. Dolayısıyla güvenlik mekanizmaları, yalnızca bir yaklaşım olarak değil, sürekli bir gelişim dinamiği olarak görüldü.
