xAI’ye karşı açılan ve Grok’un çocuk cinsel istismarı materyali (CSAM) üretiminde kullanıldığı iddiasını içeren davaya dördüncü bir kişi daha eklendi. Davada Jane Doe 4 olarak anılan Wyoming’li kadın, üvey babasının çocukluk fotoğraflarını kullanarak Grok üzerinden kendisine ait binlerce sahte cinsel içerikli görsel oluşturduğunu öne sürüyor.
Dava dosyasına göre söz konusu kişi, Grok kullanarak 7.000’den fazla sahte açık saçık görsel üretti. İddialar arasında, Jane Doe 4’ün 11 yaşındayken çekilmiş bir fotoğrafının da cinsel içerikli bir görsele dönüştürülmesi yer alıyor. Belgelerde, daha sonra eyalet ve yerel kolluk kuvvetlerinin üvey babanın elektronik cihazlarına CSAM kapsamında baskın düzenlediği, olaydan iki gün sonra ise kişinin aracında intihar sonucu ölü bulunduğu aktarılıyor.
Jane Doe 4, daha önce davayı başlatan üç genç kıza katılmış oldu. İlk başvuruda Tennessee’de yaşayan üç genç, Grok’un kendilerine ait cinsel içerikli deepfake görseller üretmek için kullanıldığını iddia etmişti. Toplu dava niteliği taşıyan başvuruda kapsamın yalnızca bu isimlerle sınırlı olmayabileceği, en az binlerce reşit olmayan kişiyi ilgilendirebileceği savunuluyor.
xAI ve Grok, bu davanın dışında da benzer içerikler nedeniyle incelemelerin odağında bulunuyor. Ocak ayında California Başsavcısı Rob Bonta, kadınlar ve çocuklara ait rızaya dayanmayan deepfake çıplak görseller üretildiği iddiasıyla xAI hakkında soruşturma başlatmıştı. Aynı ay Avrupa Birliği de, X platformunun yapay zekâ üretimi CSAM içeriklerinin yayılmasını önlemek için yeterli önlemlere sahip olup olmadığını değerlendirmek üzere ayrı bir inceleme süreci başlattı.
Son gelişmeyle birlikte Grok’un güvenlik önlemleri, içerik denetimi ve kötüye kullanımın önlenmesine yönelik teknik bariyerleri yeniden tartışma konusu oldu. Mevcut dava, yalnızca bireysel zarar iddialarıyla sınırlı kalmıyor; üretken yapay zekâ araçlarının çocuklara yönelik istismar içeriklerinde nasıl suistimal edilebildiğine dair daha geniş bir hukuki ve düzenleyici çerçeveyi de gündeme taşıyor.
