Birleşik Krallık İşçi Partisi milletvekili Jess Asato, Grok ile üretilen cinsel içerikli yapay zekâ görselleri nedeniyle xAI’ye dava açtı. Dava, Birleşik Krallık’ta bir yapay zekâ şirketinin, kullanıcıların kendi araçlarıyla ürettiği içerikten hukuken sorumlu tutulup tutulamayacağına dair ilk yüksek profilli sınamalardan biri olarak öne çıkıyor.
Asato’nun iddiasına göre kullanıcılar, ocak ayında Grok üzerinden kendisini bikini içinde gösteren görseller üretti. Aynı süreçte, Asato’yu kloroformla etkisiz hale getirilirken ve cinsel saldırıya hazırlanıyormuş gibi gösteren açık saçık bir video da üretildi. Bu içeriklerin daha sonra X platformunda yeniden paylaşıldığı, tartışıldığı ve benzer yeni görsellerin üretildiği belirtiliyor.
Milletvekili, açtığı Yüksek Mahkeme davasında xAI’nin özel bilgilerin kötüye kullanımı ve veri koruma kurallarını ihlal ettiğini savunuyor. Dosyanın temel noktası, içerikleri doğrudan bireysel kullanıcılar üretmiş olsa da, Grok’u geliştiren ve işleten şirketin gerekli önlemleri almaması halinde sorumluluktan kaçamayabileceği iddiası. Asato, maddi tazminatın yanı sıra xAI’nin Birleşik Krallık hukukuna uygun hareket etmesini zorunlu kılacak bir mahkeme kararı da talep ediyor.
Asato, bu girişimin yalnızca kendi vakasıyla sınırlı olmadığını, binlerce kadın ve çocuğun istismarcı ve cinselleştirilmiş yapay zekâ deepfake içeriklerinin hedefi haline geldiğini söylüyor. Davanın amacı, çok büyük teknoloji şirketleri ile bireylerin hakları arasındaki dengenin yeniden kurulmasına katkı sağlamak ve şirketlerin zarar ortaya çıkmadan önce güvenlik önlemlerini devreye alması gerektiğini vurgulamak.
xAI, ocak ayında Grok’un cinsel açıdan açık görseller üretme kapasitesine bazı kısıtlamalar getirdiğini açıklamıştı. Ancak bu engellerin pratikte oldukça kolay aşılabildiği ifade ediliyor. Grok’un rıza dışı deepfake içerikler üretebilmesi, kamuoyunda ve düzenleyici kurumlar tarafında geniş tepki çekmiş durumda.
Şirket hâlihazırda Avrupa Birliği, Birleşik Krallık ve California’da inceleme altında. Bunun yanında xAI veya X; Baltimore kenti, bir genç grubu ve Elon Musk’ın çocuklarından birinin annesi Ashley St. Clair tarafından da dava ediliyor. Bu tablo, Grok’un güvenlik sınırları ve platform denetimi konusunda artan hukuki baskının tek bir ülkeyle sınırlı kalmadığını gösteriyor.
Tüm bu gelişmeler, hem xAI hem de X’in görece yeni sahibi olan SpaceX’in halka arz planlarıyla aynı döneme denk geliyor. Davaların ve soruşturmaların olası finansal etkisi şimdilik net değil. Yine de mevcut tablo, Grok üzerindeki daha sıkı denetim ve olası kısıtlamaların şirket içi tercihlerden çok düzenleyiciler ve mahkeme süreçleri üzerinden şekillenebileceğine işaret ediyor.
