Apple, iPhone’daki “nudify” olarak anılan yapay zeka uygulamalarına izin verdiği gerekçesiyle yeni bir hukuki baskıyla karşı karşıya. San Francisco Şehir Savcısı David Chiu, şirkete gönderdiği ihtar mektubunda bu tür uygulamaların App Store’dan kaldırılmasını talep etti. Aynı çağrı Google için de yapıldı.
Söz konusu uygulamalar, kişilerin rızası olmadan sahte mahrem görüntüler üretilmesine imkan tanıyor. Haberde, bu araçların kullanıcıların fotoğraflarındaki kıyafetleri kaldırabildiği, bazı örneklerde ise kişileri seçilen farklı senaryolara yerleştirebildiği belirtiliyor. Bu içeriklerin, çoğu zaman çocuklar dahil olmak üzere hedef alınan kişilerin bilgisi dışında üretilebildiği vurgulanıyor.
Chiu, deepfake görüntü üretimini “yasadışı, zararlı ve tamamen kabul edilemez” olarak nitelendirdi. Ayrıca Apple ve Google’ın bu tür uygulamaların satışından veya aboneliklerinden kayda değer gelir elde etmiş olabileceğini öne sürdü. Savcılığın yaklaşımı, platform işletmecilerinin yalnızca mağaza vitrini sağlamadığı, aynı zamanda zararlı içerik üreten servislerin dağıtımında sorumluluk taşıdığı yönünde.
Gönderilen hukuki mektuplarda, California yasalarının deepfake üretebilen hizmetlerin desteklenmesini yasakladığına da dikkat çekiliyor. Chiu, iki şirketin ilgili uygulamaları kaldırmasının yanı sıra, bunları geliştiren şirketlerle ticari ilişkilerini de sonlandırmasını istiyor. Buna ek olarak, yeni uygulamalar yayına alınmadan önce kullanılan inceleme ve tarama araçlarının güçlendirilmesi talep ediliyor.
Google cephesinde, deepfake içerik üretmek için kullanıldığı düşünülen uygulamaların incelendiği ve gerektiğinde hızlı aksiyon alındığı belirtildi. Apple ise cuma akşamı yaptığı açıklamada, App Store’un güvenli ve güvenilir bir yer olarak tasarlandığını, pornografi üretmek, dağıtmak veya tüketmek için geliştirilen uygulamalara her zaman sıkı biçimde karşı çıktığını söyledi.
Apple, “nudification” uygulamalarının App Review Guidelines’a aykırı olduğunu, bu nedenle çok sayıda uygulamanın proaktif olarak reddedildiğini ve bir kısmının da kullanıcı bildirimleri sonrası kaldırıldığını belirtti. Şirket, gündemdeki uygulamalardan üçünü kaldırdığını ve bunların geliştirici hesaplarını sonlandırma sürecinde olduğunu açıkladı. Ayrıca dört geliştiriciyle daha iletişim halinde olduğunu, politika ihlallerinin giderilmemesi halinde bu uygulamaların da kaldırılma riski taşıdığını ekledi.
Apple daha önce de benzer üretken yapay zeka uygulamalarını mağazadan kaldırmıştı ve “nudification” uygulamalarına App Store’da istisnasız izin verilmediğini vurgulamıştı. Şirket ayrıca bu tür uygulamalara yönelik bazı arama terimlerini de aktif olarak engellediğini söylüyor. Ancak geliştiricilere ilk aşamada şüpheden faydalanma yaklaşımı uygulanabildiği, ihlal tespit edilirse önce uyarı gönderildiği belirtiliyor. İhlal giderilmezse uygulama genellikle App Store’dan kaldırılıyor. Mevcut uygulamaların bu sürecin tam olarak hangi aşamasında olduğu ise net değil.
