İspanya’da bir gençlik mahkemesi, iki WhatsApp grubunda kadın sınıf arkadaşlarının yapay zeka tarafından oluşturulmuş çıplak fotoğraflarını yayan 15 çocuğa bir yıl denetimli serbestlik cezası verdi.
Küçükler, 20 kez çocuk cinsel istismarı görüntüleri oluşturma ve 20 kez de kurbanlarının ahlaki bütünlüğüne karşı suç işlemekle suçlandı. Badajoz Çocuk Mahkemesi’nden yapılan bir basın açıklamasında, denetimli serbestliğe ek olarak, gençlerin cinsiyet ve eşitlik ve “bilgi ve iletişim teknolojilerinin sorumlu kullanımı” derslerine katılmaları da istenecek.
Mağdurların çoğu, geçen yıl uygunsuz sahte görüntüler yayılmaya başladığında konuşmaktan çok utanıyordu. Mahkumiyetten önce, mağdurlardan birinin annesi The Guardian’a , kızı gibi kızların “tamamen dehşete kapıldığını ve bunu sessizce yaşadıkları için muazzam kaygı nöbetleri geçirdiklerini” söyledi.
Mahkeme, gençlerin yapay zeka kullanarak, kadın sınıf arkadaşlarının sosyal medya profillerinden fotoğrafları ve yüzlerini “diğer çıplak kadın bedenlerine” yerleştirerek “çıplak göründükleri” görüntüler oluşturduklarını doğruladı.
Sınıf arkadaşlarını cinselleştirmek ve taciz etmek için yapay zeka kullanan gençler endişe verici bir küresel eğilim haline geldi. Polis , ABD’deki hem liselerde hem de ortaokullarda rahatsız edici vakaları araştırdı ve bu yılın başlarında Avrupa Birliği, çocuk cinsel istismarı tanımını “derin sahteciliklerin ve yapay zeka tarafından üretilen materyallerin üretimi ve yayılmasını daha etkili bir şekilde kovuşturmak” için genişletmeyi önerdi . Geçtiğimiz yıl, ABD Başkanı Joe Biden , yasa koyucuları daha fazla koruma geçirmeye çağıran bir yürütme emri yayınladı .
Zihinsel sağlık etkilerine ek olarak, mağdurlar kendilerini hedef alan sınıf arkadaşlarına olan güvenlerini kaybettiklerini ve tacizcilerle daha fazla temastan kaçınmak için okul değiştirmek istediklerini bildirdiler. Diğerleri çevrimiçi fotoğraf paylaşmayı bıraktı ve zararlı AI görüntülerinin tekrar ortaya çıkmasından korkmaya devam etti.
Sınıf arkadaşlarını hedef alan küçükler, sahte çocuk cinsel istismarı materyalleri (CSAM) oluştururken görüntülerin ne kadar uzağa yayılabileceğinin farkında olmayabilir; hatta karanlık web’de bile yer alabilirler. Birleşik Krallık merkezli Internet Watch Foundation (IWF) tarafından geçen yıl yapılan bir araştırmada, “bir aylık süre içinde 20.254 adet AI tarafından oluşturulan görüntünün bir dark web CSAM forumuna gönderildiği” ve bunların yarısından fazlasının büyük ihtimalle suç teşkil ettiği bildirildi.
artık ‘gerçek’ CSAM olarak kabul edilebilecek kadar gerçekçi” olduğu sonucuna vardığını bildirdi. İspanya’da mağdur edilen bir kız sınıf arkadaşının “şok olmuş” annesi de aynı fikirde. The Guardian’a “Kızımın vücudunu bilmeseydim, o görüntünün gerçek olduğunu düşünürdüm” dedi.
Kanun koyucular, CSAM’a karşı mevcut korumaları yapay zeka tarafından oluşturulan görüntülere uygulamak veya yasaları suçu açıkça kovuşturacak şekilde güncellemek için çabalarken, deepfake’lerin zararlı şekilde yayılmasını önlemek için daha sert çözümler önerildi.
Gazeteci Lucia Osborne-Crowley bugün The Guardian’da yayınlanan bir köşe yazısında , deepfake pornografisini hem üretmek hem de yüzeye çıkarmak için kullanılan siteleri kısıtlayan yasaları savundu; bu zararlı içerik sosyal medya sitelerinde ve arama motorlarında göründüğünde de düzenlendi. Ve IWF, bomba yapım bilgilerinin paylaşılmasını kısıtlayan yargı bölgeleri gibi, yasa koyucuların kötü aktörlere CSAM üretmek için AI’nın nasıl kullanılacağını öğreten kılavuzları da kısıtlayabileceğini öne sürdü.
İspanya’da mağdur ailelerini temsil eden ve genel olarak daha iyi cinsel eğitim için savunuculuk yapan Malvaluna Derneği, El Diario’ya daha fazla düzenlemenin ötesinde, sınıf arkadaşlarına saldırmak için yapay zeka kullanmaya motive olmuş gençleri durdurmak için daha fazla eğitime ihtiyaç olduğunu söyledi. Gençlere derslere katılmaları emredildiği için dernek, cezalandırma önlemlerini kabul etti.
