Yapay zekâ araçlarının yaygınlaşması, üretkenlik ve içerik oluşturma tarafında yeni imkânlar sunarken dolandırıcılık için de yeni yöntemler doğuruyor. Son örnekler, AI destekli müzik üretimiyle platform gelirine oynayan girişimlerden, yalnızca birkaç saniyelik ses örneğiyle yapılan ses klonlama vakalarına kadar uzanıyor. Ortaya çıkan tablo, teknolojinin erişilebilir hale gelmesiyle birlikte kötüye kullanımın da daha ölçeklenebilir hale geldiğini gösteriyor.
Aktarılan örneklerden birinde Çin’de bir kullanıcının, AI müzik üretim araçlarıyla ayda 100.000 Yuan civarında gelir elde ettiği belirtiliyor. Yaklaşık $15.000 seviyesine denk gelen bu gelir modelinde süreç oldukça basit işliyor: Parçanın temasını belirlemek için bir görsel yükleniyor, ardından müzik türü seçiliyor, son aşamada da bir vokal stili belirlenerek şarkıya ses ekleniyor. Sonuçta ortaya çıkan parça, kısa sürede hazırlanmasına rağmen gerçek bir prodüksiyona oldukça yakın duyulabiliyor.
Bu tür içeriklerin gelir üretme kısmı ise dağıtım platformlarında başlıyor. Dakikalar içinde oluşturulan AI parçaları, müzik servisleri ve kısa video platformlarına yüklenerek para kazanmaya açılıyor. Buradaki kritik nokta, üretim maliyetinin çok düşük, üretim hızının ise oldukça yüksek olması. Bu da aynı yöntemle çok sayıda içerik üretilmesini ve hacim üzerinden gelir hedeflenmesini mümkün kılıyor. Teknik açıdan bakıldığında ortada etkileyici bir otomasyon kabiliyeti var; pratikte ise telif, özgünlük ve yanıltıcılık gibi sorunlar öne çıkıyor.
AI içeriklerinin yalnızca müzikle sınırlı kalmadığı da görülüyor. Uzun videolar, anlatımlı bilgi içerikleri ve sözde belgesel formatları da üretken yapay zekânın en görünür kullanım alanlarından biri haline gelmiş durumda. Sakin bir ses tonu eşliğinde uzun süreli izleme hedefleyen bu videolarda kimi zaman tarih, kurgu evrenleri veya popüler kültür başlıkları işleniyor. Ancak bu içeriklerin önemli bir bölümünde doğruluk seviyesi tartışmalı olabiliyor. Bu durum, ilk bakışta doğrudan dolandırıcılık sayılmasa da yanlış bilgi üretimi ve kitlelere hızla yayılması açısından ayrı bir risk oluşturuyor.
Daha ciddi tehdit ise ses klonlama tarafında ortaya çıkıyor. Çin’de yetkililer, yeni bir dolandırıcılık yöntemine karşı uyarıda bulunuyor. Bu yöntemde, bir kişinin yalnızca 5 saniyelik ses örneği kullanılarak arkadaşlarının veya akrabalarının sesine çok benzeyen yapay kayıtlar üretilebiliyor. Ardından bu klonlanmış sesler üzerinden para talep ediliyor. Yani saldırgan, mağdurun güvendiği bir kişinin sesini taklit ederek doğrudan sosyal mühendislik uyguluyor. Sesin tanıdık gelmesi, klasik mesaj dolandırıcılıklarına kıyasla ikna gücünü belirgin şekilde artırıyor.
Bu vakalarda maddi kayıpların da ciddi seviyelere ulaştığı belirtiliyor. Bazı mağdurların 4,3 milyon Yuan, yani yaklaşık $635.000 dolandırıldığı ifade ediliyor. Rakamın büyüklüğü, meselenin artık yalnızca internet üzerinde görülen küçük ölçekli bir kandırma girişimi olmadığını gösteriyor. Ses klonlama, mevcut dolandırıcılık yöntemlerini daha inandırıcı hale getirirken, hedefteki kişinin karar alma süresini de kısaltıyor. Bir aile üyesinden geldiği düşünülen panik dolu bir sesli mesaj ya da çağrı, doğrulama yapılmadan para transferine yol açabiliyor.
Buradaki temel sorun, yapay zekânın insan duyularının güvendiği işaretleri taklit edebilmesi. Geçmişte metin tabanlı sahtekârlıkları yazım hataları, kurgu zayıflığı veya şüpheli bağlantılar üzerinden ayıklamak daha kolaydı. Şimdi ise ses, müzik ve anlatım kalitesi belirli bir eşiğin üzerine çıkmış durumda. Kullanıcı tarafında “duydum, demek ki gerçek” refleksi giderek daha az güvenilir hale geliyor. Özellikle kısa ses örneklerinden klonlama yapılabilmesi, sosyal medya paylaşımları ve mesajlaşma uygulamalarındaki ses kayıtlarını daha hassas bir veri türüne dönüştürüyor.
Üstelik riskin önümüzdeki dönemde daha da görünür hale gelmesi beklenebilir. AI destekli gözlükler, kulaklıklar, AirPods benzeri cihazlar ve özel AI aksesuarlarının yaygınlaşması, bu teknolojilerin günlük hayatla daha sıkı entegre olacağı anlamına geliyor. Donanım tarafındaki yaygınlaşma, sesli etkileşim ve gerçek zamanlı yardımcı sistemleri güçlendirirken, aynı zamanda kötü niyetli kullanım alanlarını da artırabilir. Daha taşınabilir, daha ucuz ve daha erişilebilir AI araçları; içerik üretimini kolaylaştırdığı kadar sahtekârlığı da otomatikleştirebilir.
Sonuç olarak tablo iki yönlü. Bir tarafta dakikalar içinde müzik, anlatım ve medya üretebilen sistemler var; diğer tarafta ise aynı altyapının güven ilişkisini sömüren dolandırıcılık senaryolarına dönüştürüldüğü örnekler çoğalıyor. AI araçlarının teknik kapasitesi arttıkça, doğrulama alışkanlıklarının da buna paralel biçimde değişmesi gerekiyor. Özellikle para talebi içeren sesli aramalar veya mesajlarda ikinci bir kanaldan doğrulama yapmak, artık temel bir dijital güvenlik refleksi haline gelmiş durumda. Yapay zekâ, içerik üretiminde olduğu kadar aldatmada da ölçek kazandırıyor; asıl farkı ise kullanıcıların ne kadar hızlı uyum sağlayacağı belirleyecek.
