Çin’de güvenlik kısıtları kaldırılmış, yani “jailbroken” hale getirilmiş yapay zekâ modellerini ücret karşılığında dağıtan yeraltı bir topluluk, üyelerden birinin işi gerçek bir siber saldırıya taşıması sonrası büyük sorun yaşadı. Olay, teoride tartışılan “tehlikeli AI” kaygılarının pratikte nasıl sonuçlar doğurabileceğini göstermesi açısından dikkat çekiyor.
Aktarılan bilgilere göre grup, bir tür özel “relay station” mantığıyla çalışıyordu. Bu yapıda yöneticiler önce resmi kanallardan AI modellerine erişim satın alıyor, ardından model üzerindeki güvenlik bariyerlerini kaldırıyor ve daha az kısıtlı sürümleri kapalı bir kullanıcı grubuna yeniden satıyordu. Bu tür modeller genellikle zararlı kod üretimi, saldırı senaryoları veya sistemleri istismar etmeye dönük isteklerde standart sürümlere göre çok daha esnek davranabiliyor.
Asıl kırılma noktası ise bu topluluğun kullanıcılarından birinin, söz konusu modeli bir .gov.cn uzantılı Çin devlet sitesinde açık bulmak için kullanması oldu. Habere göre saldırgan, hedef sistemin içerik yönetim sistemi üzerinde “Super Admin” seviyesinde yetki elde etmeyi başardı. Bunun ardından site kullanıcılarına ait veriler, binlerce makale ve veritabanı yedeklerine erişildi.
Olay bununla da sınırlı kalmadı. Saldırganın, erişimi kalıcı hale getirmek için gizli bir arka kapı oluşturmayı planladığı belirtiliyor. Yani burada yalnızca kısa süreli bir yetki yükseltme ya da deneme amaçlı bir ihlal değil, verileri uzun vadeli biçimde çekmeye devam etmeye yönelik daha ciddi bir hazırlık söz konusu. Bu da vakayı, sıradan bir kural ihlalinden çıkarıp doğrudan ağır sonuçlar doğurabilecek bir siber suç seviyesine taşıdı.
İşin en çarpıcı kısmı, saldırganın elde ettiği başarıyı gizli tutmak yerine aynı relay station topluluğunun özel grup sohbetinde ekran görüntüleriyle paylaşması oldu. Ancak bu paylaşım, beklediği takdiri getirmedi. Gruptaki başka bir üye, olayın yol açabileceği cezai sonuçları fark ederek hem saldırıyı hem de tüm topluluğu Çin’in siber güvenlik polisine bildirdi.
Çin’de bir bilişim sistemine yasa dışı biçimde sızmanın ciddi bir suç olduğu ve 3 yıla kadar hapis cezası doğurabildiği ifade ediliyor. Bu nedenle ihbarın ardından relay station yöneticisinin hızla paniğe kapıldığı aktarılıyor. Yönetici tüm faaliyetleri derhal durdurdu, koşullar elverirse ücret iadesi yapacağını söyledi ve kanıtları ortadan kaldırmak amacıyla grup sohbetinin tamamını sildi.
Buradaki ironi açık: Kural tanımayan, sınırlamaları aşan AI modellerinden gelir elde eden yapı, görünüşe göre bunu daha çok “yasaklı istemler” ya da küçük çaplı kısıt atlatmaları için bir pazar olarak görüyordu. Fakat kullanıcılardan biri aracı gerçek dünyada ciddi bir devlet sistemi saldırısına uygulayınca, sonuç doğrudan kolluk kuvvetlerinin devreye girmesi oldu. Böylece topluluğun iş modeli de fiilen çöktü.
Bu olay, yapay zekâ güvenlik tartışmalarında sıkça geçen “korumasız model silaha dönüştürülebilir mi?” sorusuna somut bir örnek sunuyor. Standart güvenlik önlemleri kaldırılmış bir modelin, siber saldırı sürecinde işe yaradığı ve bunun geri tepmesinin de neredeyse anlık olduğu görülüyor. Elbette burada tüm saldırının yalnızca model sayesinde gerçekleştiğini söylemek mümkün değil; yine de AI’nin açık bulma, saldırı adımlarını planlama veya istismar sürecini kolaylaştırma rolü net biçimde öne çıkıyor.
Olayın daha geniş çerçevesi de önemli. AI şirketleri, modellerine çeşitli güvenlik bariyerleri ekleyerek zararlı içerik üretimini, kötü amaçlı kod yazımını veya sistemlere izinsiz erişime yardım edecek çıktıları sınırlamaya çalışıyor. Buna karşılık bazı kullanıcılar istem hileleri ya da kod düzeyinde değişikliklerle bu bariyerleri aşmanın yollarını arıyor. Ardından ortaya, resmi hizmeti arka planda kullanıp kısıtları kaldırılmış sürümü abonelik benzeri bir yapıyla satan gri pazarlar çıkabiliyor.
Bu tür yapılar teknik açıdan yeni olmasa da, gerçek saldırılarla ilişkilendirildiklerinde risk seviyesi hızla artıyor. Çünkü burada artık sadece içerik politikalarının delinmesi değil, kamu sistemleri, kullanıcı verileri ve kurumsal altyapılar üzerinde doğrudan etkisi olabilecek bir kullanım görülüyor. Özellikle devlet alan adına sahip bir sitenin hedef alınması, olayın ciddiyetini daha da yükselten bir unsur.
Haberde ayrıca, Anthropic’in Claude Fable 5 adlı “Mythos class” modeline yönelik son dönemdeki güvenlik tartışmalarına da değiniliyor. Buna göre modelin siber güvenlik kabiliyetlerinde büyük bir sıçrama yarattığı, testlerde sistem savunmalarını otonom şekilde istismar etme oranının %73’e ulaştığının görüldüğü ve bu yüzden ciddi ulusal güvenlik kaygıları doğduğu belirtiliyor. Sonrasında modelin daha güçlü güvenlik önlemleriyle yeniden sunulduğu aktarılıyor.
Bu bölüm, Çin’deki vakayla aynı olayın parçası değil; ancak iki gelişme birlikte değerlendirildiğinde sektörün neden güvenlik bariyerleri konusunda daha sert bir çizgi izlediği daha iyi anlaşılıyor. Modeller daha yetenekli hale geldikçe, özellikle siber güvenlik tarafında faydalı kullanım ile kötüye kullanım arasındaki çizgi de inceliyor. Çin’deki relay station vakası ise bu çizginin aşıldığında yalnızca kullanıcıyı değil, aracı olarak hareket eden tüm ekosistemi de hızla çöküşe götürebileceğini gösteriyor.
