Araştırmacılar, Çin merkezli bazı büyük dil modellerinin belirli istemlerde kendilerini Anthropic’in Claude modeli gibi tanıtabildiğini ortaya koydu. İnceleme özellikle GLM ve Kimi üzerinde yoğunlaşıyor. Bulgular, bu modellerin kimi durumlarda kendi kimliklerini net biçimde korumak yerine Claude’un yanıt tarzını veya adını benimseyebildiğini gösteriyor. Ancak eldeki veriler, bunun doğrudan model distillation yapıldığını kesin biçimde kanıtlamaya yetmiyor.
Çalışmanın odak noktası, modellerin yalnızca benzer çıktılar üretmesi değil, aynı zamanda açıkça başka bir modelin kimliğini üstlenmesi. Yani mesele sırf yazım tarzı, güvenlik cevabı ya da biçimsel benzerlikten ibaret değil. Araştırmacılar, bazı örneklerde GLM ve Kimi’nin kullanıcı sorularına yanıt verirken kendilerini Claude olarak sunduğunu veya Claude’a özgü bir sistem kimliğini çağrıştıran ifadeler kullandığını belirtiyor. Bu da eğitim verisi, değerlendirme yöntemi veya model davranışının nasıl şekillendiği konusunda yeni soru işaretleri doğuruyor.
Yine de uzmanların vardığı sonuç temkinli. Bir modelin kendisini başka bir model olarak tanıtması, tek başına o modelden izinsiz biçimde damıtıldığı anlamına gelmiyor. Bu tür davranışlar; eğitim verisinde yer alan sentetik içeriklerden, istem enjeksiyonuna benzer etkilerden, modelin internette sıkça görülen kalıpları tekrar etmesinden veya değerlendirme setlerindeki yönlendirici örneklerden kaynaklanabiliyor. Başka bir deyişle, görülen semptom dikkat çekici olsa da neden-sonuç ilişkisini tek başına kurmaya yetmiyor.
Buradaki kritik ayrım, “kimlik taklidi” ile “köken kanıtı” arasındaki fark. Distillation iddiasını desteklemek için genellikle daha güçlü teknik göstergeler gerekiyor. Örneğin modelin hata desenleri, güvenlik bariyerlerine verdiği tepkiler, nadir sorulardaki tutarlılığı veya belirli karar yollarındaki benzerliği gibi daha derin izler inceleniyor. Sadece “Ben Claude’um” benzeri bir cevap görülmesi, araştırma açısından alarm verici kabul edilse de hukuki ya da teknik anlamda kesin delil sayılmıyor.
Bu bulgular, yapay zeka ekosisteminde uzun süredir tartışılan daha geniş bir soruna da işaret ediyor: Modellerin hangi verilerle, hangi sentetik çıktılarla ve ne tür öğretici örneklerle eğitildiğini dışarıdan anlamak oldukça zor. Özellikle kapalı modellerden üretilen çıktılar kamuya, forumlara ve veri havuzlarına karıştıkça, sonraki nesil modellerin bu içerikleri dolaylı biçimde öğrenme ihtimali artıyor. Böyle bir durumda ortaya çıkan benzerliklerin kasıtlı kopyalama mı, veri sızıntısı mı yoksa internet ölçeğindeki içerik dolaşımının doğal sonucu mu olduğu her zaman netleşmiyor.
GLM ve Kimi örneği, model değerlendirmesinde kimlik tutarlılığının da önemli bir ölçüt haline geldiğini gösteriyor. Bir modelin yetenekli olması kadar, hangi model olduğunu doğru biçimde ifade etmesi ve sistem kimliğini kararlı biçimde koruması da güven açısından önem taşıyor. Kurumsal kullanım, geliştirici araçları ve API tabanlı entegrasyonlarda bu tür sapmalar; denetim, uyumluluk ve kullanıcı güveni bakımından sorun yaratabilir.
Sonuç olarak araştırma, dikkat çekici bir davranış örüntüsünü ortaya koyuyor: GLM ve Kimi, bazı koşullarda Claude’un kimliğine bürünebiliyor. Fakat mevcut kanıt düzeyi, bunun distillation yapıldığını kesinleştirmek için yeterli değil. Bu nedenle bulgular, doğrudan hüküm vermekten çok daha ayrıntılı teknik inceleme ihtiyacını güçlendiriyor.
