Moonshot, kısa süre önce tanıttığı açık kaynaklı Kimi K3 modelinin ardından gözünü bir sonraki nesle çevirmiş görünüyor. Yeni habere göre şirket, Kimi K4’ün eğitimi için daha büyük bir NVIDIA Blackwell GPU havuzuna erişim arıyor. İddiaya göre bu arayış, ABD’nin ihracat kontrolleri açısından son derece hassas bir alana temas ediyor.
Kimi K3, 2.8 trilyon parametreli, çok modlu ve yaklaşık 1 milyon token bağlam penceresine sahip bir model olarak duyurulmuştu. Modelin dikkat çeken yönlerinden biri yalnızca ölçeği değil, veri merkezi sınıfı donanım üzerinde görece verimli çalışabilmesi oldu. Bunda dramatik biçimde azaltılan KV cache yapısı, token başına bellek kullanımına yönelik optimizasyonlar ve 896 uzmanın çok sayıda GPU’ya dağıtılması etkili gösteriliyor.
Şirketin bu mimari yaklaşımı, Kimi K3’ü yalnızca performans tarafında değil, çalıştırma maliyeti açısından da öne çıkardı. Haberde yer verilen değerlendirmeye göre Microsoft, Copilot tarafında OpenAI ve Anthropic modelleri yerine Moonshot’ın Kimi K3 modeline yönelmenin çıkarım maliyetlerinde $600 milyon kadar tasarruf sağlayabileceğini hesaplıyor. Bu da modelin ticari açıdan neden dikkat çektiğini açıklıyor.
Ancak Moonshot’ın yükselişi, jeopolitik tartışmalardan bağımsız değil. Şirket daha önce de Kimi K3’ün, Anthropic’in Fable modeli üzerinden damıtıldığı yönündeki suçlamalarla gündeme gelmişti. Metindeki değerlendirme, Kimi K3’ün boyutu ve mimari özellikleri dikkate alındığında tamamen bu yolla ortaya çıkmasının zamanlama açısından zor göründüğünü, buna karşılık bazı yanıtların ince ayar sürecinde kullanılmış olabileceğini öne sürüyor.
Daha kritik nokta ise donanım tarafı. Habere göre ABD tarafında, Çinli mühendislerin gelişmiş NVIDIA GPU kaynaklarına ABD dostu ülkeler üzerinden erişmeye çalıştığına dair uzun süredir şüphe bulunuyor. Moonshot’ın da yalnızca bazı NVIDIA GB300 sunucularına sahip olduğu değil, aynı zamanda Tayland üzerinden ek GB300 kaynaklarına erişebildiği iddia ediliyor.
Buna karşın şirketin yalnızca yabancı GPU’lara dayanmadığı da belirtiliyor. Moonshot mühendislerinin, Çin içindeki farklı veri merkezlerinde yer alan çoklu sekiz çipli sunucuları birbirine bağlayarak Kimi K3’ü eğitmeyi başardığı aktarılıyor. Yine de Kimi K4’ün, selefinin 2.8 trilyon parametre ölçeğini aşmasının beklendiği bir senaryoda, ek hesaplama gücü ihtiyacının keskin biçimde arttığı anlaşılıyor.
Öte yandan Trump yönetiminin Çin kaynaklı açık ağırlıklı modelleri tamamen yasaklama ihtimalini değerlendirdiği de ifade ediliyor. Açık ağırlıklı modeller, modelin ağırlıklarını paylaşarak mimari ve davranış yapısına dair daha fazla görünürlük sağlıyor; kapalı ağırlıklı modellerde ise bu bilgiler kamuya açılmıyor. NVIDIA, Microsoft, Meta, Dell, Perplexity, Palantir ve Mistral AI dahil çok sayıda şirketin ise açık ağırlıklı yapay zeka ekosisteminin korunması yönünde çağrıda bulunduğu belirtiliyor.
