Ana SayfaDonanımThinking Machines, Inkling 2 Mini’yi 26.4B parametreyle tanıttı

Thinking Machines, Inkling 2 Mini’yi 26.4B parametreyle tanıttı

Thinking Machines, açık ağırlıklı yeni yapay zeka modeli Inkling 2 Mini’yi duyurdu. 26.4 milyar toplam parametreye sahip model, kodlama, akıl yürütme ve ajan tabanlı iş yüklerinde iddialı sonuçlar sunarken tüketici sınıfı donanımlarda tamamen çevrimdışı çalışabilmesiyle öne çıkıyor. Şirketin verdiği bilgilere göre model, en az 32GB birleşik belleğe sahip Apple silicon Mac sistemlerde Ollama üzerinden yerel olarak çalıştırılabiliyor.

Inkling 2 Mini, şirketin 594 milyar parametreli Inkling 2 Small modeline göre çok daha küçük bir alternatif olarak konumlanıyor. Ancak burada yalnızca küçültülmüş bir yapı yerine farklı bir mimari tercih edilmiş. Model, 24 katmanlı bir Mixture of Experts transformer tasarımı kullanıyor. Toplam 26.4 milyar parametrenin yalnızca 3.4 milyarı aktif durumda çalışıyor.

Mimarinin dikkat çekici yanı, orta bölümdeki 12 katmanın üç kez çalıştırılması. İlk ve son altı katman normal biçimde tek geçiş yaparken, ortadaki katmanların tekrar edilmesi sayesinde model her token için 48 katman uygulamasına ulaşıyor. Buna karşın bellekte yalnızca 24 katmanın ağırlıkları tutuluyor. Bu yaklaşım, token başına efektif aktif parametre miktarını 5.4 milyara çıkarırken bellek gereksinimini aynı ölçüde artırmıyor. Pratikte bu, modelin yeni bir token üretmeden önce dahili olarak daha fazla hesaplama yapabilmesi anlamına geliyor.

The image displays a presentation slide titled 'Introducing Inkling 2 Mini' with buttons labeled 'Try on Tinker,' 'Hugging Face,' and 'Model card' on November 20, 2026.

Şirketin paylaştığı ölçümlerde Inkling 2 Mini, Artificial Analysis Intelligence Index testinde 20.1 puan aldı. Ajan tabanlı kodlama testlerinde DeepSWE v1.1 sonucunun %48.2 olduğu, Qwen3.8-27B’nin ise %42.2’de kaldığı belirtiliyor. SWE-bench Pro v2 Hard skorunda model %77.9’a ulaşırken, aynı karşılaştırmada Qwen3.8-27B için %73.8 değeri veriliyor. Ayrıca Vals Index v2.2’de %46.5 ve SWE-bench Verified’da %79.2 sonuçları paylaşılmış durumda. Bu verilerin şirket tarafından raporlandığını ve test yapılandırmalarına göre farklılık gösterebileceğini not etmek gerekiyor.

Eğitim tarafında Inkling 2 Mini’nin NVIDIA GB300 Grace Blackwell Ultra platformunda geliştirildiği belirtiliyor. Ağırlıkların büyük kısmı 4-bit NVFP4 hassasiyetinde, son dört katman ise 8-bit MXFP8 hassasiyetinde eğitilmiş. Şirket, dağıtımda da aynı sayısal hassasiyetin kullanılması sayesinde sonradan yapılan quantization kaynaklı ek dönüşüm kayıplarının önüne geçildiğini söylüyor.

A diagram illustrates a multi-step process with labeled sections: 'Prelude runs once,' 'Blocks 2 & 3 run three times,' featuring repeated passes and messages, leading to a 'Final block runs once.'

Erişilebilirlik tarafında modelin bellek ayak izi yaklaşık 20GB seviyesinde. Resmi desteklenen sistemler arasında NVIDIA DGX Spark da yer alırken, diğer GPU kurulumları için 32GB veya daha fazla VRAM öneriliyor. Model metin ve görsel girdilerini destekliyor; bağlam penceresi ise 1 milyon token’a kadar çıkabiliyor. Gösterim amaçlı olarak, 48GB belleğe sahip bir M5 Pro MacBook Pro üzerinde tamamen çevrimdışı çalıştırıldığı da paylaşıldı.

Thinking Machines ayrıca bu döngülü transformer yaklaşımının şeffaflık ve izlenebilirlik açısından etkilerini de incelemiş. Ayrı bir araştırma modelinde, ek geçişlerin modelin yazılı düşünce zinciri üretmeden problem çözme kapasitesini artırdığı; no-chain-of-thought görev ufkunun tek geçişte 16 saniyeden üç geçişte 37 saniyeye çıktığı aktarılıyor. Bununla birlikte şirket, bu ölçekte yazılı akıl yürütmenin anlaşılabilir kaldığını ve izlenebilirlikte anlamlı bir düşüş gözlemlemediğini belirtiyor. Öte yandan karmaşık çok turlu konuşmalar ve çok sayıda kısıt içeren talimatlarda performansın daha zayıf olabildiği de kabul ediliyor.

Two line charts titled 'DeepSWE v1.1' and 'SWE-bench Pro v2 Hard (51 tasks)' compare the performance of AI models, with 'Inkling 2 Mini' showing higher task resolution percentages than other models like 'Ripple-65B (Preview)' and 'Qwen3.8-27B' across both charts.

Inkling 2 Mini, Apache 2.0 lisansı altında sunuluyor. Model ağırlıkları Hugging Face üzerinden indirilebiliyor; yerel çalıştırma için Ollama, çıkarım ve fine-tuning için ise Tinker platformu destekleniyor.

HWM
HWMhttps://hardwaremania.com
Yoda is a revered former Jedi Master who spent the last years of his life on Dagobah. The nine-hundred-year-old Jedi master trained Jedi knights for eight centuries.
Benzer İçerikler

Haberler

- Advertisment -

Son Yorumlar

- Advertisment -