Meta, açık ağırlık yapay zeka modellerine Muse Glimmer ile yeniden güçlü bir giriş yaptı. 30 milyar parametreli bu yeni büyük dil modeli, Google Gemma 4 ve Alibaba Qwen 3.6 gibi rakiplerle aynı sınıfta konumlandırılıyor. Şirketin öne çıkardığı temel nokta ise modelin, tek bir tüketici sınıfı GPU üzerinde çalışabilecek kadar verimli hale getirilmiş olması.
Muse Glimmer’ı farklı kılan ilk unsur bellek tarafındaki yaklaşım. 30 milyar parametreli bir modelin tam hassasiyetli fp16 çalışması için yalnızca model ağırlıkları açısından yaklaşık 60GB bellek gerekiyor. Meta ise daha büyük bir model olan Muse Spark’tan yararlanarak uyguladığı distillation ve quantization yöntemleriyle bu gereksinimi 20GB seviyesine indirdiğini belirtiyor. Buna ek olarak 2GB ila 4GB düzeyinde KV cache ihtiyacı da eklendiğinde, toplam bellek gereksinimi 24GB veya 32GB kapasiteli tüketici ekran kartları için erişilebilir hale geliyor.
Şirkete göre bu sıkıştırma işlemi performans üzerinde fark edilir bir kayıp yaratmıyor. Bu iddia özellikle yerel yapay zeka çalıştırmak isteyen kullanıcılar açısından önemli, çünkü modelin daha geniş donanım havuzunda kullanılabilmesi pratikte dağıtımı ve erişilebilirliği doğrudan etkiliyor. Başka bir deyişle, veri merkezi sınıfı hızlandırıcılara ihtiyaç duymadan güçlü bir açık ağırlık model çalıştırma hedefi burada öne çıkıyor.
Muse Glimmer’ın ikinci dikkat çekici tarafı ise yanıt üretim hızını artırmak için kullanılan yardımcı model yapısı. DFlash adı verilen küçük bir “drafter” model, metni token token üretmek yerine daha büyük metin parçalarını önceden tahmin ediyor. Ardından Muse Glimmer bu çıktıyı toplu şekilde denetliyor; doğru kısımlar korunurken hatalı bölümler ayıklanıyor. Doğrulama işlemi, sıfırdan üretime kıyasla daha hızlı olduğu için bu tasarım doğrudan yanıt sürelerine katkı sağlıyor.
Paylaşılan verilere göre bu yöntem RTX 5090 üzerinde 3.1x, M5 Max üzerinde 1.8x ve M4 Max üzerinde 1.5x hızlanma sağlayabiliyor. Özellikle tüketici donanımı tarafında bu seviyede bir kazanım, yerel çıkarım senaryolarında gecikmeyi azaltma açısından kayda değer görünüyor.
Zamanlama açısından bakıldığında Meta’nın bu hamlesi, açık ağırlık model pazarında rekabetin hızla arttığı bir döneme denk geliyor. Son haftalarda Çin merkezli modellerin kullanım hacmi belirgin şekilde yükselmiş durumda. Haftalık verilerde Çinli büyük dil modellerinin toplam 34.25 trilyon token seviyesini ilk kez aştığı, DeepSeek V4 Flash modelinin ise haftadan haftaya %570 büyüme kaydettiği görülüyor.
03 Ağustos ile başlayan haftaya ait güncel verilerde küresel yapay zeka model kullanımı 69 trilyon token’a ulaşmış durumda. Bu toplamın 34.25 trilyon token’ı Çinli modellere, 9.17 trilyon token’ı ise ABD modellerine ait. Ayrıca bu, Çinli modellerin küresel toplamda üst üste 15’inci kez lider olduğu hafta olarak dikkat çekiyor. Muse Glimmer’ın bu dengede ölçülebilir bir etki yaratıp yaratmayacağı ise önümüzdeki kullanım verileriyle daha net anlaşılacak.
