Açık kaynaklı yeni bir araç olan Zagitta, NVIDIA’nın GeForce RTX 30 serisindeki bazı yapay sınırları kaldırarak özellikle AI ve LLM iş yüklerinde hesaplama performansını artırıyor. Araç, Ampere tabanlı kartlarda BF16 ve FP16 oranlarını profesyonel modellere daha yakın seviyelere çıkarabiliyor. Üstelik bunun için vBIOS flaşlama ya da fiziksel donanım modifikasyonu gerekmiyor.
Çözüm, Linux üzerinde çalışan bir çekirdek modülü olarak sunuluyor. Modül, sürücü karta bağlanmadan önce devreye girerek kilidi açma işlemini uyguluyor, gerekli hız seçicilerini yazıyor ve ardından FLR gerçekleştiriyor. Bu yaklaşımın önemli avantajı, NVIDIA yeni sürücü yayımladığında her seferinde elle yama yapılmasını gerektirmemesi. Araç şu anda Windows tarafında destek sunmuyor.
Teknik tarafta en dikkat çekici nokta, GA102, GA103, GA104 ve GA106 GPU’larda FP/BF16 FMA komutlarının FP32 işlemlerine yönelik komut çıkarma hızının iki katına kadar yükseltilebilmesi. Bu da pratikte özellikle RTX 30 serisinde ciddi kazanımlar anlamına geliyor. Kullanıcı raporlarına göre performans artışı bazı senaryolarda %80’e kadar çıkabiliyor.
Verilen örneklerden biri RTX 3090 Ti. Bu kartta BF16 performansı 87.5 TFLOPs seviyesinden 157 TFLOPs düzeyine çıkarken, TF32 performansı da 42.6 TFLOPs’tan 82.6 TFLOPs’a yükseliyor. RTX 3080 10 GB tarafında ise kartın stok 320W güç düzeyinde FP16 performansının 65 TFLOPs’tan 113 TFLOPs’a ulaştığı belirtiliyor. Bir başka tabloda 300 W güç sınırında 59.6 TFLOPS @ 1384 MHz ve 63.0 @ 1462 değerlerinden, kilit açıldıktan sonra 380 W ve 350 W senaryolarında belirgin sıçrama görüldüğü aktarılıyor.
LLM kullanımında da sonuçlar kayda değer. Kilidi açılmış bir RTX 30 GPU’nun uzun bağlamlı çıktı üretiminde, yani prefill aşamasında %33 ila %36 daha hızlı çalışabildiği belirtiliyor. TTFT, yani ilk token’a kadar geçen süre de %25 azalıyor. Buna karşılık decode performansının etkilenmediği ve matrix-multiply performansının aynı kaldığı ifade ediliyor. Kısacası kazanç daha çok belirli hesaplama yollarında ortaya çıkıyor.
Destek ve sonuç tablosunda birden fazla model yer alıyor. RTX 3090 Ti için BF16 GEMM kazancı +68–80%, RTX 3090 için +25–67%, RTX 3080 10 GB için +70–73%, RTX 3070 için +73–81% ve RTX 3060 12 GB için yaklaşık +80% raporlanmış durumda. RTX 3080 Ti 20 GB OEM varyantında kilit açma işlemi tamamlansa da BF16’nin yarım hızda kaldığı not ediliyor. GA103 tabanlı kartlar için ise henüz kullanıcı raporu bulunmuyor.
Haberde, etkinin yalnızca RTX 30 serisiyle sınırlı olmadığı; eski GTX 9, GTX 10 ve RTX 20 serilerine kadar uzandığı, ayrıca RTX 40 GPU’larda da bazı kazanımlar görüldüğü belirtiliyor. Bunun yanında kullanıcıların 24 GB RTX 3090 gibi kartlarla model ince ayarı yaptığı, bir örnekte Qwen3.8-27B üzerinde 381 tokens per second seviyesine ulaşıldığı aktarılıyor. Aynı senaryoda temel performansın 82 TPS olduğu ve çeşitli optimizasyonlarla 4.6x artış sağlandığı belirtilmiş.
Bu gelişmeler ikinci el piyasasına da yansımaya başlamış görünüyor. RTX 3090 24 GB’ın yaklaşık $1000 seviyesinden $2000 üzerini gördüğü, RTX 3090 Ti’ın $3000 bandına yaklaştığı ve RTX 3080 10-12 GB modellerin eBay’de $900-$1100 aralığına çıktığı aktarılıyor. Özetle Zagitta, Ampere döneminin oyun odaklı kartlarını AI hızlandırıcısına dönüştürerek yeni bir kullanım alanı açıyor; ancak bu durum oyuncular için ikinci el pazarda erişimi daha zor hale getirebilir.
