Scott Hanselman tarafından geliştirilen açık kaynaklı GPU Taskman, ekran kartı belleğinin tam olarak nerede kullanıldığını daha ayrıntılı görmek isteyenler için hazırlanmış bir izleme aracı. Standart Windows Görev Yöneticisi süreç bazında GPU bellek istatistikleri sunabiliyor, ancak GPU Taskman bunu daha kapsamlı bir terminal arayüzünde birleştiriyor.
Uygulama; VRAM tüketimi, GPU’nun erişebildiği sistem belleği, süreç etkinliği ve donanım telemetrisini aynı ekranda gösterebiliyor. Bu kapsamda GPU kullanım oranı, VRAM kullanımı, sıcaklık, güç tüketimi, saat hızları, bellek etkinliği ve PCIe istatistikleri gibi veriler yer alıyor. Ayrıca GPU kaynaklarını kullanan tek tek süreçlerin dökümü de görüntülenebiliyor.
Aracın öne çıkan taraflarından biri, farklı iş yüklerini ayırt edebilmesi. Masaüstü birleştirme işlemleri, web tarayıcıları, oyunlar ve AI uygulamaları ayrı bağlamlarda görülebiliyor. Bu da özellikle beklenenden yüksek VRAM tüketimini araştırırken veya ekran kartının neden sistem belleğine daha fazla yük bindirdiğini anlamaya çalışırken faydalı olabilir.
GPU Taskman’ın en dikkat çekici özelliklerinden biri ise yerel AI iş yüklerine yönelik desteği. Proje dokümantasyonuna göre araç, desteklenen AI modellerini tanıyabiliyor ve bunlarla ilgili mimari, quantization, parametre sayısı, model ağırlıkları ve tahmini KV-cache gereksinimleri gibi ek bilgiler sunabiliyor. Şu anda llama.cpp, Ollama ve LM Studio gibi çeşitli çalışma zamanları ve uygulamalar tanınabiliyor; ancak görülebilen ayrıntı düzeyi kullanılan çalışma zamanına göre değişiyor.
Bu sayede örneğin bir AI uygulamasının birkaç GB VRAM kullandığını görmekle yetinmek yerine, bu belleğin ne kadarının model ağırlıklarına, ne kadarının KV cache’e ve hesaplama tamponlarına gittiğini daha iyi ayırmak mümkün oluyor. Araç bunu işletim sistemi GPU sayaçları, süreç metaverileri, model dosyaları, çalışma zamanı günlükleri ve yerel API’lerden aldığı verileri birleştirerek yapıyor. Yine de bazı modele özgü değerlerin doğrudan ölçüm değil, tahmin olduğunu belirtmek gerekiyor.
GPU Taskman yalnızca AI tarafında değil, oyuncular için de yararlı olabilir. Yüksek VRAM baskısı, uygulamaların daha yavaş sistem belleğine daha fazla başvurmasına neden olduğunda takılmalara katkıda bulunabiliyor. Bununla birlikte GPU’ya erişebilen sistem RAM kullanımının her zaman VRAM taşması anlamına gelmediği, ayrıca aracın tek tek oyun dokularını ya da hangi kaynakların belleğin dışına atıldığını kesin olarak belirleyemediği ifade ediliyor.
Yazılım Windows 10/11 üzerinde NVIDIA ve AMD GPU’ları destekliyor; ayrıca Linux, WSL ve Apple Silicon macOS sistemlerde de çalışıyor. Platforma ve donanıma göre yetenekler değişebiliyor. 10 Kasım’da yayımlanan v0.3.5 sürümüyle Linux tarafında Intel GPU desteği, CPU ve sistem RAM izleme ile GPU istatistiklerini kaydetmeye yönelik ek seçenekler de eklenmiş durumda.
MIT lisansı altında dağıtılan GPU Taskman, GitHub Releases üzerinden indirilebiliyor. Windows için taşınabilir sürümler ayrı bir Python kurulumu gerektirmiyor; ayrıca PyPI üzerinden de yükleme yapılabiliyor. Yazılım halen deneysel aşamada olsa da, GPU kaynak kullanımını daha ayrıntılı anlamak isteyen meraklılar ve geliştiriciler için şimdiden oldukça kullanışlı bir araç görünümünde.
