NVIDIA, küresel üretim sahalarındaki donanım tedarik zinciri tahsis kararlarını otomatikleştirmek için Palantir Foundry ve cuOpt kullandığını açıkladı. Şirket, operasyonel teslimatı wafer çıkışından ilk token’a kadar ölçüyor. Bu süreç kendi içinde iki ana bölüme ayrılıyor: fabrika çıkışından montajı tamamlanmış veri merkezi sistemine kadar uzanan time-to-rack ve güç, soğutma, ağ ile ilk gün yazılım hazırlığını kapsayan time-to-token.
Şirketin aktardığı tablo, özellikle büyük ölçekli AI sistemlerinde parça akışının ne kadar karmaşık hale geldiğini gösteriyor. Bir NVIDIA Grace Blackwell NVL72 rafında 18 adet compute tray bulunuyor. Her bir tray için iki Grace CPU, dört Blackwell GPU ve 32 adet HBM3e bellek paketi gerekiyor. Bu parçalar da binlerce tedarikçi, OEM ve sözleşmeli tasarım ortağından geliyor. NVIDIA’ya göre Vera Rubin mimarisi için kurulacak tedarik ağı ise Grace Blackwell’i destekleyen yapının iki katı büyüklüğünde olacak.
Montajın başlayabilmesi için parçaların üç belirlenmiş kanaldan gelmesi gerekiyor: doğrudan envanter, konsinye stok ve harici tedarikçiler. Erken ulaşan sevkiyatlar, geciken bileşenleri beklemek zorunda kaldığında süreç uzuyor. NVIDIA bunu Time of Ownership olarak tanımlıyor. Bu metrik, bir tesisin malzemeleri teslim aldığı andan bitmiş alt montajların tesisten çıkışına kadar geçen süreyi ifade ediyor. Şirket, parça bulunabilirliği, hat kapasitesi ve müşteri teslim programlarını dengelemek için fabrika tahsislerini haftalık olarak ve iki çeyrekli kayan bir planlama ufkunda yeniden düzenliyor.
Bu bağımlılıkları yönetmek için NVIDIA operasyon ekibi, Palantir Foundry üzerinde Digital Supply Chain Intelligence adlı bir komuta merkezi kurdu. Foundry’nin Ontology katmanı; tesisleri, tedarikçi taahhütlerini, bileşen stoklarını ve üretim hedeflerini birbirine bağlı nesneler ve ilişkiler olarak modelliyor. NVIDIA’nın açık kaynaklı, GPU hızlandırmalı karar optimizasyon kütüphanesi cuOpt ise bu operasyon katmanını doğrudan okuyabiliyor.
Şirket, dağıtım problemini Time of Ownership süresini azaltmaya odaklı bir mixed-integer linear programming modeli olarak formüle ediyor. Çözücü, ürün ağacının her kademesindeki parça kısıtlarını değerlendirerek haftalık teslimat planları oluşturuyor. Bunun yanında yalnızca sonuç üretmekle kalmayıp hangi fabrika sınırlarının aktif olduğunu da gösterebiliyor. Buna örnek olarak bölgesel montaj kapasitesi tavanları ile ham bellek arzı arasındaki sınırlamalar veriliyor.
NVIDIA, yalnızca matematiksel optimizasyonun insan planlamacıların gördüğü yapılandırılmamış operasyonel değişkenleri yakalamakta yetersiz kaldığını da belirtiyor. Tedarikçi görüşme kayıtları, bölgesel hava durumu tahminleri, iş ortaklarıyla e-posta yazışmaları ve jeopolitik gelişmeler bu veri türleri arasında yer alıyor. Bunun için şirket, açık ağırlıklı mixture-of-experts yapısına sahip Nemotron 3.5 Lightning modelini sonradan eğitti. Model toplam 30 milyar parametre içeriyor ve her forward pass sırasında yaklaşık 3 milyar parametre aktif kullanılıyor.
Mühendislik hattında, geçmiş kayıtlar önce NeMo Anonymizer ile hassas operasyon alanlarından arındırılıyor. Ardından NeMo Data Designer, sentetik kapasite aksaması senaryolarıyla eğitim örneklerini dengeliyor. NeMo AutoModel ise temel model ağırlıklarını sabit tutarken low-rank adaptation yani LoRA parametrelerini uyguluyor. Veri soy ağacı, model takibi ve öneri sunumu tarafında ise Palantir Autopilot kullanılıyor.
Tarihsel tahsis kayıtları üzerinde yapılan değerlendirmede sonradan eğitilmiş Nemotron 3.5 Lightning modeli yüzde 86,7 karar doğruluğuna ulaştı. Bu oran, daha büyük Nemotron 3 Ultra modelinde yüzde 55,5, ayarlanmamış Lightning temel modelinde ise yüzde 17,5 olarak verildi. Aynı model yüzde 58,6 balanced accuracy ve yüzde 57,5 macro-F1 skoruna ulaşırken, Nemotron 3 Ultra yüzde 42 balanced accuracy ve yüzde 39,5 macro-F1 seviyesinde kaldı.
NVIDIA, ince ayarın iki adet NVIDIA B200 GPU üzerinde dakikalar içinde tamamlandığını söylüyor. Alan odaklı ince ayarın tahsis kararlarını iyileştirdiği belirtilse de daha ileriye dönük üretim riski tahmininin hâlâ zor olduğu ifade ediliyor. Operasyonel tercihler, planlamacı revizyonları, manuel geçersiz kılmalar ve gözlenen fabrika çıktıları sürekli olarak Palantir Ontology’ye geri yazılıyor. Şirket, bu veri setinin ileride reinforcement learning için tercih çiftleri oluşturacağını; önerilerin tahsis doğruluğu, politika uyumu ve dayanak kalitesi açısından puanlanacağını belirtiyor. Ayrıca üretimdeki modellerin canlı ve denetimsiz yeniden eğitimden kesin biçimde izole tutulacağı da vurgulanıyor.
