Google, TPU v8 ailesine iki yeni varyant ekledi: TPU 8tx ve TPU 8i Max. Şirket bu modelleri özellikle agentic iş yükleri için konumlandırıyor. TPU 8tx, gizli çıkarım ve küçük ölçekli eğitim senaryolarına odaklanırken, TPU 8i Max ise bellek kapasitesi ve bant genişliği ihtiyacının hızla arttığı büyük bağlamlı çıkarım görevlerini hedefliyor.
Temelde TPU 8tx, mevcut TPU 8t tasarımının uyarlanmış bir sürümü. TPU 8t tarafında merkezde bir mantık yongacığı, ayrı bir SerDes yongacığı ve çoklu HBM yığınlarından oluşan “Zebra package” yapısı yer alıyor. Bu çipin TensorCore mimarisinde VPU, Vmem, iki MXU, iki XLU ve TCS blokları bulunuyor. FP4 desteği sunan MXU birimleri çip başına 12.6 PetaFLOPS FP4 hesaplama gücüne ulaşabiliyor. Bellek tarafında ise altı adet 8-hi HBM3E yığınıyla 216 GB ile 288 GB arasında kapasite ve 6.5 TB/s ile 8.6 TB/s arasında bant genişliği sunuluyor. Ayrıca 128 MB kalıp içi SRAM mevcut.
TPU 8i ise doğrudan çıkarım iş yükleri için tasarlanmış durumda. Yine Zebra package kullanan bu model, iki ayrı TensorCore içeriyor ve tepe noktada 10.1 PetaFLOPS FP4 performansına çıkabiliyor. Bellek tarafında toplam sekiz HBM3E yığını, 288 GB kapasite ve 8.6 TB/s bant genişliği sağlanıyor. Buna ek olarak çip üzerinde 384 MB SRAM yer alıyor. Sunucu tarafında x86 işlemciler yerine Arm tabanlı Axion CPU’lar kullanılıyor.
Yeni TPU 8tx, TPU 8t silikonunu özel AMD CPU ana sistemleriyle eşleştiriyor ve donanım seviyesinde confidential computing desteği ekliyor. Şirkete göre bu değişiklikler, gelişmiş güvenlik özelliklerine karşın TPU 8t’ye kıyasla 2 kata kadar performans artışı sağlayabiliyor. TPU 8tx ayrıca TPU 8i için geliştirilen Boardfly ağına geçiş yapıyor.
TPU 8i Max ise tek pakette iki TPU 8i çipini birleştiriyor. Google’ın verdiği bilgiye göre bu tasarım, standart TPU 8i’ye kıyasla 2x hesaplama gücü, 2x SRAM ve 2x HBM bant genişliği sunuyor. Raf içindeki fiziksel ayak izi yaklaşık aynı kaldığı için hesaplama yoğunluğu da fiilen iki katına çıkıyor. Bu yapılandırmada toplam SRAM miktarı 768 MB’a ulaşıyor. Ancak HBM kapasitesi için henüz net bir değer paylaşılmış değil.
