OpenAI’nin geliştirdiği Jalapeno adlı yapay zeka hızlandırıcısına ait mimari ayrıntılar netleşmeye başladı. Tasarım, TSMC N3P üretim sürecinde hazırlanan tek reticle boyutunda bir hesaplama kalıbını, N3E tabanlı bir I/O chiplet ve HBM4 bellekle bir araya getiriyor. Paket başına 15.4 TB/s bellek bant genişliği sunan yapı, çekirdekleri ve belleği eşleşen “slice” birimlerine ayırarak her çekirdek dilimine düşük gecikmeli yerel HBM erişimi sağlamayı hedefliyor.
Jalapeno’nun merkezinde matris motorları yer alıyor. Çip, geleneksel FP16 veya 8-bit formatlar yerine MXFP sayı formatlarını kullanıyor; özellikle MXFP4 ile veri daha agresif biçimde sıkıştırılabiliyor. Bu yaklaşım, sayı gruplarının ortak bir ölçek faktörü paylaşmasına dayanıyor ve hem depolama hem de veri taşıma maliyetini düşürüyor. Matris motorlarında tercih edilen weight-stationary systolic array yapısı da model ağırlıklarını işlem ızgarasına bir kez yükleyip sabit tutarak bellek darboğazını azaltıyor.
Çip yalnızca matris motorlarından oluşmuyor. 64-bit scalar çekirdekler kontrol kodunu çalıştırma, bellek yönetimi ve iş akışını düzenleme görevlerini üstleniyor. Bu çekirdeklerin Out-of-Order yürütme hattı ve L1 önbellekle gelmesi, veri beklerken duraksamayı azaltıyor. Ek olarak FP32/INT32 vektör çekirdekleri, daha yüksek hassasiyet gerektiren softmax veya normalizasyon gibi aşamalarda devreye giriyor.
OpenAI, Jalapeno’yu tek başına değil, raf ölçeğinde bir sistem olarak konumlandırıyor. Katsu adlı CPU host rafında 16 tepsi bulunuyor; her tepside iki adet Turin sınıfı AMD EPYC işlemci, 1.5 TB DRAM, yerel NVMe SSD ve 400G ağ bağlantısı yer alıyor. Vindaloo adlı hızlandırıcı rafında ise 16 tepsi ve tepsi başına 8 Jalapeno ASIC bulunuyor. Böylece bir raf kurulumunda toplam 128 çipe ulaşılıyor. Her Jalapeno paketi altı adet 12-high HBM4 yığını kullanırken, 128 çiplik raf toplamda 27.5 TB HBM4 ve 1.7 ExaFLOPs MXFP4 hesaplama gücü sunuyor.
Paylaşılan test sonuçlarına göre Jalapeno, çıkarım iş yüklerinde dikkat çekici bir verimlilik sergiliyor. InferenceX testlerinde, OpenAI’nin GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T modelleri üzerinde mevcut NVIDIA GB200/GB300 sonuçlarına kıyasla tepe verimde watt başına 1.5x ila 1.9x daha fazla iş ürettiği, uçtan uca gecikmede ise 1.7x ila 3.6x daha düşük değerler sunduğu belirtiliyor. Çipin TDP değeri 700W olarak verilirken, etkin yapay zeka yüklerinde tipik tüketimin 550W veya altında kaldığı aktarılıyor. Buna karşın Jalapeno’nun HBM4, karşılaştırılan sistemlerin ise HBM3E kullanması, kıyaslamada OpenAI lehine önemli bir avantaj oluşturuyor.
