OpenAI, Hot Chips kapsamında paylaştığı performans sonuçlarında Broadcom ile birlikte geliştirdiği ilk şirket içi çıkarım çipi Jalapeño’nun Nvidia GB200 ve GB300 raf sistemlerine karşı bazı senaryolarda daha yüksek verim sunduğunu açıkladı. Şirketin verdiği rakamlara göre çip, SemiAnalysis’ın herkese açık InferenceX test paketi üzerinde watt başına 1,5 kat ile 1,9 kat daha fazla throughput ve uçtan uca gecikmede 1,7 kat ile 3,6 kat daha düşük değerler elde etti. Karşılaştırmada 700W sınıfındaki Jalapeño, 1.200W ve 1.400W dereceli hızlandırıcılara karşı test edildi.
Testler üç açık model üzerinde gerçekleştirildi: GPT-OSS 120B, DeepSeek R1 670B ve Moonshot AI’nin 1 trilyon parametreli Kimi K2.5 modeli. OpenAI özellikle düşük gecikme hedeflenen çalışma noktalarında avantajın daha da büyüdüğünü belirtiyor. Şirkete göre bu senaryolarda Jalapeño, GB300’ün en hızlı önceki token aralığı ayarlarına kıyasla watt başına 8,6 kat ile 104,3 kat daha yüksek throughput değerine ulaştı.
Bununla birlikte sonuçların nasıl normalize edildiği önemli. OpenAI, kıyaslamayı her hızlandırıcının açıklanan paket TDP değeri üzerinden yaptı. Şirket ayrıca Jalapeño’nun testler sırasında ölçülen sürekli güç tüketiminin 550W seviyesinde veya altında kaldığını söyledi. Ek bölümde yer alan, hızlandırıcı başına toplam yardımcı tesis gücünü kullanan karşılaştırmada Jalapeño için 1,18 kW, GB300 için ise 2,55 kW değeri veriliyor ve bu tabloda farklar daralıyor. Benzer şekilde, GB300’ün multi-token prediction ile çalıştırıldığı durumda Jalapeño’nun en yüksek verim avantajı yaklaşık 1,5 kata kadar geriliyor.
OpenAI’nin sunduğu sonuçların bazı sınırları da var. Jalapeño, Nvidia’nın 2026’nın ikinci yarısında ilk gigawatt ölçekli sistemlerinde kullanılması planlanan Vera Rubin platformuna karşı test edilmedi. Ayrıca bu çip eğitim odaklı değil; yani Nvidia’nın halen güçlü olduğu model eğitimi iş yüklerine hitap etmiyor. Ana karşılaştırmalarda Jalapeño’nun single-token prediction çalıştırdığı, GB300 tarafında da aynı modun kullanıldığı belirtiliyor. Oysa Nvidia kurulumlarında üretimde multi-token prediction yaygın olarak tercih ediliyor.
Haziranda tanıtılan Jalapeño paketi, dokuz aylık RTL’den tapeout sürecinin ardından duyurulmuştu. Her paket bir hesaplama kalıbını altı adet HBM4 yığınıyla birleştiriyor. Toplam bellek kapasitesi 216 GiB, bant genişliği ise 15,4 TB/s seviyesinde. Nvidia GB300 ise 288GB HBM3E ile geliyor ve 1.400W güç sınıfında yer alıyor. Açıklanan değerlere göre OpenAI’nin çipi, dereceli güç başına bellek miktarında yaklaşık %50 daha yüksek bir yoğunluk sunuyor. Sunumda mimarinin ana darboğaz olarak daha fazla HBM eklemekten ziyade toplam HBM bant genişliğini etkin biçimde görünür kılmayı hedeflediği ifade ediliyor.
HBM tarafı ise sektörün en kritik tedarik başlıklarından biri olmaya devam ediyor. Samsung, SK hynix ve Micron’un HBM kapasitesinin 2027’ye kadar büyük ölçüde satılmış olduğu belirtiliyor. Bu tablo, Jalapeño’nun daha geniş ölçekli yaygınlaşması halinde OpenAI’yi HBM4 arzı için önemli bir yeni alıcı konumuna getirebilir. İlk nesil çipin TSMC’nin 3nm sınıfı üretim sürecini kullandığı, ikinci neslin ise tapeout aşamasına aylar içinde yaklaşmakta olduğu aktarılıyor. OpenAI, tüm bunlara rağmen veri merkezi yatırımlarında Nvidia ile çalışmayı sürdürüyor; şirket kısa süre önce Ohio’daki bir veri merkezi kampüsü için Nvidia’dan $105 milyara kadar finansman desteği almıştı.
