Elon Musk, Colossus süper bilgisayarının ölçeğini büyütme planında önemli bir eşiğe yaklaşıldığını açıkladı. Paylaşılan takvime göre gelecek hafta 220.000 Nvidia GB300 GPU devreye alınacak. Buna ek olarak kasım ayında bir 220.000 adet daha, aralık sonuna kadar da “işler yolunda giderse” yine 220.000 GPU’nun çevrimiçi olması hedefleniyor. Böylece yaklaşık iki yıl önce duyurulan milyonlar seviyesindeki GPU kapasitesi hedefi daha görünür hale gelmiş oldu.
Verilen rakamlar, halihazırda Colossus 2 sahasında çalışan 110.000 GB200 ve 440.000 GB300 GPU’ya ekleniyor. Colossus 1 tarafında ise 150.000 H100, 50.000 H200 ve 30.000 GB200 GPU bulunduğu belirtiliyor. Bu ilavelerle birlikte şirketin GB300 sayısı 1,1 milyon adede, toplam çalışan GPU sayısı ise 1.440.000 seviyesine ulaşacak. Özellikle şirketin görece kısa geçmişi düşünüldüğünde bu ölçek dikkat çekici görünüyor.
Altyapının yapısı da dikkat çekiyor. Colossus 1 sahasında Hopper ve Blackwell tabanlı GPU’lar birlikte kullanılıyor. Bu karışık yapı, Grok eğitimi açısından verimsiz bulunmuş durumda. Bu nedenle söz konusu tesisin, eğitim yerine Anthropic’e çıkarım iş yükleri için kiralandığı ifade ediliyor. Buna karşılık Colossus 2 yalnızca Blackwell tabanlı GPU’lara dayanıyor; bu da eğitim tarafında olası darboğazları azaltmayı amaçlıyor.
Bu ölçekte veri merkezi kurulumlarında asıl darboğazın artık sadece GPU tedariki olmadığı da görülüyor. En büyük sorunlardan biri enerji tarafı. SpaceXAI, bu problemi kendi enerji altyapısını getirerek aşmaya çalıştı. Ancak bu yaklaşım, çevredeki yerleşim alanlarıyla tartışmalara yol açtı ve izinsiz gaz türbinleri işletildiği gerekçesiyle şirkete dava açıldı. Şirketin bu türbinleri kaldırma sözü verdiği, ancak bunun kendi 1,2-GW elektrik santrali devreye girerken bir yıllık bir takvim içinde gerçekleşeceği belirtiliyor.
Tek bir sahada 1 milyonun üzerinde GPU çalıştırma hedefi etkileyici olsa da yarışta tek oyuncu SpaceXAI değil. Broadcom, 2024 içinde üç hyperscale müşterisinin 2027’ye kadar bu seviyeyi hedeflediğini söylemişti, ancak isim vermemişti. Musk ise mevcut hedefi yalnızca başlangıç olarak görüyor. Açıklamasına göre SpaceXAI, veri merkezi kapasitesini 2027’ye kadar yedi kat büyütmeyi planlıyor. Daha uzun vadede ise 2030 için 50 milyon H100-equivalent GPU düzeyinde bir hedef telaffuz ediliyor. Ayrıca bu kapasitenin yalnızca yeryüzüyle sınırlı kalmayabileceği, SpaceX’in 1 milyon uydudan oluşan bir Orbital Data Center System fikri üzerinde de durduğu aktarılıyor.
