Elon Musk, Memphis’te mevcut nesil NVIDIA H100 GPU’larını kullanarak GROK 3 eğitimlerinin başlayacağını duyurdu.
‘xAI’, NVIDIA’nın en güçlü veri merkezi H100 GPU’ları üzerinde resmi olarak eğitime başladı. Elon Musk bunu X’te gururla duyurdu ve ‘dünyanın en güçlü AI eğitim kümesi!’ olarak adlandırdı. Gönderide, süper kümenin tek bir RDMA yapısında 100.000 sıvı soğutmalı H100 GPU tarafından eğitileceğini söyledi ve xAI, X ve Nvidia ekibini Memphis’te eğitime başladıkları için tebrik etti.
Eğitim Memphis yerel saatiyle sabah 4:20’de başladı ve başka bir takip gönderisine göre Elon, dünyanın en güçlü yapay zekasının bu yılın Aralık ayına kadar hazır olacağını iddia ediyor. Raporlara göre GROK 2 önümüzdeki ay , GROK 3 ise Aralık ayına kadar yayınlanmaya hazır olacak. Bu, xAI ve Oracle’ın 10 milyar dolarlık sunucu anlaşmasını iptal etmesinden yaklaşık iki hafta sonra gerçekleşti.
xAI, Nvidia’nın AI çiplerini Oracle’dan kiralıyordu ancak kendi sunucusunu kurmaya karar verdi ve Oracle ile birkaç yıl devam etmesi gereken mevcut anlaşmayı sonlandırdı. Proje şimdi Oracle’dan daha üstün kendi süper bilgisayarını kurmayı hedefliyor ve bu, yüz bin yüksek performanslı H100 GPU kullanılarak gerçekleştirilecek. Her H100 GPU yaklaşık 30.000 dolara mal oluyor ve GROK 2 bunlardan 20.000’ini kullanmış olsa da GROK 3, AI sohbet robotunu geliştirmek için beş kat daha fazla güce ihtiyaç duyuyor.
Bu karar , Nvidia’nın 3. çeyrekte daha yeni H200 GPU’larını piyasaya sürmek üzere olması nedeniyle sürpriz olarak geldi. H200, 2. çeyrekte seri üretimdeydi ve gelişmiş Hopper mimarisini kullanarak daha iyi bellek yapılandırması sağlıyor ve bu da üretken AI çıktıları için %45’e kadar daha iyi tepki süresiyle sonuçlanıyor. H200’ün ardından, Nvidia’nın Blackwell tabanlı B100 ve B200 GPU’larını 2024’ün sonunda piyasaya sürmesi çok da uzak değil.
