Görünüşe göre AI odaklı diğer tüm firmalar, AI sohbet robotlarına olan artan ihtiyacı karşılamak için LLM modellerinin gelişmiş sürümlerini çıkarmak için birbirleriyle yarışıyor. Yarışa katılan yeni bir firma da Elon Musk’ın AI girişimi xAI. Daha önce, X’teki premium kullanıcılar için bir AI asistanı olarak entegrasyonu için özel olarak tasarlanmış “Grok” LLM modelleri setinin geliştirildiğini duyurmuştu.
Firma orijinal modelin daha yeni versiyonlarını yayınladı ve xAI şu anda Grok 2 için hazırlık yapıyor; ancak Elon son tweetinde, seleflerinden çok daha büyük olacağını iddia ederek yeni nesil Grok 3 modelini tanıtmaya başladı.
Grok 3’ü eğitmek için kullanılan donanımın açıklanması, aynı anda hem şaşırtıcı hem de heyecan verici bir durum, çünkü NVIDIA’nın üst düzey H100 AI GPU’larından 100.000 adetinin model eğitimi için kullanılması, piyasaların henüz görmediği bir sonuç üretecek.
Bu iddiayı destekler nitelikte, OpenAI’nin GPT-4 LLM modelinin, H100’lere kıyasla nispeten eski ve sayıca daha az olan NVIDIA’nın A100 AI GPU’larından 40.000 tanesinde eğitildiği söyleniyor; dolayısıyla Grok 3 AI modelinin kendi içinde ne gibi yeteneklere sahip olabileceğini tahmin edebilirsiniz.
Elon Musk, önceki bir tweet’inde, internet verileri aracılığıyla LLM eğitiminin telaşlı olduğunu ve özellikle bilgi işlem kaynakları söz konusu olduğunda “çok fazla çalışma” gerektirdiğini iddia etti. Ağustos ayında yayınlanması planlanan Grok 2 AI modelinin bu konuda bir gelişme olduğunu ve bir sonraki nesil Grok 3 LLM modelinin önceki modeller üzerine inşa edileceğini ve nihayetinde xAI tarafından devasa bir ürün olacağını söyledi.
Bunun dışında, Elon Musk daha önce xAI için NVIDIA’nın amiral gemisi Blackwell B200 AI hızlandırıcılarını da satın almayı planladığını duyurmuştu , görünüşe göre 9 milyar dolar değerinde, ki bu piyasaların dinamikleri düşünüldüğünde devasa bir miktar. Grok 3’ün NVIDIA’nın H100’lerinden 100.000 adet kullanması ile modelin sadece eğitimde yaklaşık 3 milyar dolara mal olması bekleniyor, bu da Elon’un xAI ile her şeyden maksimum düzeyde yararlandığı gerçeğini haklı çıkarıyor.
