キーポイント
イーロン・マスクのxAIは、今後数ヶ月でGrokの新バージョンを発表する。
XAIはNvidiaのチップに多額の投資を行い、AIの提供を強化する予定。
マスクはまた、「スーパーコンピューター」の開発も計画している。
イーロン・マスクのxAIは、8月にGrok 2を、年内にGrok 3をリリースする予定で、後者は10万個のNvidia H100 GPUで学習させる。しかし、1.5バージョンの強力なパフォーマンスにもかかわらず、Grokは無料版がないこととサブスクリプション費用が高いことから、ChatGPTやGeminiに比べるとまだ人気がない。
Grokの新展開にしばらく注目が集まるかもしれないが、トレーダーや人工知能（AI）コミュニティは、マスク氏の最近の「スーパーコンピューター」建設計画に注目するだろう。
Grok 2と3の発売時期
あるXユーザーは、Cohereのエイダン・ゴメスCEOのインタビューをシェアし、そこで彼は、多くのAIモデルがOpenAIの出力で訓練され、同様の出力で「人間ムカデ効果」を生み出していると発言した。イーロン・マスクはこのツイートに反応し、「悲しいかな、まったくその通りだ。インターネットのトレーニングデータからLLMをパージするのは大変な作業だ。8月にリリースされるGrok 2は、この点で大きく改善されるだろう。”
マスクはまた、”100kのH100でトレーニングした後、年末に予定されているGrok 3は、本当に特別なものになるはずだ “とも述べた。
Grokの最新バージョンであるバージョン1.5は3月にリリースされ、推論機能が強化され、コンテキストの長さが128,000トークンになった。Grok 1.5は、MMLU、MATH、GSM8KベンチマークではGPT-4に及ばなかったが、HumanEvalベンチマークではGPT-4に遠く及ばず、GPT-4を上回った。
これまでのところ、GrokがChatGPT、Gemini、Monicaよりも人気がないのは明らかだ。これは、XがGrokの無料版を提供していないことに起因している。LLMの運営には高いコストがかかり、マスク氏はXの収益を上げることを目標としているため、近い将来に無料版が提供される可能性は低そうだ。
Grokにアクセスするには、XアカウントとX Premium+プランへの加入が必要で、月額16ドル、年間168ドルかかる。X Premium+はXで最も高額なサブスクリプションで、For YouとFollowingのフィードからすべての広告が削除される。さらに、投稿や購読に対する報酬を受け取るためのハブを提供し、XのランキングでPremium+ユーザーの返信を後押しする。
新しいGrokは20,000 Nvidia H100 GPUを必要とする
イーロン・マスクは、xAIのチャットボットの次期バージョンであるGrok 3について興奮を呼んでいる。Xへの投稿で、彼は10万個のNvidia H100 GPUで訓練されたGrok 3が “特別なもの “になることをほのめかした。
AI開発に不可欠なNvidiaのH100 GPUは需要が高く、1個あたり30,000ドルから40,000ドルもする。したがって、Grok 3のトレーニングには30億ドルから40億ドルの費用がかかる可能性があるが、xAIはこれらのGPUをオラクルのようなクラウドプロバイダーからレンタルしているかもしれない。
マスクは以前、5億ドルのH100sをテスラからXに流用し、AIへの多大な投資を強調した。Grok 2はトレーニングに約2万台のH100を必要とし、以前のバージョンより急増している。
これまでxAIはGrok-1とGrok-1.5をリリースしている。10万個のGPUはかなりの数だが、メタのマーク・ザッカーバーグは2024年末までに約35万個のNvidia H100 GPUを取得し、合計約60万個のGPUを目指す計画で、AIへの投資額は推定180億ドルに上る。
マスクのスーパーコンピューター計画
2024年5月、イーロン・マスクのxAIはメンフィスにスーパーコンピューター施設を建設する計画を発表した。グレーター・メンフィス・チャンバーのテッド・タウンゼント会長によると、これはメンフィス史上最大の投資となる。このプロジェクトは3月以来、まだ初期の計画段階であり、xAIのAI開発能力を強化することを目的としている。
総費用や雇用創出などの詳細はまだ公表されていないが、xAIに対する減税や優遇措置の可能性については議論が続いている。タウンゼント氏は、マスク氏がメンフィスに関心を持っていることに感謝の意を表したが、マスク氏はこの計画についてコメントしていない。
オープンAI、グーグル、メタとの競争力を維持することを優先するxAIは、最近60億ドルのベンチャーキャピタルを確保し、会社の価値を240億ドル以上に評価した。新しい “ギガファクトリー・オブ・コンピュート “は、2025年秋までに完成する可能性がある。
The Informationによると、完成すれば、Nvidiaのフラッグシップ・グラフィックス・プロセッシング・ユニットH100の相互接続されたアレイは、既存の最大GPUクラスターの少なくとも4倍の規模になるという。
