AMDとCerebrasが提携、効率5倍向上を狙うAI推論システム

Cerebrasは、自社データセンター内のAMD Heliosシステムで年内後半から同社製チップが採用されると明らかにし、株価は約4%上昇した。超低遅延のAIインフラ強化に向けた広範な取り組みをさらに進める動きである。

要約

AMDとCerebras Systemsは、AMDのHeliosラックスケールシステムとCerebrasのWafer-Scale Engineを組み合わせた分離型AI推論プラットフォームを構築する技術提携を発表した。両社によると、この構成は超低遅延のAI推論向けに設計されており、スループットと効率も高める。1ワット当たりの1秒間のトークン生成数は競合比で5倍になるとしている。Cerebrasのアンドリュー・フェルドマンCEOはサンフランシスコで開かれたAMDのAIカンファレンスで、年内後半からCerebrasのデータセンターに設置されるAMDのHelios AIシステムにCerebras製チップが採用されると述べた。また、サーバー購入者はCerebrasのウェハースケールチップを搭載したAMDシステムを構成できるようになるという。発表を受け、Cerebras株は木曜日に約4%上昇し、219.80ドルで取引された。この提携は、リアルタイムアプリケーション向け需要が拡大する中、AIインフラ事業者が応答速度、電力効率、柔軟性の均衡を図ろうとしている現状を浮き彫りにしている。Cerebrasは1月、2028年までに750メガワットの計算能力を提供する総額100億ドル超のOpenAI向け契約も発表していた。

用語解説
  • AI推論: 学習済みのAIモデルが実際のリクエストを処理し、出力を生成する段階。
  • 超低遅延: 応答時間が極めて短いこと。ほぼ即時の回答が求められるAIアプリケーションで重要となる。
  • ウェハースケールチップ: シリコンウェハー全体を使って製造され、非常に大きな計算性能を実現するプロセッサ。