コインベースCEO、中国のオープンウェイトAIモデルでコスト半減と説明

ブライアン・アームストロング氏は、トークン消費の増加が続く中、コインベースが独自のゲートウェイを通じて大規模言語モデルの利用を振り分け、GLM 5.2とKimi 2.7をデフォルトとしていると述べた。

要約

コインベースは、トークン使用量が増え続ける中でも、支出を半減させた新たな人工知能の運用体制を試験していると、ブライアン・アームストロング氏が明らかにした。コインベースのCEOである同氏は、同社が独自のLLM(大規模言語モデル)ゲートウェイを使用し、GLM 5.2やKimi 2.7を含むオープンウェイトモデルをデフォルトとしていると述べた。この投稿は、企業が利用量を管理し、推論コストを抑えながら増大するワークロードを維持するため、需要を社内のモデル層に通すAIインフラのコスト効率化への転換として、この動きを位置付けている。

用語解説
  • LLMゲートウェイ: AIモデル向けの内部ルーティング層
  • オープンウェイトモデル: 重みが公開されているAIモデル
  • トークン使用量: AIが処理するテキスト単位の量