バイトダンス、10兆パラメータに達する可能性があるAIモデルを開発中と報じられる

バイトダンス、10兆パラメータに達する可能性があるAIモデルを開発中と報じられる

この初期段階のプロジェクトは、MoonshotのKimi K3の約3倍の規模となる見通しで、短期的なLLMの遅れを受け入れつつ独自開発を追求するバイトダンスの戦略を拡張するものである。

ファクトチェック
Benzingaの報道(フィナンシャル・タイムズを引用)と、WTVBおよびThe Standardが伝えたロイター配信の記事はいずれも、中核となる主張を裏付けている。すなわち、ByteDanceは最大10兆パラメーターのAIモデルを訓練していると報じられており、これはMoonshotのKimi K3(2.8兆)の約3倍の規模で、事前学習の初期段階(3〜6カ月)にあり、最終的な規模やリリース時期は未定であるという内容である。これは、Kimi K3の約3倍の規模を持つ初期段階のプロジェクトであり、独自開発であるとのこの主張の説明と一致する。すべての報道は同じフィナンシャル・タイムズの一次報道に基づいており、この主張は確認済みの製品ではなく、報道ベースの初期段階の案件として正確に位置付けられており、各ソースとも整合的である。
要約

バイトダンスは、10兆パラメータに達する可能性があるAIモデルの事前学習を進めていると報じられている。この規模であれば、中国で公開されている最大のAIモデルであるMoonshot AIのKimi K3の約3倍となり、Anthropicの最先端のMythosシステムに匹敵する可能性がある。プロジェクトはなお初期段階にあり、事前学習は通常3〜6カ月続いた後、バイトダンスがモデルの最終的な規模、追加のファインチューニングの可能性、そして公開の有無を決定する。この取り組みは、独自開発を重視するバイトダンスの公表済み方針を裏付けるものである。創業者の張一鳴氏はAIチームに対し、短期的な競争ではなく世界水準のモデルを追求するよう促しており、CEOの梁汝波氏は同社の中核LLMが海外の有力競合に対してさらに後れを取っていると述べている。それでも同社はアプリケーション分野で強い地位を築いており、Doubaoは月間アクティブユーザー数3億2400万人で中国の消費者向けAI市場をリードし、SeeDanceは世界で最も先進的な動画生成モデルの1つとみなされ、Doubao、Feishu、Volcano Engineの連携強化が企業向け販売を後押ししている。

用語解説
  • パラメータ: AIモデル内部の数値的な重みで、学習中に調整され、モデルがどれだけの情報を表現できるかを左右する。
  • 事前学習: 特定のタスク向けに後から調整する前に、モデルが大規模データセットから幅広いパターンを学習する初期学習段階。
  • LLM: 大規模言語モデル。膨大な量のテキストで学習し、言語を理解・生成するAIシステム。