ヴィタリック・ブテリン氏、アリババの「Qwen3.8-Flash-Next」をノートPCでローカル実行

  • ヴィタリック・ブテリン氏は、クラウドに接続せず、ノートPCでアリババの「Qwen3.8-Flash-Next」を実行した。
  • 128ギガバイトの共有メモリーにより、Strix Halo搭載ノートPCではモデルをローカル実行できる。
  • 報告によると、アリババは8月26日にモデルのオープンウェイトを公開した。

イーサリアム共同創設者のヴィタリック・ブテリン氏は、クラウドサーバーを使わず、自身のノートPCでアリババの「Qwen3.8-Flash-Next」を試した。ローカル人工知能(AI)は、日常的な作業の大部分を処理できる段階に近づいているとの見方を示した。ノートPCには、プロセッサーとグラフィックス機能を共有メモリーで組み合わせるAMDの「Strix Halo」チップが搭載されている。構成によっては最大128ギガバイトの共有メモリーを備え、1250億パラメーターを持ちながら一度に60億パラメーターだけを稼働させるモデルを実行できる。ブテリン氏によると、短いプロンプトでは無理なく読める速度で出力された一方、数万語に及ぶ非常に長いプロンプトでは処理がなお遅かった。アリババは8月26日にモデルのオープンウェイトを公開した。ダウンロード版の名称は「Qwen3.8-Flash-Next」だが、ブテリン氏は「Qwen3.8-Flash」と呼んだ。また、llama.cppによる同モデルの処理性能が向上していることにも言及し、より大規模な「Qwen3.8-Max」が8月に強いベンチマーク結果を記録したと述べた。速度だけでなく、ブテリン氏は、より高性能なホスティング型システムにクエリを送る前に、ローカルモデルで氏名やウォレットアドレス、非公開コードを削除する使い方も提案した。この方法ならクラウド事業者にさらされる個人情報を減らせる可能性があるが、機密データがすべて削除されることを保証するものではないという。今回の議論は、EUのチャット規制を巡る攻防の最中に同氏が監視への警戒を示したことや、AIエージェントへの規制強化を求める仮想通貨利用者の幅広い声に続くものである。5月に提起された集団訴訟では、OpenAIがChatGPT利用者のクエリをメタやグーグルと共有したと आरोपされている。記事は、最先端AIをなおクラウド事業者が支配していると結論付けている。ただ、ローカルでの処理性能が向上し、共有メモリーを備えたハードウェアも普及することで、日常的な作業の多くを事業者のサーバーから移せる可能性がある。その場合、どの程度の性能をコントロールと引き換えにするかは利用者が判断することになる。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。