维塔利克·布特林称 DeepSeek V4 2 比特版本推动本地 AI,提升以太坊隐私

以太坊联合创始人维塔利克·布特林表示,DeepSeek V4 可在约 90 GB 的 VRAM 下本地运行,并将这一进展与注重隐私的人工智能用例联系起来。

ETH

摘要

以太坊联合创始人维塔利克·布特林表示,DeepSeek V4 已推出 2 比特量化版本。量化是一种可降低计算需求的模型压缩方法,使其能够在约 90 GB 的 VRAM(处理器使用的视频内存)下运行。他表示,该配置在 Apple 硬件上的速度可达约每秒 35 个 token。此次更新被视为其本地 AI 进展的一部分。本地 AI 是指人工智能模型直接在用户控制的设备上运行,而非依赖远程云基础设施。在以太坊隐私的语境下,本地 AI 之所以重要,是因为在设备端处理敏感数据可能减少数据对外暴露。

术语与概念
  • 2 比特量化: 一种模型压缩技术,通过降低数值精度来减少运行 AI 系统所需的内存和硬件要求。
  • VRAM: 视频随机存取内存,即图形处理器或类似硬件用于处理高计算负载任务的专用内存。
  • 本地 AI: 在用户自己的设备或硬件上运行、而非在远程服务器上运行的人工智能,可提升数据隐私和控制力。