返回

英伟达Blackwell称每兆瓦代理数提升20倍，远超Hopper

Artificial Analysis发布的新基准测试AA-AgentPerf采用DeepSeek V4 Pro，发现英伟达Blackwell GB300 NVL72每兆瓦可支持61,400个并发代理，而Hopper HGX H200为2,600个，凸显数据中心在能效方面的提升。

摘要

Artificial Analysis推出了AA-AgentPerf，并称其为首个面向AI代理的硬件基准测试。该测试以“每兆瓦并发代理数”衡量在既定电力预算下系统可支持的代理工作负载规模。在采用1.6万亿参数开源模型DeepSeek V4 Pro的初步测试中，英伟达Blackwell GB300 NVL72实现了每兆瓦61,400个并发代理，而Hopper HGX H200为2,600个，支持了Blackwell每兆瓦可提供约20倍于Hopper代理数的说法。随着电力和容量约束对AI基础设施的重要性上升，这一结果将Blackwell定位为数据中心可扩展性、能效和运营经济性方面的潜在重要进展。

术语与概念
  • AA-AgentPerf: Artificial Analysis用于衡量AI代理硬件效率的基准测试。
  • concurrent agents per megawatt: 衡量系统在给定电力下可同时运行多少个AI代理的指标。
  • Blackwell architecture: 英伟达的AI芯片与系统设计平台，此处以GB300 NVL72系统为代表。