英伟达已将Groq 3 LPX推理加速器投入全面量产，实现了其去年12月通过以200亿美元收购芯片初创公司Groq资产而获得的技术商业化。该机架旨在补充Vera Rubin NVL72 AI平台，面向模型服务中的解码阶段——即逐个生成代币的阶段，目标应用包括实时代理式AI、代码编写及其他对延迟敏感的工作负载。英伟达表示，在使用开源Gemma 4 31B模型进行的长上下文基准测试中，Groq 3 LPX的输出速度达到每秒3,400个代币，是竞品平台性能的4倍。CoreWeave和Nebius是早期采用者，而SpaceXAI计划在覆盖数据中心和轨道卫星的下一代架构中部署英伟达Vera CPU。这些系统将CPU、GPU、网络设备和推理加速器结合起来，以降低每个代币的成本，原因是随着AI支出转向大规模推理和多代理应用，相关需求正在发生变化。英伟达股价在8月24日为210.31美元，24小时内下跌2.05%；该公司市值为5.13万亿美元。