Cerebras携手Callosum,借助CS-4加速AI推理

Cerebras Systems推出了CS-4,这是一款面向推理工作负载的机架级AI服务器。首批系统预计于本季度推出;公司称,在某些工作负载下,其速度最高可达到GPU替代方案的30倍。与此同时,Cerebras与AI编排初创公司Callosum达成合作,将Cerebras加速器集成到一个平台中,该平台可实时将工作流组件路由至合适的模型和硬件,从而支持企业采用智能体AI系统。这类系统旨在仅需有限人工干预即可执行任务。在公司披露的复杂金融服务任务生产基准测试中,与在标准基础设施上运行单一前沿模型相比,该合作将性能提高了4倍,计算成本降低了70%,任务成功率提高了10%。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。
Cerebras携手Callosum,借助CS-4加速AI推理 - CoinPost Terminal