Anthropic选定埃森哲作为安全计划下首家嵌入式AI评估方

  • Anthropic选定埃森哲作为首家嵌入式评估方,并与其人工智能业务Faculty合作。
  • Anthropic和埃森哲承诺在未来五年内分别投入至少10亿美元。
  • Anthropic计划在未来几周内宣布其他非独家评估合作方。

Anthropic已选定埃森哲作为首家嵌入式评估方,并与埃森哲的人工智能业务Faculty合作,对模型开展评估和红队测试,进行对齐评估并测试安全防护措施。这项非独家合作支持首席执行官Dario Amodei于9月12日提出的方案,即赋予独立评估方类似员工的访问权限,以帮助放缓AI发展并建立防范潜在灾难性危害的安全措施。Anthropic和埃森哲已承诺在未来五年内分别向该项目投入至少10亿美元;由于目前没有成熟的独立评估融资机制,Anthropic将直接为相关工作提供资金。两家公司仍在确定该合作安排的具体运作方式,Anthropic计划在未来几周内宣布其他非独家评估方。OpenAI首席执行官Sam Altman和SpaceX首席执行官埃隆·马斯克对Amodei的方案作出积极回应,而英伟达首席执行官Jensen Huang则认为没有必要实施此类监管。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。