白宫与Anthropic合作,制定AI安全规则

Anthropic正与白宫展开更紧密合作,以解决引发其Mythos和Fable模型限制措施的安全担忧。

摘要

白宫正就AI安全规则与Anthropic展开合作,该公司也在着手解决导致其Mythos和Fable模型受到限制的安全担忧。知情人士称,Anthropic已告知美国商务部长Lutnick,将与白宫开展更紧密合作;截至周四,联合创始人兼首席算力官Tom Brown以及公共政策负责人Sarah Heck正牵头与特朗普总统政府官员进行磋商。目前尚未设定全面解决问题的明确时间表。这一接触表明,相关讨论正从更广泛的监管工作,演变为与特定模型安全问题及潜在保障措施相关的更具体流程。

术语与概念
  • AI安全规则: 规范人工智能系统如何开发、部署和监测的政策与保障措施。