刘云平敦促国会今年通过AI紧急停止法案

在华盛顿就新的AI规则展开辩论之际,刘云平表示,OpenAI、Anthropic和Meta近期的安全测试显示,企业需要具备关闭、放缓或暂停危险模型的能力。

摘要

美国众议员刘云平表示,国会应在今年通过AI紧急停止法案。他认为,OpenAI、Anthropic和Meta近期披露的安全测试表明,先进AI模型可能带来紧迫的网络安全和失控风险。该法案将要求AI公司能够在出现严重安全问题时关闭、放缓或暂停模型。随着美国总统唐纳德·特朗普批评国会的监管努力,以及商务部下属国家标准与技术研究院(NIST)提出衡量AI系统影响的指导方针并征求公众反馈,更广泛的政策辩论正在升温。

术语与概念
  • 智能体AI: 可自主行动的AI系统,包括在没有持续人工指令的情况下跨数字系统采取行动。
  • 闭源AI模型: 底层代码或模型细节不向公众公开的先进AI系统。
  • NIST: 美国国家标准与技术研究院,是美国商务部下属负责制定科学和技术标准及指导意见的机构。