摘要
Anthropic首席执行官达里奥·阿莫代呼吁政府应拥有叫停高风险前沿AI模型的权力，并支持对先进系统实施强制测试，这标志着大型AI实验室迄今最强硬的监管立场之一。他认为，前沿模型对金融部门、关键基础设施和国家安全构成“非常现实的风险”，并写道：“Mythos Preview扰乱了全球网络安全格局。”他在接受彭博采访时还警告称，如果AI掌握了工作中最后10%的任务，可能触发岗位的全面自动化，从而引发广泛的经济和社会扰动。加密货币 Briefing的一篇新报告进一步指出，Anthropic的收入目标凸显前沿AI开发脆弱的经济现实，并称达里奥·阿莫代曾警告，公司若要生存需要达到$1 trillion的收入。这一说法表明，领先AI模型背后存在巨大的资本需求，并可能对科技行业和投资者信心产生连锁影响。
术语与概念
- 前沿AI模型: 处于当前发展最前沿、技术水平最先进的AI系统。
- 强制测试: 一种监管要求，即先进AI系统在发布或更广泛部署前必须接受正式评估。
- 分级式AI发布方法: 一种部署模式，根据AI系统的能力和风险赋予不同级别的访问权限或安全保障。