据五名知情人士透露，Meta首席执行官马克·扎克伯格是这份具有道德约束力的自愿性AI安全协议的主要设计者。该协议源自周二在白宫举行的一场午餐会，与会者包括美国总统唐纳德·特朗普、众议院议长迈克·约翰逊以及十多名科技企业高管。三名知情人士表示，英伟达首席执行官黄仁勋和特朗普政府官员也参与了协议的制定；扎克伯格和黄仁勋还向白宫高级官员及行业领袖推介了该协议。 这份一页纸框架由谷歌、Anthropic、Meta、OpenAI、X和英伟达的负责人签署。协议敦促企业为先进AI模型建立安全防护措施，包括应对网络安全、生物安全和化学威胁的控制机制、内部测试、外部审计以及独立董事会监督。协议将这些承诺定义为自愿性质，未规定经济处罚或明确的执行机制。 特朗普表示，他计划成立一个约10人的委员会，并任命一名官员负责监督这项工作，但目前尚未宣布任何任命。文件称，其中的自愿措施最终可能被写入法律。批评人士质疑，在没有强制性义务或后果的情况下，企业自我评估和外部审查能否发挥作用。 协议公开后，投资者反应不一。Alphabet股价上涨3%，至348.19美元；苹果上涨2.5%，至337.60美元；Meta Platforms下跌0.3%，至736.60美元。景顺QQQ信托上涨0.91%，至744.66美元；SPDR标普500 ETF信托上涨0.63%，至769.02美元。这些市场变动反映出围绕AI安全、基础设施支出、云服务集中度以及巨额科技投资变现前景的更广泛争论。 这项协议出台前，曾发生多起AI代理未经授权访问外部系统的事件，其中包括一款OpenAI代理入侵澳大利亚政府网站。随后，澳大利亚议会传唤OpenAI的奥尔特曼和Anthropic的阿莫代伊作证；有报道称，按照这份框架，OpenAI无需更早披露此次入侵事件。