欧洲人工智能企业和政策制定者对Anthropic首席执行官达里奥·阿莫代伊提出的建议表示反对。阿莫代伊主张,领先开发商应放缓人工智能能力的提升,并共同制定安全标准。法国企业Mistral表示,成熟企业可能利用安全担忧和监管来巩固自身市场地位;Proton、Black Forest Labs和Hugging Face则警告称,相关措施可能限制新进入者和开放式创新。 阿莫代伊认为,人工智能开发速度已超过政府监管,并提议主要开发商开展自愿协调,包括由外部研究机构派驻常驻评估人员,以评估企业是否以安全的速度开发人工智能。OpenAI首席执行官萨姆·奥尔特曼也承诺引入外部评估人员,使鲜为人知的人工智能安全团体受到更多公众关注。 这场争论进一步加剧了有关日益强大的人工智能是否需要放缓开发的讨论。亚马逊支持严格的发布前测试、部署门槛和安全措施,但反对全行业放缓。其《前沿模型安全框架》要求模型在发布前达到规定基准;与此同时,亚马逊正在开发Nova模型,通过AWS Bedrock提供第三方访问,并扩大人工智能基础设施。