欧洲人工智能企业反对Anthropic关于放缓前沿模型开发的呼吁

  • 欧洲人工智能企业和政策制定者反对Anthropic关于放缓前沿人工智能开发并协调安全措施的提议。
  • Anthropic和OpenAI承诺引入外部评估人员;阿莫代伊还提议设置常驻评估人员并制定自愿性安全标准。
  • 亚马逊支持严格测试和部署门槛,但反对全行业放缓人工智能开发。

欧洲人工智能企业和政策制定者对Anthropic首席执行官达里奥·阿莫代伊提出的建议表示反对。阿莫代伊主张,领先开发商应放缓人工智能能力的提升,并共同制定安全标准。法国企业Mistral表示,成熟企业可能利用安全担忧和监管来巩固自身市场地位;Proton、Black Forest Labs和Hugging Face则警告称,相关措施可能限制新进入者和开放式创新。 阿莫代伊认为,人工智能开发速度已超过政府监管,并提议主要开发商开展自愿协调,包括由外部研究机构派驻常驻评估人员,以评估企业是否以安全的速度开发人工智能。OpenAI首席执行官萨姆·奥尔特曼也承诺引入外部评估人员,使鲜为人知的人工智能安全团体受到更多公众关注。 这场争论进一步加剧了有关日益强大的人工智能是否需要放缓开发的讨论。亚马逊支持严格的发布前测试、部署门槛和安全措施,但反对全行业放缓。其《前沿模型安全框架》要求模型在发布前达到规定基准;与此同时,亚马逊正在开发Nova模型,通过AWS Bedrock提供第三方访问,并扩大人工智能基础设施。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。