Anthropic称AI担忧聚焦滥用,并非禁止开放权重模型

据报道,随着来自美国承包商、开发者和企业用户的压力加大,Anthropic表示,其安全关注点在于网络攻击和生物威胁等有害的AI滥用,而不是禁止开放权重模型。

摘要

Anthropic表示,其对AI安全的主要担忧是滥用风险,包括网络攻击和生物威胁,而不是禁止开放权重模型。随着该公司AI战略面临更广泛质疑,这一立场随之受到关注。36Kr报道称,一些美国政府承包商被要求在2026年8月31日前移除Anthropic的产品和模型;与此同时,开发者和企业客户也对竞争问题和数据保留提出担忧。在开放权重之争中,Anthropic未签署由英伟达CEO黄仁勋于7月24日牵头、反对限制开放权重模型的联名信,但首席执行官Dario Amodei于7月27日表示,公司从未主张禁止此类模型,而是支持对达到特定性能门槛的模型在发布前进行强制性安全评估。

术语与概念
  • 开放权重模型: 共享模型参数,供他人使用或在其基础上开发的AI模型
  • 生物威胁: AI在危险生物研究或相关工具方面可能被有害滥用的风险
  • 应用程序接口 (API): 使应用程序能够连接模型或服务的软件接口