摩根大通戴蒙警告,Anthropic的Mythos AI加剧网络风险

在 Anthropic 增加安全防护措施后,华盛顿先收紧后放宽访问限制,戴蒙在参议院峰会上称围绕 Mythos 的风险是“一个现实问题”。

摘要

摩根大通首席执行官杰米·戴蒙表示,Anthropic 的 Mythos AI 模型带来严重的网络安全和国家安全风险,并称这“是一个现实问题”,警告必须对先进 AI 能力的广泛获取加以控制。7 月 15 日,戴蒙在参议员戴夫·麦考密克举办的宾夕法尼亚国防与创新峰会上表示,“你这是在把弹道导弹交给个人使用 Mythos”,凸显了外界对强大系统可大规模识别软件漏洞的担忧。Anthropic 于 4 月向包括摩根大通在内的少数机构发布了 Mythos,银行业对该模型表现出兴趣,因为它被视为发现网络安全弱点并帮助企业更快修复问题的最先进工具之一。6 月,出于国家安全担忧,美国政府命令 Anthropic 限制外国公民访问其顶级 AI 模型 Fable 5 和 Mythos 5,促使该公司一度切断全球范围内的访问,随后在实施新的安全防护措施后恢复了可用性。这一事件反映出华盛顿和科技行业在更广泛层面上正努力管理先进 AI 系统可能被滥用的风险,包括被中国、俄罗斯或其他受关注国家的军事情报部门利用。

术语与概念
  • 网络安全漏洞: 软件或系统中的弱点,可能被攻击者利用。