Amodei呼吁加强安全防护,AI风险争议升级并延伸至政府联盟

  • 特朗普总统和Palantir联合创始人乔·朗斯代尔否认先进人工智能可能导致人类大规模灭绝的警告,而Anthropic首席执行官达里奥·阿莫代呼吁加强治理。
  • 阿莫代呼吁放缓前沿模型开发,并表示愿意将Anthropic的技术转让给合适的政府联盟;Anthropic最近的估值为3,800亿美元。
  • 这场争论涉及外部评估、共同安全规则和国际协调等提议;在有关AI智能体被滥用的报道之后,奥特曼、马斯克、哈萨比斯和德朗格均表示支持。

随着美国总统特朗普总统和Palantir联合创始人乔·朗斯代尔驳斥灾难性后果警告,而Anthropic首席执行官达里奥·阿莫代呼吁放缓前沿模型开发、加强安全防护并开展国际协调,围绕人工智能风险与治理的争论进一步升级。特朗普总统表示,美国正领先于中国,并称谁赢得人工智能,谁就能赢得未来;朗斯代尔则表示,各国领导人正在管控相关风险,不应让公众感到恐慌。阿莫代警告称,AI群体可能很快就能控制互联网,并提议让外部评估机构持续获得访问权限,同时由前沿模型开发商共同遵守安全要求。他在接受CBS采访时表示,愿意将Anthropic的技术转让给合适的政府联盟。Anthropic在最近一轮融资中的估值为3,800亿美元,而预测市场认为其在12月31日前达到6,000亿美元估值的概率为2.9%。OpenAI首席执行官萨姆·奥特曼、xAI所有者埃隆·马斯克、Google DeepMind创始人德米斯·哈萨比斯和Hugging Face首席执行官克莱芒·德朗格均表示支持阿莫代的担忧,不过阿莫代表示,任何放缓都不能让中国取得领先。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。