马斯克质疑人工智能安全警告,并提议对模型进行竞争性测试

  • 埃隆·马斯克质疑人工智能实验室在寻求重大投资的同时警告模型危险时所受的激励机制。
  • 马斯克提到人类灭绝概率为10%,以及人工智能可能控制军事系统的风险。
  • 马斯克提议让竞争对手在模型发布前进行测试,公开披露问题,并将安全工具开源。

埃隆·马斯克表示,人工智能构成非常重大的危险,但他质疑,Anthropic和OpenAI等实验室为何一方面警告其模型可能造成灾难性后果,另一方面又寻求数十亿美元资金来扩大模型规模。在All-In峰会上,马斯克指出,警告人类灭绝概率为10%,同时又在首次公开募股中询问投资者希望认购多少股份,这两者之间存在矛盾。他提到了网络攻击、人工智能未来可能控制军事系统,以及那些被认为与外界隔离、却通过物理介质接收软件更新的系统所存在的漏洞。马斯克提议,人工智能公司应在新模型发布前向竞争对手提供应用程序接口访问权限,让竞争实验室能够发现并公开披露严重的安全问题,前提是开发者未能解决这些问题。他还支持将安全和测试工具开源。在外界担心监管可能形成单向棘轮效应之际,这一提议将通过对抗性同行评审补充监管;马斯克则倾向于采取一项可能同时获得美国和中国支持的措施。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。