萨姆·奥特曼不认可10%的AI灭绝风险,支持暂停以确保安全

  • 萨姆·奥特曼表示,OpenAI应暂停那些无法以可信安全论证为依据的模型。
  • 奥特曼称,到本十年末人类被消灭的概率若为10%是不可接受的;与此同时,One Beyond解决了纳维-斯托克斯千禧年大奖难题。
  • OpenAI高管支持更严格的安全标准和透明的事故报告机制,但IPO时间安排及全行业放缓开发计划仍不确定。

OpenAI首席执行官萨姆·奥特曼表示,当公司无法就日益强大的人工智能系统具备可控性、可监控性以及与人类意图保持一致提出可信论证时,就应暂停训练或部署这些系统。在接受《财富》杂志总编辑艾莉森·肖恩特尔采访时,奥特曼称,到本十年末人类被消灭的概率若为10%是不可接受的,但同时质疑这类概率是否能够被可靠计算。他表示,OpenAI曾暂停训练运行;在其尚未发布的One Beyond模型解决纳维-斯托克斯千禧年大奖难题后,公司不会急于发布该模型,并将安全置于短期财务利益之上。OpenAI首席财务官萨拉·弗里尔另表示:“我们必须认真对待安全问题。”达里奥·阿莫代伊、埃隆·马斯克和奥特曼均支持全行业放缓开发的呼吁,但这对OpenAI或Anthropic潜在IPO时间表的影响仍不明确。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。