维塔利克·布特林谈AI 2040之争，关键在于超级智能时间表与治理

维塔利克·布特林表示，围绕 AI 2040 的分歧源于对高级 AI 可能以多快速度发展，以及超级智能是否会成为一种高度集中的权力来源这两方面存在相互冲突的假设。在 X 上的一则帖子串中，这位以太坊联合创始人称，他不确定哪一种世界观更接近现实，但如果风险变得显著，他仍愿意支持放慢或暂停 AI 开发。他将其中一方描述为：除非有强力措施介入，否则到 2040 年将出现某种形式的超级智能；而批评者则更担心对自由和人类决策的限制，而非超级智能本身。 Meta 首席 AI 科学家 Yann LeCun、作家 Daniel Jeffries、政策分析师 Adam Thierer、AI 研究员 Richard Ngo 等人也参与了讨论。LeCun 认为，AI 安全是一个可以通过迭代改进来解决的工程问题，并表示当前的大语言模型属于受限系统，尚不具备像人类那样的推理能力。布特林则反驳称，这种观点排除了出现一种足够强大的 AI、能够独立完成任何任务的可能性，他将其称为 ASI。 布特林提出了一个以“方案 A”为核心的框架：要求对 AI 开发实行强制透明，并设置紧急关闭开关；如果系统变得危险，该机制可减缓或停止大规模训练。他承认，针对 ASI 过渡并不存在完美方案。这场更广泛的争论还涉及：开源模型是否会降低权力集中程度，抑或更严格的审批体系会扼杀开放开发。Daniel Kokotajlo 的 AI Futures Project 报告提出，美中应合作将超级智能推迟到 2040 年之后出现，包括共享研究成果，以及一种其称为“相互确保算力摧毁”的威慑模型。