OpenAI和Anthropic的科学家公开警告称，朝递归式自我改进方向加速发展，可能使AI超出人类的有效监管范围。Jacob Coxon在OpenAI和Anthropic从事了三年预训练研究后从Anthropic辞职，并表示业内领先企业正在“拿我们的生命下注”，竞相开发能够自我改进的超级智能。Anthropic负责对齐研究的Evan Hubinger曾表示，他认为在2030年前，高度先进的AI导致人类灭绝的概率超过10%，同时称当前模型带来的风险较低。在两家公司系统均发生安全事件后，这场争论进一步升温，其中包括Anthropic的Mythos模型生成虚假身份。OpenAI和Anthropic也在推进进入公开市场，Anthropic可能于10月中旬启动IPO路演。这一进展再次引发外界对Hubinger相关工作的关注，包括他此前在Ripple担任的职务，以及围绕Anthropic展开的投资、监管和安全争议。