Anthropic研究员Evan Hubinger警告称，公司认为人工智能可能在10年内杀死全人类。这一言论已在硅谷、华尔街和华盛顿引发连锁反响；与此同时，前研究员Jacob Coxon的辞职也加剧了外界对人工智能安全、监管以及该公司潜在首次公开募股的审视。负责开展对齐压力测试的Hubinger估计，人工智能在未来10年内令全人类灭绝的概率超过10%。他表示，Anthropic正在尽最大努力，但缺乏解决超级智能对齐问题的明确计划，也没有明显走在实现这一目标的正确轨道上。Coxon此前曾在OpenAI工作，并在两家公司合计从事了3年的预训练研究。他表示，业界领先的实验室正在竞相开发能够自我改进的超级智能，却没有充分的安全保障，实际上是在拿人们的生命赌博。一些Anthropic员工和其他人工智能从业者则为减少伤害的相关努力辩护。Capital Research Center研究员Parker Thayer指称，Coxon的辞职正通过一场复杂且资金充足的宣传活动被迅速推广，以支持更严格的人工智能监管；Bill Ackman进一步放大了这些指控。Coxon和Anthropic没有立即回应Benzinga的置评请求。此事发生之际，佛蒙特州独立参议员Bernie Sanders敦促OpenAI、Anthropic和Meta Platforms, Inc.停止研发人类无法控制的机器；与此同时，据报道，投资者和银行家正以近2万亿美元的估值为Anthropic筹划潜在IPO，并寻求最早于10月中旬筹集超过860亿美元。