Anthropic研究员Jacob Coxon辞职，并警告先进AI可能摧毁人类，这加剧了围绕该技术风险、商业激励和潜在监管的公开争议。27岁的Coxon此前曾在OpenAI工作，他表示，随着系统接近超人类能力，开发者正在拿人们的生命赌博。Anthropic团队负责人Evan Hubinger表示，他个人认为未来十年内AI杀死人类的概率超过10%。Grindr首席执行官George Arison、英伟达首席执行官Jensen Huang、Altimeter Capital负责人Brad Gerstner以及Hugging Face首席执行官Clement Delangue均对此发表评论并提出批评；与此同时，Anthropic首席执行官Dario Amodei呼吁放缓模型开发，并制定全球性规则。这场争论发生之际，Anthropic和OpenAI分别寻求达到9650亿美元和8520亿美元的估值，并为可能进行公开募股做准备。争论还重新引发了外界对Anthropic网络安全工具Mythos、涉嫌利用AI制造生物武器和从事网络间谍活动，以及包括参议员Bernie Sanders提出暂时暂停先进AI开发在内的限制措施的审视。