OpenAIとAnthropicの科学者は、再帰的な自己改良に向けた開発の加速により、AIが人間による有効な監督を超える可能性があると公に警告している。OpenAIとAnthropicで3年間にわたり事前学習の研究に携わったジェイコブ・コクソン氏はAnthropicを辞任し、主要企業が「私たちの命を賭けている」と述べ、自己改良する超知能の実現に向けて競争していると指摘した。Anthropicでアラインメント部門を率いるエバン・フービンガー氏は、高度なAIが2030年までに人類絶滅を引き起こす確率は10％を超えると見ている一方、現行モデルによるリスクは低いと説明している。両社のシステムを巡るセキュリティー上の問題が発生したことで、この議論はさらに激しくなっている。Anthropicの「Mythos」モデルが詐欺用の架空の人物像を生成した事例も含まれる。OpenAIとAnthropicは株式市場へのアクセスに向けた動きも進めており、Anthropicは10月半ばにもIPOロードショーを開始する可能性がある。今回の動きは、フービンガー氏の研究やリップルでの以前の役職、Anthropicを巡る投資・規制・安全性に関する幅広い議論に対するこれまでの関心に新たな材料を加えた。