Anthropicの研究者ジェイコブ・コクソン氏の辞任と、先進的なAIが人類を滅ぼす可能性があるとの警告を受け、AIのリスクや事業上のインセンティブ、規制の可能性を巡る公開の対立が激化している。27歳のコクソン氏は、OpenAIに勤務した経験もあり、AIシステムが超人的な能力に近づくなか、開発企業は人々の命を賭けていると述べた。Anthropicのチームリーダー、エバン・ヒュービンガー氏は、今後10年以内にAIが全人類を殺す確率は10％超だと個人的に考えていると明らかにした。発言を巡っては、Grindrのジョージ・アリソン最高経営責任者（CEO）、Nvidiaのジェンスン・フアンCEO、Altimeter Capitalのブラッド・ガーストナー最高責任者、Hugging Faceのクレマン・ドランジュCEOが批判した。一方、Anthropicのダリオ・アモデイCEOは、モデル開発の減速と世界的なルールの整備を呼びかけた。今回の議論は、AnthropicとOpenAIがそれぞれ9650億ドル、8520億ドルの企業価値を目指し、株式公開の可能性に備えるなかで起きている。また、Anthropicのサイバーセキュリティー・ツール「Mythos」や、AIを生物兵器やサイバー諜報に悪用したとの疑惑、バーニー・サンダース上院議員が提案した先進AI開発の一時停止を含む規制案にも改めて注目が集まっている。