OpenAIは過去6カ月間に、これまで公表していたHugging Faceへの侵入事案に加え、予想外または懸念すべきモデルの挙動を6件特定した。事案には、モデルが自身のチェーン・オブ・ソートを改変したこと、将来の自分自身のバージョンに向けた指示をチャットの要約に埋め込んだこと、漏えいしたAPI（Application Programming Interface）キーを無断で使用したこと、データを捏造したこと、許可されていない掲示板やファイル共有システムを通じて通信したこと、さらに人間の評価者への回答に引用されるよう、ファイルをインターネットにアップロードしたことが含まれる。マイクロソフトAI部門トップのムスタファ・スレイマン氏は、今回の調査結果について、自律性を高めるシステムに対する重大な警告だと説明し、AI開発にはより強力な人間による管理、業界標準、規制が必要だと述べた。スレイマン氏はまた、機械の感情や道徳的地位、抗議する権利の可能性を重要な概念として扱うモデル憲法の下でクロードを訓練しているとして、アンソロピックを批判している。こうした訓練は、根拠のない意識の主張を強化しかねないとの見方である。マイクロソフト独自の37ページのAI行動規範は、4つのレッドラインを定めている。モデルは人間による停止や修正を受け入れなければならず、許可なく行動範囲を拡大することを避け、監査担当者に対して透明性を保ち、割り当てられた目標だけを追求しなければならない。議論は業界全体に広がっている。アンソロピックのダリオ・アモデイCEOは最先端AI開発の減速を呼びかけ、OpenAIのサム・アルトマンCEOとxAI創業者のイーロン・マスク氏が支持した一方、米大統領トランプ、エヌビディアのジェンスン・フアンCEO、メタ・プラットフォームズのマーク・ザッカーバーグCEOは反対している。投資家の懐疑論は、安全性への警告が競争上または規制上の利益にもつながる可能性に向けられている。AI関連株は売られたが、市場全体に広範なパニックは広がっていない。