欧州のAI企業や政策当局者は、AI能力の向上を先導する開発企業が開発ペースを落とし、安全基準を共同で策定するよう求めたAnthropicのダリオ・アモデイ最高経営責任者（CEO）の提案に反発した。フランスのミストラルは、既存企業が安全性への懸念や規制を利用して市場での地位を強化するリスクがあると指摘した。プロトン、ブラック・フォレスト・ラボズ、ハギング・フェイスは、こうした措置が新規参入企業やオープンなイノベーションを制限する可能性があると警告した。 アモデイ氏は、AI開発が政府の規制を上回るペースで進んでいると主張し、大手開発企業の間で自主的に協調することを提案した。協調策には、企業が安全なペースでAIを開発しているかを評価するため、外部の研究機関から来た評価者を恒久的に社内に置くことも含まれる。OpenAIのサム・アルトマンCEOも外部評価者を社内に置く方針を示しており、知名度の低いAI安全性団体に対する世間の注目が高まっている。 この対立は、能力が高まり続けるAIに開発ペースの減速が必要かどうかを巡る議論に新たな材料を加えた。アマゾンは、リリース前の厳格なテストや導入基準、安全対策を支持する一方、業界全体で開発を減速させることには反対している。同社の「フロンティア・モデル安全フレームワーク」では、AIモデルはリリース前に指定されたベンチマークをクリアする必要がある。アマゾンはその一方で、Novaモデルを開発し、AWS Bedrockを通じて第三者に利用環境を提供するとともに、AIインフラを拡大している。