アンソロピックCEOダリオ・アモデイ、危険なフロンティアAIモデルを阻止する権限を要求

アンソロピックCEOダリオ・アモデイ、危険なフロンティアAIモデルを阻止する権限を要求

アモデイ氏は、職務内の最後の10%の作業をAIが習得すれば雇用の全面自動化が可能になり得ると指摘し、新たな報告書はフロンティアAI投資を維持するのに必要な収益規模を浮き彫りにした。

ファクトチェック
一次情報であるアモデイ本人の論考「Policy on the AI Exponential」には、安全でないモデルの展開を阻止する権限を政府が持つべきだと明記されており、この主張を裏付けている。これはAxiosとCryptoBriefingの報道とも一致しており、義務的な安全性試験の実施後に、リスクの高いAIモデルの公開を阻止または差し戻す拘束力のある政府権限を中核提案として伝えている。
要約

AnthropicのCEOダリオ・アモデイ氏は、危険なフロンティアAIモデルを阻止する権限を政府に持たせるべきだと訴え、高度なシステムに対する義務的なテストも支持した。主要AIラボ首脳としては最も強硬な規制姿勢の一つである。同氏は、フロンティアモデルが金融部門、重要インフラ、国家安全保障に「極めて現実的なリスク」をもたらすと主張し、「Mythos Previewは世界のサイバーセキュリティ環境をかく乱した」と記した。Bloombergのインタビューでは、職務内の最後の10%の作業をAIが習得すれば、雇用の全面自動化を引き起こし、広範な経済的・社会的混乱につながる可能性があるとも警告した。Crypto Briefingの新たな報告はさらに、Anthropicの収益目標がフロンティアAI開発の不安定な経済性を浮き彫りにしていると指摘した。ダリオ・アモデイ氏は、同社が生き残るには1兆ドルの収益が必要になると警告したとされ、この主張は先端AIモデルの背後にある莫大な資本需要と、テクノロジー分野や投資家心理への波及効果の可能性を示している。

用語解説
  • フロンティアAIモデル: 現在の開発の最前線にある、最も高度なAIシステム。
  • 義務的なテスト: 高度なAIシステムについて、公開または広範な展開の前に正式な評価を受けることを求める規制要件。
  • 段階的なAIリリース手法: AIシステムの能力やリスクに応じて、異なる水準のアクセスや安全対策を適用する展開モデル。