メタAI責任者、AIが全員に恩恵をもたらす鍵はアラインメントと指摘

  • アレクサンドル・ワン氏は、AIを全員にとって有益なものにするうえでAIアラインメントが中心的だと述べた。
  • アンソロピックは第三者評価と、AIモデル開発を減速させる幅広い措置を提案した。
  • オープンAIは独立評価機関へのアクセスを支持し、イーロン・マスク氏はダリオ・アモデイ氏の立場を支持した。

メタ・プラットフォームズの最高AI責任者、アレクサンドル・ワン氏は、AIが全員に恩恵をもたらすには、強力なシステムが望ましくない副作用を生じさせず、利用者の目標を確実に追求すると信頼できることが必要だと述べた。ワン氏は、AIアラインメント、すなわちシステムの行動を人間の目標に一致させる取り組みが、その約束の実現に向けた中心課題だと指摘し、AIの能力が急速に高まるなか、業界は重要な局面にあると語った。ワン氏は、業界に対しアラインメントへの取り組みを加速させ、この時期に慎重に行動するよう求めた。発言に先立ち、アンソロピックのダリオ・アモデイCEOは、第三者による評価を含む新たな安全対策と、AIモデル開発の減速に向けた業界全体の幅広い支持を呼びかけていた。オープンAIのアルトマンCEOは、独立評価機関に従業員と同等のアクセスを認めるアモデイ氏の提案をオープンAIが採用すると述べた。xAIを運営するイーロン・マスク氏も、アモデイ氏の立場を支持した。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。