ビル・ガーリー氏、アンソロピックCEOのAI安全監督案を批判

  • ビル・ガーリー氏は、AI開発を監視する独立評価機関についてのダリオ・アモデイ氏の提案を批判した。
  • ダリオ・アモデイ氏は土曜日に公開した3800語の論考で、AIの能力向上を緩やかに進めるよう求めた。
  • トッド・マッキノン氏は、AIによる人類絶滅への懸念は極端だとしつつ、技術がもたらすリスクと恩恵の可能性を認めた。

テック投資家のビル・ガーリー氏は、AI開発を監視する独立評価機関に従業員に近いアクセス権を与えるという、アンソロピックのダリオ・アモデイCEOの提案を批判した。監督対象企業と規制当局が近づきすぎる可能性があるため、構想には制度上の欠陥があると指摘した。ガーリー氏は、規制は設計が難しく、規制当局が業界に取り込まれる危険もあるため、基本的に反対していると説明した。一方で、安全性を監督する規制当局には、規制対象企業に対する権限と説明責任が必要だと主張した。発言に先立ち、アモデイ氏はAIの能力開発を急がず、リスク防止への投資を増やすよう求めており、セールスフォースのイベント「ドリームフォース」でも改めて訴えた。オープンAIのサム・アルトマンCEOもこの議論に加わっているほか、オクタのトッド・マッキノンCEOは、人類絶滅への懸念はあり得るものの、極端な見方だと述べた。業界が安全上のリスクと技術競争、商業的成長のバランスを検討するなか、今回の議論は、国家経済会議のケビン・ハセット委員長やイーロン・マスク氏が示した、企業主導、政府調整、競合企業によるAI安全審査などの対案に加わる形となった。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。