AIリスク論争が激化、アモデイ氏が安全策と政府連合を提唱

  • トランプ大統領とパランティア共同創業者のジョー・ロンズデール氏は、高度なAIが人類の大量絶滅を引き起こす可能性があるとの警告を退けた。一方、アンスロピックのダリオ・アモデイCEOは、より強固なガバナンスを求めた。
  • アモデイ氏はフロンティアモデルの開発ペースを落とすよう求め、適切な政府連合にアンスロピックの技術を移転する用意があると述べた。アンスロピックの直近の評価額は3800億ドルだった。
  • 議論では、外部評価、共通の安全規則、国際協調が提案された。AIエージェントの悪用が報じられたことを受け、アルトマン氏、マスク氏、ハサビス氏、ドラング氏も支持を表明した。

人工知能(AI)のリスクとガバナンスを巡る議論が激化した。トランプ大統領とパランティア共同創業者のジョー・ロンズデール氏が破局的な結果への警告を退ける一方、アンスロピックのダリオ・アモデイCEOは、フロンティアモデルの開発ペースを落とし、安全策を強化するとともに、国際協調を進めるよう求めた。トランプ大統領は、米国が中国をリードしており、AIを制する者が勝者になると述べた。ロンズデール氏は、指導者らがリスクを管理しており、国民を怖がらせるべきではないと語った。アモデイ氏は、AIの群れが近くインターネットを制御する可能性があると警告し、外部評価者が継続的にアクセスできる体制や、フロンティアモデル開発者間で安全要件を共有することを提案した。また、CBSのインタビューでは、適切な政府連合にアンスロピックの技術を移転する用意があると述べた。アンスロピックの直近の資金調達ラウンドにおける評価額は3800億ドルだった。一方、予測市場が12月31日までに評価額が6000億ドルに達する確率を2.9%と見積もった。OpenAIのサム・アルトマンCEO、xAIのオーナーであるイーロン・マスク氏、Google DeepMind創業者のデミス・ハサビス氏、Hugging Faceのクレマン・ドラングCEOはアモデイ氏の懸念への支持を表明した。ただしアモデイ氏は、いかなる減速も中国に先行を許すことにつながってはならないと述べた。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。