マスク氏、AI安全警告の動機に疑問 競合によるモデル事前検証を提案

  • イーロン・マスク氏、モデルの危険性を警告しながら多額の投資を求めるAI研究機関の動機に疑問を呈す
  • マスク氏、人類滅亡のリスク10%とAIによる軍事システム掌握の可能性に言及
  • マスク氏、競合によるリリース前の検証や問題の公表、安全性ツールのオープンソース化を提案

イーロン・マスク氏は、AIは非常に大きな危険をもたらすと述べた。一方で、アンソロピックやOpenAIなどの研究機関が、モデルが壊滅的な結果を招く可能性を警告しながら、規模拡大に向けて数十億ドルを求めている理由に疑問を呈した。オールイン・サミットで講演したマスク氏は、人類滅亡の確率が10%あると警告しながら、IPOで投資家に割当額を尋ねるという矛盾を指摘した。サイバー攻撃や、将来的にAIが軍事システムを掌握する可能性、物理媒体を通じてソフトウエア更新を受ける、いわゆる隔離システムの脆弱性にも言及した。マスク氏は、AI企業が新モデルのリリース前に競合他社へAPIアクセスを提供する案を示した。開発企業が重大な安全上の問題に対処しなければ、競合研究機関が問題を特定し、公表できるようにするものだ。また、安全性の検証・試験装置をオープンソース化することも支持した。監督が一方向に強化され続ける懸念や、米国と中国の双方から支持を得られる措置を望む同氏の考えを背景に、この提案は規制を敵対的な相互査読で補完するものとなる。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。