ヴィタリック・ブテリン、AI 2040論争は超知能の時期とガバナンスに左右されると指摘

ヴィタリック・ブテリンは、AI 2040論争の分断は、高度なAIがどれほど速く進歩し得るか、また超知能が権力の集中した源泉になるかどうかを巡る相反する前提に起因すると述べた。Xへの一連の投稿で、イーサリアム共同創業者である同氏は、どの世界観が現実に近いか確信していないとしつつ、リスクが重大になればAI開発の減速や一時停止にも前向きであるとした。一方を、強力な措置で阻止しない限り2040年までに何らかの超知能が出現するとみる立場として描写し、これに対する批判側は、超知能そのものよりも自由や人間の意思決定への制約を懸念していると位置付けた。 この議論には、MetaのチーフAIサイエンティストであるヤン・ルカン、作家のダニエル・ジェフリーズ、政策アナリストのアダム・シエラー、AI研究者のリチャード・ンゴらが加わった。ルカンは、AIの安全性は反復的な改善が可能なエンジニアリング上の問題だと主張し、現在の大規模言語モデルは依然として人間のように推論しない限定的なシステムだと述べた。これに対しブテリンは、この見方はAIが単独であらゆる作業を遂行できるほど強力になる可能性を排除していると反論し、それをASIと呼んでいる。 ブテリンは、AI開発に関する義務的な透明性と、システムが危険になった場合に大規模な学習実行を減速または停止できる緊急停止スイッチを柱とする「プランA」を示した。ASIへの移行に完全な対応策はないとも認めた。より広い論点には、オープンソースのモデルが権力集中の緩和につながるのか、それともより厳格な承認制度がオープンな開発を阻害するのかという問題も含まれる。ダニエル・ココタジロのAI Futures Projectの報告書は、共有研究や「相互確証的コンピュート破壊」と呼ぶ抑止モデルを含め、超知能を2040年まで遅らせるための米中協力を提案した。