元OpenAI研究者が警鐘、最先端AI研究所の評価額は50%下落も

水曜日に8カ月でOpenAIを退社したアンドリュー・ホーは、最先端AI研究所の評価額は割高に見えるとし、権利を持つ従業員には可能な時にTOBで流動化するよう促した。翌朝早くXへの投稿で、IPO後に評価額が2倍になる可能性よりも、50%下落する可能性の方が現実的だと記した。 ホーは木曜日、Fortuneに対し、約70万ドル相当の株式を保有しているが、IPOとロックアップ期間終了までは法的に売却できず、自らが警告するのと同じリスクにさらされていると語った。懸念しているのは、推論需要（AIモデルを実社会のタスクで稼働させること）やデータセンター拡張の需要が消えることではない。むしろ、より安価なモデルの台頭によって最先端研究所が高コストの競争サイクルに追い込まれ、新たな学習実行のたびに費用が膨らみ、そこで得た優位性は短期間で薄れ、収益が負債や設備投資の増加に追いつかない恐れがあると主張した。 ホーは、多くの投資家や同業者が支持する強気のRSI、すなわち再帰的自己改善（AIシステムが自らの研究を改善すること）論を退けた。ホーの見方では、AI研究の制約はモデルの生の知能よりも「研究のセンス」、すなわち意味のある実験を提案し、どの結果が重要かを見極める能力にある。数学的証明やコードのコンパイルのように、出力の正誤を容易に検証できる分野ではモデルの進歩が最も速かった一方、検証が難しい複雑な作業では進展が限定的だと述べた。 この考え方は、最先端AI研究所向けに高品質な強化学習データセットを販売する同氏の新たなスタートアップの基盤にもなっている。ホーは、最初の製品は長期的な科学的推論と統計分析を対象にすると述べた。検証が容易な作業による伸びしろはおおむね使い尽くされ、次の改善余地はそこにあるとみているためである。 この見解は、再帰的自己改善がより大規模な計算投資と収益を正当化し得るとするシリコンバレーのより楽観的な主張に逆行する。ただ、AI基盤整備に資金を投じる企業が十分なリターンを得られないのではないかとの懸念から、水曜日にMetaが10%下落し、先週Googleが8%下落したことを踏まえると、ウォール街の懸念にはより近いと述べた。さらに、NvidiaとMicronはこの競争にチップを供給しているため最も有利な立場にあり、研究所側は自社製チップの開発か、モデルが生み出す価値のより多くを取り込むためアプリケーション領域へさらに踏み込む必要があるとの見方を示した。