アンスロピックのAI絶滅警告と研究者辞任、IPO前に波紋

  • アンスロピックの研究者エバン・ヒュービンジャー氏は、AIが10年以内に人類を絶滅させる可能性は10%を超えると試算した。
  • 元アンスロピック研究者のジェイコブ・コクソン氏は、主要なAI研究所が十分な安全策を講じないまま自己改良型の超知能に向けて競争していると批判した。一方、ビル・アックマン氏は、同氏の辞任が規制強化を支持するために拡散されたとの主張を取り上げた。
  • アンスロピックは、約2兆ドルの企業価値と860億ドル超の資金調達を目標とするIPOを早ければ10月半ばにも実施する可能性がある。

アンスロピックの研究者エバン・ヒュービンジャー氏が、同社は人工知能によって10年以内に全人類が死亡する可能性があると考えていると警告したことが、シリコンバレーやウォール街、ワシントンに波紋を広げている。一方、元研究者のジェイコブ・コクソン氏の辞任を受け、AIの安全性や規制、同社の新規株式公開(IPO)の可能性を巡る scrutinyも強まっている。アライメントのストレステストに携わるヒュービンジャー氏は、AIが今後10年以内に人類を滅ぼす可能性は10%を超えると試算した。同氏は、アンスロピックは最善を尽くしているものの、超知能のアライメントを解決する明確な計画を欠いており、その実現に向けて明確に順調とは言えないと述べた。オープンAIで勤務した経験があり、両社で計3年間にわたり事前学習の研究を行ったコクソン氏は、主要なAI研究所が十分な安全策を講じないまま自己改良型の超知能に向けて競争しており、人々の命を賭けていると指摘した。アンスロピックの一部従業員や他のAI関係者は、被害軽減の取り組みを擁護した。ビル・アックマン氏は、キャピタル・リサーチ・センターの研究者パーカー・セイヤー氏による、コクソン氏の辞任がAI規制強化を支持するため、高度で資金力のあるキャンペーンによって急速に拡散されたとの主張を拡大して伝えた。コクソン氏とアンスロピックは、ベンジンガからのコメント要請に直ちには応じなかった。この問題が浮上したのは、バーニー・サンダース上院議員(無所属、バーモント州)がオープンAI、アンスロピック、メタ・プラットフォームズに対し、人間が制御できない機械の開発をやめるよう求めるなか、投資家や銀行関係者がアンスロピックについて、早ければ10月半ばにも約2兆ドルの企業価値と860億ドル超の資金調達を目標にしていると報じられている時期である。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。