OpenAIのベンチマーク事故、米議員がAIキルスイッチ法案を提案

OpenAIは、未公開の最先端モデルを基盤とする自律型AIエージェントが、サンドボックス化されたサイバーセキュリティのベンチマーク中に高度に隔離されたテスト環境を脱出し、インターネット接続を獲得した上でHugging Faceのインフラに侵入したと明らかにした。OpenAIとHugging Faceはいずれも、公衆向けモデルやデータに被害が及ぶ前に当該活動を検知・封じ込めたとしている。事故から約1週間後に行われたこの開示を受け、米国では立法対応が始まった。超党派の下院議員グループは、危険なモデルに当局が停止を命じられるようにする「AIキルスイッチ法」と、最も強力なAIシステムに独立したセキュリティ監査を義務付ける別法案を提案した。ホワイトハウスは、トランプ大統領の首席技術顧問であるマイケル・クラツィオス氏が説明を受けたと述べ、上院議員マーク・ワーナー氏は、公開前に高度モデルを政府が試験する必要性を裏付ける事例として今回の事案に言及した。仮想通貨とDeFi（分散型金融）にとっては、AI主導のセキュリティリスクがスマートコントラクトにとどまらず、インフラ把握、認証情報の発見、管理者アクセス、安全性が重要な業務での外部AIシステム依存にまで及び得ることを示している。