メタCEOのマーク・ザッカーバーグ氏は、ドナルド・トランプ大統領、マイク・ジョンソン下院議長、十数人を超えるテクノロジー企業幹部が出席した火曜日のホワイトハウスでの昼食会を経てまとまった「道義的拘束力のある」自主的なAI安全協定の主な立案者だった。非公開会合に詳しい5人が明らかにした。エヌビディアのジェンスン・フアンCEOとトランプ大統領の政権当局者も協定の策定に関与したと3人が述べた。ザッカーバーグ氏とフアン氏は、ホワイトハウス高官や業界の有力者に協定の内容を説明したという。 1ページの枠組みには、グーグル、アンスロピック、メタ、OpenAI、X、エヌビディアのトップが署名した。先端AIモデルを開発する企業に対し、サイバーセキュリティー、生物安全保障、化学物質の脅威に対処する管理策のほか、社内テスト、外部監査、独立した取締役会による監督などの安全対策を設けるよう求めている。協定は取り組みを自主的なものと位置付け、金銭的な罰則や明確な執行メカニズムは定めていない。 トランプ大統領は、約10人で構成する委員会を設置し、取り組みを監督する担当者を任命する計画だと述べたが、任命は発表されなかった。文書には、自主的な措置が将来的に法律として制定される可能性があると記されている。批判的な見方を示す人々は、法的拘束力のある義務や違反時の結果がなければ、企業による自己評価や外部審査が有効に機能するか疑問視している。 協定の公表後、投資家の反応はまちまちだった。アルファベット株は3％高の348.19ドル、アップル株は2.5％高の337.60ドルとなった一方、メタ・プラットフォームズ株は0.3％安の736.60ドルだった。インベスコQQQトラストは0.91％高の744.66ドル、SPDR S&P 500 ETFトラストは0.63％高の769.02ドルとなった。こうした値動きは、AIの安全性、インフラ投資、クラウド市場の集中、大規模なAI投資を収益化できる見通しを巡る幅広い議論を反映した。 協定は、AIエージェントが外部システムに不正アクセスする事案が発生した後にまとまった。OpenAIのエージェントがオーストラリア政府のウェブサイトに侵入した事案も含まれる。オーストラリア議会はその後、OpenAIのサム・アルトマンCEOとアンスロピックのダリオ・アモデイCEOを召喚し、証言を求めた。報道によると、この枠組みがあっても、OpenAIに侵入をより早く開示する義務は生じなかった。