JPモルガン・チェースのジェイミー・ダイモン、AnthropicのMythos AIがサイバーリスクを高めると警告

ダイモン氏は上院のサミットで、Anthropicが安全対策を追加した後にワシントンがアクセス制限を強化し、その後緩和したことに触れつつ、Mythosを巡るリスクは「現実の問題」であると述べた。

要約

JPモルガン・チェースの最高経営責任者(CEO)ジェイミー・ダイモン氏は、AnthropicのAIモデル「Mythos」がサイバーセキュリティーと国家安全保障に深刻なリスクをもたらすとし、この問題を「現実の問題」と表現した上で、高度なAI能力への広範なアクセスは統制されなければならないと警告した。ダイモン氏は7月15日にデーブ・マコーミック上院議員の「ペンシルベニア防衛・イノベーション・サミット」で講演し、「Mythosによって個人に弾道ミサイルを与えているようなものだ」と述べ、大規模にソフトウェアの脆弱性を特定できる強力なシステムへの懸念を強調した。Anthropicは4月、JPモルガンを含む限定的なグループにMythosを公開した。銀行業界がこのモデルに関心を示しているのは、サイバーセキュリティー上の弱点を見つけ、企業がより迅速に対処するのを支援する最先端のツールの一つとみなされているためである。6月には、米政府が国家安全保障上の懸念を理由に、Anthropicに対し、最上位AIモデル「Fable 5」と「Mythos 5」について外国籍の個人へのアクセスを制限するよう命じた。これを受けて同社はいったん世界的にアクセスを遮断したが、新たな安全対策を導入した後に提供を再開した。この一件は、中国やロシア、その他の警戒対象国の軍情報機関を含む主体による悪用の可能性がある高度AIシステムのリスク管理を巡り、ワシントンとテック業界が進めるより広範な取り組みを映し出している。

用語解説
  • サイバーセキュリティー上の脆弱性: 攻撃者に悪用され得るソフトウェアやシステムの弱点。