Anthropic、AIの懸念はオープンモデル禁止ではなく悪用に集中

米政府請負業者、開発者、企業ユーザーからの圧力が強まっていると報じられる中、Anthropicはサイバー攻撃や生物学的脅威といった有害なAI悪用への安全対策に重点を置いており、オープンウェイトモデルの禁止を目指しているわけではないとした。

要約

Anthropicは、AI安全性に関する主な懸念は、サイバー攻撃や生物学的脅威を含む悪用リスクであり、オープンウェイトモデルの禁止ではないと述べた。この立場は、同社のAI戦略を巡る批判が広がる中で示された。36Krは、一部の米政府請負業者が2026年8月31日までにAnthropicの製品とモデルを削除するよう命じられたと報じたほか、開発者や企業顧客が競争やデータ保持を巡る懸念を示していると伝えた。オープンウェイトを巡る議論では、Anthropicは7月24日にNvidiaのジェンスン・フアン氏主導で公開された、オープンウェイトモデルへの規制に反対する書簡に署名しなかったが、ダリオ・アモデイCEOは7月27日、同社はこれまで禁止を求めたことはなく、代わりに一定の性能しきい値を超えるモデルに対する公開前の安全評価義務化を支持していると述べた。

用語解説
  • オープンウェイトモデル: 他者が利用したり、その上に構築したりできるよう、パラメーターが共有されるAIモデル
  • 生物学的脅威: 危険な生物学研究やツールに関連する、AIの潜在的に有害な悪用
  • API: アプリケーションがモデルやサービスに接続するためのソフトウェアインターフェース