OpenAIとAnthropic、データ管理機能を備えた企業向けAI安全システムを開発

Anthropicは、企業顧客が同社の最も高度なAIモデルで生成されたデータを自社のクラウドインフラ上で保持し、30日間保存できる安全システムを準備している。この変更により、複数のリクエストにまたがる高度なサイバー攻撃を検知するために必要だとAnthropicが説明していた、FableおよびMythosモデルと今後のフロンティアモデルへのトラフィックを対象に6月に導入された方針が緩和されることになる。Salesforceを含む100社超の顧客がこのシステムの開発に協力しており、年内の提供開始が見込まれている。この方針には、企業が機密データをプロバイダーに保存されないという、より強力な保証を必要としていると述べたDavid Sacks、Satya Nadella、Alex Karpらから批判が出ている。OpenAIも別途、顧客のプロンプトや応答を保存せずに、やり取りをまたいで不正利用を特定するよう設計されたPrivate Safety Processingの概要を示している。両社が異なるアプローチを打ち出すなか、両社は株式上場の可能性に備え、企業秘密や法務文書、独自研究を扱うAIを利用する企業顧客の獲得を競っている。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。