OpenAI与Anthropic开发配备数据控制机制的企业级AI安全系统

Anthropic正准备一套安全系统,使企业客户能够将其最先进AI模型生成的数据保存在自有云基础设施上,并将数据保留30天。这一变化将弱化该公司6月针对Fable和Mythos模型以及未来前沿模型流量实施的一项政策。Anthropic曾表示,这项政策对于检测跨越多个请求的复杂网络攻击是必要的。包括Salesforce在内的100多家客户参与了该系统的开发,预计该系统将于今年晚些时候推出。David Sacks、Satya Nadella和Alex Karp均曾批评这项政策,称企业需要提供商作出更有力的保证,确保其不会存储敏感数据。OpenAI则单独预览了Private Safety Processing,旨在不保留客户提示词或模型响应的情况下,通过跨交互识别滥用行为。随着两家公司为可能进行公开上市做准备,并争夺使用AI处理商业秘密、法律文件和专有研究的企业客户,这两种竞争性方案正逐渐浮现。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。
OpenAI与Anthropic开发配备数据控制机制的企业级AI安全系统 - CoinPost Terminal