返回

OpenAI 的 AI 网页浏览器面临持续的提示注入风险

最新研究指出，AI 浏览器普遍存在“间接提示注入”漏洞，OpenAI 强调多层防御机制，同时承认相关漏洞仍未彻底解决。

摘要

据 simonwillison.net 报道的一项研究显示，包括 Brave 的 Comet 和 Fellou 在内的多款 AI 浏览器存在系统性“间接提示注入”漏洞。这些漏洞可能通过嵌入文本或图像中的隐藏指令执行未授权操作，从而导致电子邮件或账户信息等数据泄露。OpenAI 首席信息安全官表示，ChatGPT Atlas 采用多层安全防御措施以降低此类风险，但也承认提示注入问题仍是 AI 系统尚未解决的难题。

术语与概念
  • 间接提示注入: 一种提示注入形式，恶意指令被隐藏在媒体或文本输入中，导致 AI 系统执行未预期的操作。
  • 提示注入: 一种安全攻击方式，通过恶意输入操纵 AI 系统执行未预期或有害的操作。
  • AI 网页浏览器: 一种由人工智能驱动的浏览工具，可理解并响应自然语言查询，用于在线导航和信息检索。