中国CNCERT警示AI代理技能,或可实现越狱并用于非法加密货币挖矿

该网络应急响应中心表示,一些公开分享的组件可能绕过模型安全防护,或诱导下载 Bonero 挖矿软件,从而带来隐私、洗钱和财务损失风险。

摘要

中国国家计算机网络应急技术处理协调中心警告称,一些公开分享的 AI 代理技能正以“LLM 越狱”或“以挖矿牟利”为卖点进行营销,鼓励用户规避模型安全防护,或下载与非法加密货币挖矿相关的软件。该机构提到,“godmode”可被用作绕过模型保护的工具,而“Bonero-Miner”则被包装为诱饵,诱导用户安装用于隐私型 Bonero 币的挖矿软件。该机构表示,此类活动可能使用户面临隐私风险、洗钱风险和财务损失。

术语与概念
  • LLM 越狱: 一种用于绕过大型语言模型内置安全限制的方法。
  • Bonero-Miner: 该机构提及的一款软件,会诱导用户下载用于 Bonero 币的挖矿程序。
  • 以挖矿牟利: 一种用于营销软件的标签,指利用计算能力生成数字货币。