中国CNCERTが警告、AIエージェントのスキルがジェイルブレイクや違法な仮想通貨マイニングを可能に

同ネットワーク緊急対応センターは、一般公開されている一部コンポーネントがモデルの安全対策を回避したり、Boneroのマイニングソフトのダウンロードを誘導したりする可能性があり、プライバシー、マネーロンダリング、財務損失のリスクを生むと述べた。

要約

中国国家コンピュータネットワーク緊急対応技術チーム・協調センター(CNCERT)は、一般公開されている一部のAIエージェントの「スキル」が「LLMジェイルブレイク」や「利益目的のマイニング」として売り込まれ、利用者にモデルの安全対策の回避や違法な仮想通貨マイニングに関連するソフトのダウンロードを促していると警告した。同機関は、モデル保護を回避するツールとして「godmode」を、プライバシー重視のBoneroコイン向けマイニングソフトのインストールを誘導するおとりとして「Bonero-Miner」を挙げた。こうした活動は利用者をプライバシーリスク、マネーロンダリング、財務損失にさらし得るとしている。

用語解説
  • LLMジェイルブレイク: 大規模言語モデルに組み込まれた安全制限を回避するための手法。
  • Bonero-Miner: 当局が、Boneroコイン向けマイナーのダウンロードを利用者に促すものとして言及したソフトウェア。
  • 利益目的のマイニング: 計算能力を使ってデジタルコインを生み出すソフトウェアを売り込む際に使われる名称。