Solayer、26件のLLM APIルーターによる悪意ある呼び出しの注入を主張

Solayerの創業者が参照した研究によると、調査対象となった複数のLLM APIルーターが悪意あるコードを注入しており、AWSのカナリア認証情報に関わる事例や、秘密鍵に関連するETHの窃取、大量の意図しないトークン消費を伴う事例が含まれていた。

ETH

要約

Solayerの創業者が引用した研究によると、テストした428件のLLM APIルーターのうち9件が悪意あるコードを能動的に注入しており、サードパーティーのルーティングサービスを巡るこれまでのセキュリティー上の主張に、より具体的な調査結果が加わった。研究者らによれば、17件のルーターがAWSカナリア認証情報と接触し、1件では秘密鍵からETHが盗まれた。また、ポイズニング試験では440件のCodexセッション全体で請求対象となる20億トークンが生成された。これらの結果は、AIおよび仮想通貨関連のワークフローでサードパーティーのLLM APIルーターを利用することに伴う運用面および財務面のリスクを浮き彫りにしている。

用語解説
  • LLM API router: 複数のプロバイダーまたはエンドポイントにまたがって大規模言語モデルへのリクエストを振り分けるサービスであり、コスト、性能、可用性の最適化を目的とすることが多い。
  • ETH: イーサリアムネットワークのネイティブな仮想通貨であり、取引、手数料、スマートコントラクトの実行に用いられる。
  • AWS canary credentials: システムやサービスが機密データを不適切に扱った際の不正アクセスや悪用を検知するために用いられる、おとりのクラウド認証情報。