Ramp、Routerを開始し、AI推論コストを平均40%削減

Rampは、API(Application Programming Interface)ベースのAIモデル・ルーティングサービス「Router」を開始した。ユーザーや企業は単一のエンドポイントを通じて、大規模言語モデルにアクセスし、モデル間を切り替えられる。Routerを利用する顧客の推論コストは平均40%削減されているほか、Rampは、社内で3年間利用した結果、同等の出力にかかる自社のコストを約30%削減したとしている。このサービスは米国でのみ利用可能で、2026年末まで無料で提供され、26ドルの開始時クレジットも含まれる。ただし、ユーザーは基盤モデルの推論コストを負担する。Rampは2027年の料金を明らかにしていない。Routerは現在、OpenAI、Anthropic、DeepSeek、Moonshot、Minimax、Nvidia、xAI、Z.aiのモデルを提供している。ルーティング戦略では、プロバイダーの利用ティアを優先したり、ユーザーが定めたベンチマークに基づいてモデルを選択したり、難しいタスクをより高額なモデルに送ったり、モデルのテストを簡素化したりできる。ダッシュボードでは、トークン使用量、コスト、レイテンシー、フォールバックの試行回数を追跡できる。Routerにはデータ保持のオプトアウトポリシーもあり、デフォルトでは入力、出力、ツール呼び出しを1年間記録する一方、データを製品改善に利用する前に個人を特定できる情報を削除する。このサービスは、Rampが既に提供しているAIトークンのモニタリングおよび支出管理機能を拡張するもので、成長する推論市場における同社の足掛かりとなる可能性がある。現在のモデルラインアップはOpenRouterよりも狭いものの、RouterはRampの経費管理プラットフォームとの統合によって差別化を図っている。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。