LGユープラス・OptAI、AIトークン処理能力を最大4倍に

  • LGユープラスとOptAIがAIトークン最適化技術で協力
  • NPU上で消費電力を78%、モデルサイズを82%削減
  • LGユープラスとOptAIが10月1日、AI効率化の応用をテーマにセミナー開催

LGユープラスは10月2日、AIモデル最適化企業のOptAIと協力し、GPU(画像処理装置)の使用量と消費電力を抑えながら、AI処理の効率を高めるトークン最適化技術を開発すると明らかにした。トークンは、AIが質問を解釈し、回答を生成する際に処理する基本的なデータ単位である。LGユープラスはAIサービスの運用を通じて技術を検証・導入し、OptAIはより軽量で高速なモデルを開発する。両社はこれまで、LG AIリサーチのExaoneを基盤とする小規模言語モデル(sLM)に軽量化技術を適用し、スマートフォンのNPU(専用AIチップ)で動作させた。このシステムはCPUベースの手法と同等の性能を実現しながら、消費電力を78%、モデルサイズを82%削減した。両社は現在、研究をサーバーGPU環境へ拡大しており、同じGPU上で従来の最大4倍のトークンを処理できる技術を開発している。また10月1日には、研究動向や業界での応用、実装戦略を取り上げるセミナーを開催した。LGユープラスの最高技術責任者(CTO)、イ・サンヨプ氏は、既存リソースでのトークン処理効率がAI競争力の中核であり、さまざまな協力先との連携を通じて研究を拡大すると述べた。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。