LG Uplus与OptAI将AI代币处理能力提升至最高4倍

  • LG Uplus与OptAI正合作开发AI代币优化技术。
  • 在NPU上实现功耗降低78%、模型规模缩小82%。
  • LG Uplus与OptAI于10月1日举办了关于AI效率应用的研讨会。

LG Uplus于10月2日表示,将与AI模型优化公司OptAI合作开发代币优化技术,在提升AI处理效率的同时降低GPU(图形处理器)和功耗。代币是AI在解读查询和生成响应时处理的基本数据单元。LG Uplus将通过AI服务运营对该技术进行验证和部署,OptAI则负责开发更轻量、更快速的模型。双方此前已将轻量化技术应用于基于LG AI Research Exaone的小型语言模型(sLM),使其能够在智能手机的NPU(专用AI芯片)上运行。该系统在性能上与基于CPU的方法相当,同时将功耗降低78%,模型规模缩小82%。目前,双方正将研究拓展至服务器GPU环境,在同一块GPU上,其技术最多可处理原有方法4倍的代币数量。双方还于10月1日举办研讨会,内容涵盖研究趋势、行业应用和实施策略。LG Uplus首席技术官(CTO)李相烨表示,利用现有资源提高代币处理效率是AI竞争力的核心,公司将通过与多元合作伙伴开展合作,扩大相关研究。

本网站上的信息是使用AI生成的,我们无法保证其准确性。 请仅作为参考信息使用。
LG Uplus与OptAI将AI代币处理能力提升至最高4倍 - CoinPost Terminal