返回

泰达币 (USDT) AI研究团队发布面向本地设备的医疗AI模型 QVAC MedPsy

据泰达币 (USDT) AI介绍，QVAC MedPsy的1.7B和4B模型已针对本地部署进行优化，量化后的GGUF版本尺寸适用于对隐私敏感的医院系统和移动应用场景。

USDT

摘要

泰达币 (USDT) AI研究团队表示，已发布医疗人工智能模型QVAC MedPsy，旨在运行于智能手机、可穿戴设备及其他对隐私敏感的环境中，并非依赖云端处理。该公司称，1.7B版本在七项封闭式医疗基准测试中的得分为62.62，4B版本得分为70.54，且表现优于规模更大的竞争模型。泰达币 (USDT) AI还表示，在建议的GGUF量化版本中，1.7B模型约为1.2GB，4B模型约为2.6GB，适用于以本地处理、紧凑模型尺寸和数据隐私为重点的医院和移动部署场景。

术语与概念
  • GGUF: 一种模型文件格式，常用于语言模型在消费级和边缘设备上的高效本地部署及量化推理。
  • Inference: 在新的输入上运行AI模型以生成输出的过程；本地推理可降低对云基础设施的依赖。
  • Benchmarks: 用于衡量模型在特定任务或领域中表现的标准化测试，例如医疗评估数据集。