テザーAI研究グループ、ローカルデバイス向け医療AIモデル「QVAC MedPsy」を発表

Tether AIによると、QVAC MedPsyの1.7B版と4B版はローカル展開向けに最適化されており、量子化したGGUF版は、プライバシーへの配慮が必要な病院システムやモバイル用途に適したサイズである。

USDT

要約

Tether AI Research Groupは、クラウドベースの処理に依存せず、スマートフォン、ウェアラブル端末、その他のプライバシーに配慮が必要な環境でローカルに動作するよう設計された医療用人工知能モデル「QVAC MedPsy」をリリースしたと発表した。同社によると、1.7B版は7つの非公開医療ベンチマークで62.62点を記録し、4B版は70.54点を獲得して、より大規模な競合モデルを上回った。Tether AIはまた、推奨されるGGUF量子化版のサイズは1.7Bモデルで約1.2GB、4Bモデルで2.6GBであり、ローカル処理、コンパクトなモデルサイズ、データプライバシーを重視する病院やモバイル展開に適していると説明した。

用語解説
  • GGUF: 言語モデルを効率的にローカル展開し、消費者向け端末やエッジ端末で量子化推論する際に一般的に用いられるモデルファイル形式である。
  • Inference: 新しい入力に対してAIモデルを実行し、出力を生成するプロセスである。ローカル推論はクラウドインフラへの依存を減らせる。
  • Benchmarks: 医療評価セットなど、定義されたタスクや分野にわたるモデルの性能を測定するために用いられる標準化テストである。