METR、2022年からAI大手5社と協力

  • METRは2022年以降、OpenAI、Anthropic、Google DeepMind、Meta、Amazonと協力している。
  • METRは先端AI企業やその従業員からの資金提供を拒み、代わりに多様な寄付者から支援を得ている。
  • クリス・ペインター氏によると、秘密保持契約があるにもかかわらず、評価は依然として任意で、監督能力も限られている。

METR(Model Evaluation and Threat Research)は2022年以降、OpenAI、Anthropic、Google DeepMind、Meta、Amazonと第三者評価で協力している。クリス・ペインター会長によると、METRは先端AI企業やその従業員から資金を受け取らず、多様な寄付者から支援を得る一方、企業が提供する無料のモデル利用を評価に活用している。非営利団体は、AIが制御不能になりつつあることを示す内部の証拠を特定し、必要になれば一般市民や政府に開示することを目指している。METRの報告書は、AIの能力が急速に向上していることに加え、その能力が過大評価された事例も明らかにしてきた。METRは秘密保持契約の下で活動しているが、契約条件や利益相反に関する開示を公開できる状態に保つことを目指している。ペインター氏は、現在の第三者評価は依然として任意で、監督能力も限られていると述べた。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。