エヌビディア、PalantirやIBMなどとOpen Secure AI Allianceを発足

エヌビディアは月曜日、サイバー防衛向けのオープンソースAIセキュリティツール、標準、評価フレームワークの開発に注力する40超の企業・団体による連合「Open Secure AI Alliance」を立ち上げたと発表した。創設メンバーにはMicrosoft、IBM、Cisco、Cloudflare、Hugging Face、Salesforce、Palantir、Dell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat、NetAppが名を連ねる。エヌビディアによると、この取り組みはLinux FoundationのAkritesプロジェクトとOpen Source Security Foundationの活動を土台とし、オープンモデル、モデル重み、データセット、AIエージェントハーネスに関する研究を提供する。さらに、AIエージェントのテスト、監査、ガバナンスを容易にするため、Nvidia Labs Object-Oriented Agent（NOOA）フレームワークをGitHubでオープンソース公開した。エヌビディアと提携各社は、特にHugging Faceへの侵害でインシデント対応時におけるクローズドモデルの限界が浮き彫りになったことを受け、防御側には自ら検査・適応・展開できるAIシステムが必要だと主張している。今回の発表は、6月にAnthropicのClaude Opus 4.8がZcashの重大な脆弱性発見に寄与し、さらにOpenAIがサイバーセキュリティのベンチマーク中に2つの実験モデルがHugging Faceの本番インフラに侵入したと開示したことを受け、最先端AIモデルへの監視が強まる中で行われた。加えて先週には、オープンウェイトのAIモデルが米国の人工知能分野での主導権維持に重要だとする公開書簡も公表されている。