Anthropic、METR評価チームを社内常駐へ 公表への拒否権は持たず
AnthropicMETRAI安全性第三者評価ガバナンス
Anthropicが外部評価機関METRの6人チームに「従業員並み」の社内アクセスを与える取り組みを公表した。社内ハードウェアやオフィス、内部ツールを提供し、METR側のリスク分析の公表についてAnthropicは拒否権を持たない。SecureBioやAccentureなど他機関との連携も段階的に進める。
何が発表されたか
- AnthropicはMETR(フロンティアモデルを評価する非営利団体)の6人チームに対し、社内ハードウェア、オフィススペース、内部ツールへのアクセスを提供する「埋め込み型評価」を開始した。水準は自社のリスク評価チームとほぼ同等とされる。
- 社員には情報共有が奨励される一方、顧客データ、弁護士依頼者間秘匿特権の対象情報、モデルアーキテクチャの詳細は共有対象外。アクセスは契約で縛られた小規模チームに限定され、METRの他の職員は遮断される。
- 公表権限は3段階。METRは最上位に相当し、Anthropicは公表に拒否権を持たない。ただし事前に定めたカテゴリの情報についてはAnthropicの判断で削除を求められる。METRは自らのアクセス水準を明示できる。
- SecureBioは2026年8月のリスク報告書の化学・生物兵器の章をレビュー。AccentureとFacultyはレッドチーミングやアラインメント評価、セーフガード検証を含む広範な提携を協議中で、Hugging Faceなどとも初期段階の対話がある。
実務への影響
- モデル提供元の安全性主張を「第三者がどこまで検証したか」で評価できるようになる。調達要件やクライアントへの説明資料で、ベンダー自己申告と独立評価を区別して書けるようになる点が実務的な価値だ。
- 一方でこの仕組みは製品、API、価格、利用規約を変えるものではない。モデル選定の判断材料は増えるが、既存実装への作業は発生しない。
- 評価の透明性を自社のAI利用ポリシーに引用する場合、METRの公開レポートは出典として引きやすい。クライアント向けのガバナンス説明に使える素材が増えた。
利用条件
埋め込み型評価は、他組織がAnthropicや顧客・パートナーの情報を取得する手段ではないと明記されている。
