こんにちは、社長のためのAI戦略です。自社が使うAIサービスの「安全性」を、どうやって確認すればよいか悩んだことはありませんか。Anthropicは2026年10月15日、独立した第三者評価機関による監視体制を強化する取り組みを公表しました。以下はAnthropicが公開した情報に基づく内容です。

30秒で分かるポイント

  • Anthropicは、AIモデルを評価する非営利団体METRのチームに「従業員同様のアクセス」を与え始めた
  • Anthropicは公表自体を拒否することはできないが、特定カテゴリーの情報削除を求めることができる
  • SecureBioやAccentureとも評価パートナーシップを進めており、Hugging Faceとも初期協議中
  • 評価者向けに3段階のアクセス階層を整備中で、将来的には複数の評価者を最上位階層に置くことを目指す

1何が発表されたか

Anthropicは2026年9月に、自社モデルと安全性に関する取り組みについて、より強力な独立した第三者評価を行うことを約束していました。また、「スーパーインテリジェンスに関するホワイトハウス協定」にも署名し、独立した外部の監査人・評価者と提携することを誓約しています。

今回の発表では、AIモデルを評価する非営利団体METRのチームに「従業員同様のアクセス」を与え始めたことを明らかにしました。METRは過去1年にわたり、Anthropicのリスクレポートの複数回の審査に協力してきました。Anthropicは、METRがリスク評価の結果を公表するとしています。

2METRへの「従業員同様のアクセス」とは何か

Anthropicは、METRの従業員6名を受け入れ、社用機材やオフィススペース、社内ツール・システムへのアクセスを提供しました。このアクセス水準は、Anthropic自社のリスク評価チームが持つアクセスとほぼ同等だとされています。

顧客データ、弁護士依頼者間の秘匿特権情報、モデルアーキテクチャに関する情報など、明確に定義された一部のカテゴリーを除き、Anthropicの従業員はアライメントリスクに取り組む同僚に対するのと同じように、METRのチームと情報を共有するよう奨励されています。

METRはAnthropicのリスク水準・インシデント・実務慣行についての分析を公表します。Anthropicは公表そのものを拒否することはできませんが、事前に定めたカテゴリーに該当する情報については削除を求めることができるとしています。ただし、どの情報がそのカテゴリーに該当するかを最終的に判断するのはAnthropic自身であり、METRはどの程度のアクセスと情報を受け取ったかについて一定の説明をする権利を留保しています。

なおAnthropicは、METRとの協業は定められた契約のもとで働く少人数のチームに限定されており、他のプロジェクトでAnthropicと協力するMETRの研究者など、他のMETR従業員とは業務が隔離されていると説明しています。

3SecureBio・Accentureなど他の評価者との取り組み

Anthropicは、METR以外にもSecureBioやAccentureと評価者としての協力を進めており、Hugging Faceを含む複数の組織とも初期段階の協議を行っています。これらの取り組みはまだ初期段階にあるため、提供する情報はより限定的で、評価者側の公表権限もより制限されているとAnthropicは説明しています。

SecureBioは、Anthropicの8月のリスクレポートにある化学・生物兵器に関する章を審査している最中であり、これに先立って前回のリスクレポートの試験的な審査を完了・公表済みです。この審査が完了した後、Anthropicはよりアクセス範囲を広げたプロジェクトへの移行を検討するとしています。Accenture、Facultyとは、モデルの評価・レッドチーミング、アライメント評価、安全対策のテスト、組織横断での能力構築を含む、より野心的なパートナーシップに向けて取り組んでいるとしています。

43段階のアクセス階層の仕組み

Anthropicは評価者向けに3つのアクセス階層を整備していることを明らかにしています。

第1階層では、評価者は範囲を限定したリスク調査を行い、Anthropicがどの情報へのアクセスを提供するかを決定します。評価者はAnthropicの承認を得て調査結果を公表できます。

第2階層では、評価者はAnthropicの承認なしに公表でき、より多くの情報にアクセスできます。Anthropicは依然として特定カテゴリーの情報の削除を求めることができますが、評価者側はその削除が妥当だったかについて自らの見解を公表できます。

第3階層は、METRとの取り決めに相当するもので、従業員同様のアクセスと、第2階層に似た公表権限を組み合わせたものです。Anthropicは今後、複数の評価者を第3階層に置き、それぞれが独自にリスク状況や重要な意思決定についての分析を公表することを目指すとしています。

5経営者が知るべきこと

Anthropicは今回、METRに自社のリスク評価チームとほぼ同等のアクセスを与え、METRが（一部の情報の削除要請を除き）承認なしに評価結果を公表できる体制を構築しました。Anthropicは、完全に同じではないとしながらも、これは銀行監督で大手銀行の内部に常駐検査官を置く仕組みと似た考え方だと説明しており、企業の内部情報を外部の独立した専門家が深く理解し、監視する体制を志向するものです。

自社がAIベンダーとの契約・利用において、セキュリティやガバナンスの体制を評価する際、こうした第三者評価の有無や公表姿勢は、AIサービスの信頼性を測る一つの指標になり得ます。また、自社が利用する他のAIベンダーにも、同様の透明性を求める余地があるかもしれません。

Anthropicは、このような評価者の受け入れは自社の自主的な取り組みであり、すべてのフロンティアAI企業が同様の取り組みを行うべきだと述べています。

6自社に当てはめる3つの質問

  • 自社が契約しているAIベンダーは、第三者機関による安全性評価や監査をどの程度受け入れているか確認できているか
  • 自社の情報システム部門やリスク管理担当者は、AIベンダー選定時にこうしたガバナンス体制を評価基準に含めているか
  • 取引先のAI活用に関するリスク情報の開示姿勢について、自社の調達・契約基準に反映する必要はないか

💡まとめ

  • Anthropicは独立評価機関METRに「従業員同様のアクセス」を付与し、Anthropicが公表自体を拒否できない体制を構築した（ただし特定カテゴリーの情報は削除対象になりうる）
  • SecureBioやAccentureとも評価パートナーシップを進めており、Hugging Faceとも初期協議中
  • 評価者向けに3段階のアクセス階層を整備し、情報開示の範囲と公表権限を段階的に広げる方針
  • 自社がAIベンダーを選定・評価する際、こうした第三者監視の体制は信頼性を測る指標になり得る

## 出典
- [An update on independent evaluators（Anthropic、2026年10月15日）](https://www.anthropic.com/news/an-update-on-independent-evaluators)