軍事AIの本当の難しさは性能より検証可能性にある

Military AI Assurance / AI T&Eは、軍事AIをどれだけ高精度かではなく、実戦に近い条件でどこまで信用してよいかを判断するための実務論点です。通常のAIベンチマークは、戦場の動的・敵対的・通信劣化環境を十分に再現しにくく、運用現場ではモデル単体よりも、人間・センサー・通信・指揮統制を含むシステム全体の評価が必要になります。日本ではAI倫理やLAWSが比較的注目されやすい一方、試験評価、運用後監視、model drift（運用中にAIの精度や判断傾向がずれていく現象）、red-teaming（攻撃者視点の安全性テスト）の一般向け議論はまだ薄く、今後の重要テーマになりつつあります。この記事では、用語、背景、リスク、日本への示唆を一般読者向けに整理します。

軍事AIの本当の論点は賢さよりどこまで信用できるか

軍事AIの中核課題は、単なる性能向上ではなく、その性能をどこまで検証できるかにあります。米国防総省の「Responsible AI Strategy and Implementation Pathway」は、AIを組み込んだ能力について、安全性・セキュリティ・有効性を、明確に定義された用途の範囲内で、ライフサイクル全体にわたり試験・評価による信頼性保証の対象とすべきだとしています。

さらに同戦略は、Warfighter Trust、つまり現場部隊の信頼を重要な柱に位置づけ、TEVV、すなわち試験・評価・検証・妥当性確認、リアルタイム監視、アルゴリズム信頼度指標、現場ユーザーからのフィードバックを組み込む必要性を示しています。

CDAOの運用試験・評価、つまりOT&Eに関する文書も、AIを組み込んだ能力の試験は、実運用の複雑さや不確実性の中でも十分に機能するという根拠ある信頼を築くために必要だと位置づけています。つまり問うべきなのは、AIは強いかではありません。どの条件で、どの程度、何を根拠に信用できるのかです。

この論点は、兵器だけの話ではありません。DoDやNATO、英国MOD、日本の防衛省文書を見ると、対象は意思決定支援、情報分析、センサー融合、無人アセット、兵站、整備、監視、サイバー防護まで広がっています。ですから、軍事AIの検証は自律兵器賛成か反対かという一問一答ではなく、防衛AI全体の制度設計に関わる問題です。

AI assuranceとは何か　軍事AIを使うための信頼の証拠体系

AI assurance、つまりAIアシュアランスとは、AIが完全に安全であると言い切ることではありません。定義された用途、運用条件、制約、監視手順の下で、どの程度のリスクで使えるのかを、証拠に基づいて示すことです。

MITREはAI assuranceを、AIを組み込んだシステムのライフサイクル全体を通じて、リスクを発見し、評価し、管理するプロセスと定義しています。DoD側でも、AI assuranceの目標は、ステークホルダーに根拠ある信頼、すなわち justified confidence を与えることだとされています。これは、単にベンチマークに合格したかどうかを見る話とは異なります。

ここで重要なのは、assuranceが、安全性、セキュリティ、信頼性、説明責任を束ねる概念だという点です。NIST AI RMFは、trustworthy AI、つまり信頼できるAIの属性として、妥当で信頼性があること、安全であること、セキュアでレジリエンスがあること、説明責任と透明性があること、説明可能であること、公正であることなどを整理しています。

DoDのAI倫理5原則も、Responsible、Equitable、Traceable、Reliable、Governable、すなわち「責任ある」「公平性に配慮した」「追跡可能な」「信頼性のある」「統制可能な」AIを掲げています。特にReliableの原則では、AI能力には明示的でよく定義された用途が必要であり、その用途の範囲内で、testing and assurance、つまり試験・評価と信頼性保証を行うことが求められています。

したがって、AI assuranceの本質は万能保証ではなく、条件付き保証です。英国のJSP 936が示すように、AIを組み込んだシステムが政策や倫理原則に適合しているかどうかは、そのシステムが何をするかだけで決まるわけではありません。どのように設計され、どのように運用され、どのように監督され、どのように改善されるかによって決まります。

これは、日本の一般読者が抱きがちなAIはブラックボックスだから検証できないという誤解への重要な反論でもあります。もちろん、AIの安全性を完全に証明することは困難です。しかし、運用範囲、失敗条件、ログ、監査、再評価、停止可能性を組み合わせることで、限定的ではあっても意味のある保証を作ることはできます。

AI T&EとTEVVとは何か　軍事AIをどう試験・評価するのか

AI T&Eとは、AI-enabled capability、つまりAIを組み込んだ能力やシステムを試験・評価するための総称です。軍事AIでは、モデル単体の精度だけでなく、そのAIが実際の任務、装備、通信、指揮命令、人間の判断と組み合わさったときに、どのように振る舞うのかを確認する必要があります。

DoDの文脈では、TEVVは Test, Evaluation, Verification, and Validation、つまり試験・評価・検証・妥当性確認を意味します。DoDのResponsible AI Strategyでは、Warfighter Trust、つまり現場部隊の信頼を支える柱として、TEVV、リアルタイム監視、アルゴリズム信頼度指標、ユーザーフィードバックを組み込む枠組みが示されています。

CDAOのT&Eフレームワークは、AI T&Eを大きく4つの焦点領域に分けています。具体的には、AI Model T&E、Systems Integration T&E、Human Systems Integration T&E、Operational T&Eです。これは、軍事AIの評価がモデルだけを見るものではないことを示しています。AIモデルそのものに加えて、人と機械のチーム、統合されたシステム、実際の運用条件での挙動まで評価対象になります。

OT&Eは Operational Test and Evaluation、つまり運用試験・評価です。CDAOの文書では、OT&EはAIを組み込んだ能力が、代表的な任務を、運用上現実的な環境で、現実的な敵対者に対して実行したときの評価だと整理されています。ここで見たいのは、単純な正解率ではありません。実運用で任務を達成できるかという運用上の有効性、現場で継続的に使えるかという運用上の適合性、さらに必要に応じて生残性や安全性まで含めた総合的な評価です。

DoDM 5000.101も、AI-enabled and autonomous DoD systemsのOT&EとLFT&Eでは、AIモデル単体だけでなく、AIモデルが他のシステム構成要素、人間・機械チーム、DoDシステム全体とどう相互作用するかを評価対象にしています。また、モデルカード、データカード、独立テストデータ、M&S、LVC、システム監視計画なども重視されています。

一方、DT&Eは一般に Developmental Test and Evaluation、つまり開発試験・評価を指します。これは、開発段階で仕様どおりに作れているか、設計に問題がないか、不具合や限界がどこにあるかを確認するための試験評価です。軍事AIでは、この段階から運用に近いデータ、独立したテストデータ、ログ設計、モデルカード、データカード、トレーサビリティ設計を仕込んでおく必要があります。そうしなければ、後段のOT&Eで現場で本当に使えるのかを十分に判断できません。

CDAOのAI model T&E frameworkが、データの選定、洗浄、加工、分割、キュレーション、検証・妥当性確認を重視しているのもそのためです。同文書は、AIモデルではデータが性能に強く影響し、テスト上の課題も生むため、データライフサイクル全体を管理する必要があると整理しています。

ここで、Verification、Validation、Evaluation、Accreditationの違いも整理しておきます。

Verification、つまり検証は、「仕様や設計どおりに作れているか」を確認することです。
Validation、つまり妥当性確認は、「意図した任務文脈で本当に妥当か」を確認することです。
Evaluation、つまり評価は、試験や検証で集めた証拠をもとに、システムを使えるかどうかを判断することです。
Accreditation、つまり認定は、特にM&S、すなわちモデリング・シミュレーションの分野で、「このモデルやシミュレーションを特定の目的に使ってよい」と公式に認めることです。

DoDM 5000.102が、M&SのVerification、Validation、Accreditation、つまりVV&Aを独立したマニュアルとして整理しているのは、軍事AIの試験・評価において、シミュレーション、LVC、デジタルツイン、テストベッドが補助的な道具ではなく、中核的な試験インフラになっているからです。同マニュアルは、OT&EやLFT&Eの目的を満たすうえで重要なM&Sツールについて、検証・妥当性確認・認定の手順を定めています。

つまり、軍事AIの試験・評価では、AIモデルのスコアが高いかだけを見ても不十分です。問うべきなのは、どの任務で、どの環境で、どの利用者が、どのシステムと組み合わせ、どの敵対条件の下で使ったときに、どの程度信頼できるのかです。

その意味で、AI T&EとTEVVは、軍事AIを導入するための形式的なチェックリストではありません。AIを現場で使うために、性能、限界、失敗条件、監視方法、再評価の条件を証拠に基づいて明らかにするための仕組みです。

なぜ通常のAIベンチマークでは軍事AIを評価しにくいのか

一般的なAIベンチマークだけでは軍事AIを十分に評価できない最大の理由は、評価対象が根本的に違うからです。多くのAIベンチマークは、静的なデータセットを使い、平均的な正答率や性能を測ります。一方で軍事AIが問われるのは、動的で敵対的な環境の中で、任務失敗のリスクをどこまで抑えられるかです。

CDAOのAI Model T&E Frameworkは、AIモデルの実世界での性能や信頼性をテストするには、テストデータにoperational realism、つまり運用上の現実性が必要だとしています。また、AIモデルの応答面は滑らかではない場合があり、従来の実験計画法だけでは、AIがどこで失敗するのかというfailure points、つまり失敗点や破綻点を十分に捉えられない可能性があると指摘しています。

さらにCDAOのOT&E文書は、AI-enabled capability、つまりAIを組み込んだ能力では、operational envelope、つまり運用範囲を完全にカバーすることは現実的ではないと整理しています。そのため、限られた時間、予算、人員、インフラの中で、エッジケースや、訓練データが少ない低密度領域を意識した試験設計が必要になります。

平均正答率も、そのままでは危険です。CSISが指摘するように、現在のAIベンチマークの多くは、商用、学術、消費者向けの用途を前提に作られており、防衛・安全保障の複雑さを十分に捉えられていません。たとえばMMLUやHellaSwagのようなベンチマークは、静的な問題セットでの性能を測るものであり、実際の戦場や政策判断のような、動的で不確実な意思決定問題を直接測るものではありません。

防衛・安全保障の判断では、ノイズ、曖昧さ、敵の偽装、情報の欠落、指揮官意図との整合、部隊への危険、任務失敗時のコストなど、複数の基準を同時に考える必要があります。CSISも、現実の意思決定は不確実性とノイズの中で行われ、敵対者は意図を隠そうとするため、ベンチマークは現実的な環境とユースケースに基づく必要があると述べています。

つまり、軍事AIの評価では、平均してどれだけ正解したかだけでは不十分です。重要なのは、どの任務条件で、どの環境で、どのようなノイズや敵対行動があるときに、どの程度まで性能が保たれるのかです。ベンチマーク成績が高いAIであっても、実運用では想定外の条件に弱く、brittle、つまり脆弱に振る舞う可能性があります。

したがって、軍事AIのT&Eでは、静的なベンチマークに加えて、運用上の現実性を持つデータ、エッジケースの探索、敵対的条件でのテスト、人間との協働、任務文脈に即した評価指標を組み合わせる必要があります。軍事AIに求められるのは、単なる高得点モデルではなく、厳しい条件下でも限界を把握しながら使えるシステムです。

また、軍事AIではモデル単体よりもシステム全体の評価が重要です。通信遅延、センサー劣化、データの由来、他システムとの干渉、オペレーターの負荷、チーム内の役割分担が変わると、同じモデルでも違う結果になります。NISTのAI RMFや配備後監視レポートも、AIは従来ソフトウェアよりドリフトや不確実性、監視面の広さに悩まされやすいと整理しています。

軍事AIの検証不能性を生む5つの要因

第一に、戦場条件の組み合わせが膨大で、すべてを試せないことです。

CDAOのOT&E文書は、AI-enabled capability、つまりAIを組み込んだ能力の評価では、通常のT&Eよりも複雑なstate space、つまり状態空間を扱うことになると説明しています。代表的な任務、利用者、ワークフロー、接続されるシステム、敵対者、環境条件などを組み合わせると、試験すべき条件は急速に増えます。そのため、現実的には運用空間を完全にカバーすることはできず、一部の条件を選んで試験するしかありません。

さらに、AI-enabled capabilityでは、ブラックボックス性や、確率的な判断が問題になります。CDAO文書も、ブラックボックス型アルゴリズムや確率的意思決定のため、どの要因がAIの性能に影響するのかが不明瞭になりやすいと述べています。そのため、従来型の実験計画だけでは不十分になり、エッジケースや、学習データが少ない低密度領域を意識した試験設計が必要になります。

つまり、全部試してから使うという考え方は、軍事AIでは原理的に難しいのです。重要なのは、すべての条件を網羅することではなく、限られた試験資源の中で、どの条件を優先的に検証すべきかを合理的に設計することです。

第二に、敵がAIを騙す前提で行動することです。

ここでいう敵対的テストは、攻撃手法を説明するためのものではありません。評価設計として、AIが圧力を受けたときにどのように壊れるのかを確認する必要がある、という意味です。

NATOの改訂AI戦略は、AI技術を防衛・安全保障目的で責任ある形で採用するには、AI Testing, Evaluation, Verification and Validation、つまりTEV&Vの基盤が必要だとしています。また、敵対的干渉を最小化し、AIの敵対的利用から守ることも重要な課題として位置づけています。

NISTも、AI red-teamingを、管理された環境でAIモデルやAIシステムの望ましくない挙動、有害な結果、それが起きる条件を発見し、安全対策や防護策をストレステストする実践だと説明しています。

したがって、防衛AIの試験では、普通に使ったときに動くかだけでは不十分です。ノイズ、偽装、妨害、想定外入力、敵対的な環境変化の下で、どこまで性能を保てるのか、どこで破綻するのかを評価する必要があります。

第三に、センサー、通信、データが常に劣化することです。

民生AIの多くは、比較的整った画像、テキスト、音声、表形式データを前提に評価されます。しかし防衛分野では、RADAR、SONAR、LIDAR、電磁スペクトラムデータなど、民間産業では一般的でないデータモダリティも重要になります。CDAOのAI Model T&E Frameworkも、DoD固有のデータ種別は新しい評価方法を必要とし、データ品質や代表性の保証を難しくすると整理しています。

さらに、データの出所やchain of custody、つまり取得・管理・加工の履歴が不透明な場合、それ自体が追加の試験要求を生みます。CDAO文書は、データの由来やキュレーション過程の不透明さがセキュリティリスクになり、テスト要求を増やす可能性があると指摘しています。

日本の防衛省のAI活用推進基本方針も、AIシステムの信頼性、堅牢性、制御可能性、データの正確性、ログの記録・保存を重視しています。特に、さまざまな状況下で性能を維持すること、必要に応じて人間がコントロールできること、AIの判断に関わる検証可能性を確保するためにログを記録・保存することが示されています。

つまり、軍事AIでは良いモデルを作るだけでは足りません。どのセンサーから、どの品質のデータが入り、どの通信条件で処理され、どの履歴をたどれるのかまで評価対象になります。

第四に、人間とAIのチームで過信・不信が起きることです。

軍事AIは、AI単体で完結するものではありません。実際には、指揮官、オペレーター、分析官、整備員、部隊全体の判断と結びついて使われます。そのため、評価すべき対象はAIモデル単体ではなく、人間機械チームです。

防衛省の基本方針は、AIシステムの開発・提供・利用において、自動化バイアス、つまり自動化されたシステムへの過度な信頼や依存に対して必要な対策を講じるべきだとしています。

CDAOのHuman Systems Integration T&E文書も、AI-enabled capabilityの評価では、戦闘員がその技術を使って任務を成功させられるという根拠ある信頼を築くことが必要だとしています。同文書は、信頼は単に高めればよいものではなく、システム性能に応じて適切に調整されるべきものだと説明しています。過信すれば、AIが苦手な条件でも頼りすぎて危険が生じます。一方で不信が強すぎれば、本来は有用な支援機能が使われません。

したがって、軍事AIの評価では、AIが正答したかだけでなく、人間がその出力をどう理解し、どう判断し、どの場面で頼り、どの場面で疑うのかまで見る必要があります。

第五に、配備後に環境やモデルが変わることです。

AIは、配備された瞬間に評価が終わるわけではありません。CDAOのOT&E文書は、AI-enabled capabilityでは、時間の経過とともにfielded performance、つまり配備後の現場性能が、試験時に観測された性能からずれる可能性が高いとしています。これがperformance drift、つまり性能ドリフトです。運用環境、データ、モデル、アプリケーション、センサー、運用構想が変われば、同じAIでも性能が変化します。

NISTの2026年レポートも、post-deployment monitoring、つまり配備後モニタリングの重要性を整理しています。同レポートは、配備後の測定と監視は、AIシステムが実世界で意図どおりに動いているかを確認し、モデルの非決定性、distribution shift、つまり分布の変化、動的な入力条件などによる予期しない出力を追跡するために重要だとしています。

この点は、軍事AIでは特に重要です。戦場環境は固定されていません。敵は行動を変え、センサー条件は変動し、通信は劣化し、データの傾向も変わります。そのため、軍事AIのT&Eは、配備前の一度きりの試験ではなく、配備後の監視、再評価、更新、場合によっては機能制限や停止まで含む継続的なプロセスになります。

要するに、軍事AIの試験・評価が難しいのは、AIが単に高度なソフトウェアだからではありません。戦場が動的で、敵対的で、不完全なデータに満ち、人間の判断と密接に結びつき、さらに配備後も条件が変わり続けるからです。だからこそ、軍事AIでは平均性能よりも、どの条件で失敗し、どの条件で信頼でき、どのように監視・再評価・停止できるのかが重要になります。

AI-enabled targeting validationとは何か　最も慎重に扱うべき論点

ここでいう AI-enabled targeting validation、つまりAI支援型ターゲティングの妥当性確認とは、AIが目標候補の抽出、識別、優先順位付け、関連情報の整理などを支援する場合に、その出力をどのような法的・倫理的・運用的条件の下で検証するのかという論点です。

重要なのは、この表現が、現時点で単一の統一教義用語として完成しているわけではないという点です。むしろ実務上は、requirements validation (要求事項の妥当性確認) 、legal review (法的審査) 、auditability (監査可能性) 、human oversight (人間による監督の組み合わせ) 、として現れています。

DoDのResponsible AI Strategy and Implementation Pathwayは、requirements validationを、AIを活用する能力が運用ニーズと整合しているかを確認し、関連するAIリスクに対処するためのプロセスとして位置づけています。さらに、正式なrequirements validationは、配備前・配備中の信頼性と安全性を高め、traceability、accountability、内部・外部のoversightを改善すると説明しています。

この領域では、目標識別の精度だけを見ても足りません。NATOのAIに関するResponsible Use原則は、Lawfulness、Responsibility and Accountability、Explainability and Traceability、Reliability、Governability、Bias Mitigationを掲げています。つまり、AIの出力が高精度かどうかだけでなく、法に適合しているか、責任の所在をたどれるか、説明可能か、信頼できるか、必要に応じて統制できるかが問われます。

DoDD 3000.09も、autonomous and semi-autonomous weapon systems、つまり自律・半自律兵器システムについて、指揮官やオペレーターが武力行使に対して適切な人間の判断を行えるよう設計されるべきだとしています。また、使用にあたってはlaw of war、適用される条約、兵器システム安全規則、ROE、つまり交戦規則、そしてDoDのAI倫理原則との整合が求められています。

したがって、AI支援型ターゲティングの妥当性確認では、法的・政策的審査、説明可能性、ログ、監査証跡、人間の介入可能性が重要になります。AIが出した候補を判断補助として扱う場合でも、責任が消えるわけではありません。むしろ、AIが候補を整理し、優先順位を付け、判断の速度を上げるほど、人間がどこで確認し、どこで止められるのかを明確にしておく必要があります。

CCWのLAWS議論でも、人間の責任は機械に移転できず、国際人道法はすべての兵器システムに引き続き適用されると確認されています。また、人間と機械の相互作用は、運用文脈や兵器システム全体の特性を踏まえ、国際人道法への適合を確保するものでなければならないとされています。

最近の法政策論も、AI decision-support system、つまりAI意思決定支援システムが単なる補助に見えても、実際にはtarget identification、selection、nomination、つまり目標の識別、選定、候補化に深く入り込みうると警告しています。特に、人間の関与が形式的になったり、速度や自動化バイアスによって監督と説明責任が歪められたりするリスクが指摘されています。

要するに、AI支援型ターゲティングの妥当性確認とは、AIが候補を出せるかを見るだけの話ではありません。その候補が、どのデータから、どの条件で、どの程度の不確実性を持って出され、人間がどの段階で確認し、法的・倫理的・運用的責任をどのように担保するのかを検証する枠組みです。

red-teamingとmodel drift　AIを配備した後も終わらない試験評価

red-teaming、つまりレッドチーミングは、軍事AIをどう壊すかを指南するものではありません。NISTはAI red-teamingを、AIシステムの欠陥や脆弱性、予期しない挙動、望ましくない挙動、誤用に関わるリスクを発見するための構造化されたテスト活動と説明しています。重要なのは、これが統制された環境で行われる評価活動だという点です。

CDAOのAI assurance関連資料でも、AI assuranceの目標は、DoDのAI-enabled systemが要求事項を満たし、倫理的に任務を支援できるという根拠ある信頼、つまりjustified confidenceをステークホルダーに与えることだとされています。また、AI T&Eの関心領域として、adversarial / red teamingと、T&E in deployment / sustainment、つまり配備後・維持段階での試験評価が並べて示されています。

要するに、レッドチーミングは攻撃の手順を教えるものではありません。安全な範囲でAIに圧力をかけ、どの条件で誤作動し、どの条件で脆弱になり、どの安全対策が機能しないのかを見つけるための評価活動です。

次に重要なのが、model drift、つまりモデルドリフトです。モデルドリフトとは、学習時に成立していたデータ分布や入力・出力関係が、時間の経過とともに変化し、現場での性能が低下する現象です。軍事AIでは、運用環境、センサー条件、通信状況、敵の行動、部隊の運用方法が変わるため、ドリフトの影響が特に大きくなります。

CDAOのOT&E文書は、AI-enabled capabilityでは、配備後の現場性能が試験時に観測された性能からずれる可能性が高く、これをperformance driftとして整理しています。同文書は、運用文脈の変化によるdata drift、過学習や脆弱なモデル、頻繁な更新、off-label use、つまり想定外の使われ方などが、性能ドリフトを生む要因になると説明しています。

RANDも、静的な訓練データで学習したAIモデルは、動的な環境で使われると性能が劣化しやすいと指摘しています。特にサイバー領域のように脅威環境が継続的に変わる分野では、古いデータで訓練されたモデルが短期間で有効性を失う可能性があります。

だからこそ、軍事AIは一度テストに合格したら終わりではありません。DoDM 5000.101は、AI-enabled and autonomous DoD systemsのOT&E・LFT&E計画において、設計や環境の変化が追加の試験評価を必要とするかを特定し、対処するためのsystem monitoring plan、つまりシステム監視計画を含めることを求めています。

NISTの2026年レポートも、post-deployment monitoring、つまり配備後モニタリングの重要性を整理しています。同レポートは、配備後の監視を、AIシステムが実世界で意図どおりに動いているかを確認し、モデルの非決定性、distribution shift、つまり分布変化、動的な入力条件などによる予期しない出力を追跡するための重要な手段と位置づけています。

さらにNISTは、配備後モニタリングを6つのカテゴリに整理しています。具体的には、機能監視、運用監視、人間要因の監視、セキュリティ監視、コンプライアンス監視、大規模影響の監視です。これは、AIの監視が単なる精度確認ではなく、システムが継続的に機能しているか、人間が適切に使えているか、攻撃や誤用に耐えられるか、規制や方針に適合しているか、社会的な影響が拡大していないかまで含むことを示しています。

したがって、軍事AI assuranceは、導入前の関門試験だけでは成立しません。配備前にどれだけ慎重に評価しても、現場環境、データ、敵の行動、人間の使い方、モデルやシステムの更新によって、性能とリスクは変化します。

本質的には、軍事AIの保証とは事前に合格したAIを信じることではありません。配備後も何を監視し、どの兆候を異常と見なし、どの条件で再評価し、どの条件で機能制限や停止を行うのかまで決めておくことです。レッドチーミング、モデルドリフト対策、配備後モニタリングは、そのための中核的な仕組みです。

日本の議論で不足しやすい視点　AI倫理からAI試験評価へ

日本では、軍事AIをめぐる一般向け議論では、AI倫理、LAWS、自律兵器規制が目立ちやすい傾向があります。それ自体は重要です。実際、防衛装備庁の2025年ガイドラインも、LAWS、AI政治宣言、REAIM、国際人道法との関係を丁寧に置いています。ただし同ガイドラインの構成を見ると、そこからさらに一歩進み、準拠要件の設定、法的・政策的審査、技術的審査、監査可能性、ログまで踏み込んでいます。ここが今後の日本の論点です。

日本ではすでに、防衛省が2024年7月に「防衛省AI活用推進基本方針」を公表し、安全性、信頼性、堅牢性、制御可能性、透明性、ログ保存、自動化バイアス対策を掲げました。さらに防衛装備庁は2025年6月、「装備品等の研究開発における責任あるAI適用ガイドライン」を策定しています。つまり、日本で議論が全く存在しないわけではなく、制度文書は出始めているが、一般向けにAI T&E / assuranceとして整理されることがまだ少ない、というのがより正確な見方です。

日本への示唆としては、少なくとも5点あります。
第一に、独立テストデータとデータ由来の管理です。
第二に、LVC環境やデジタルツインを含む評価基盤の整備です。
第三に、センサー融合AIや指揮統制支援AIのようなモデル単体では意味がない領域の評価設計です。
第四に、運用後監視と再評価の制度化です。
第五に、責任分界とログ監査です。
防衛白書が無人アセット、防空、海洋監視、AI共同研究への言及を増やしていることを踏まえると、今後は装備の中身そのものより、どのような評価インフラを持つかが重要になります。

海外では何が論点になっているのか　米国・NATO・英国・専門機関の動向

米国では、2024年12月にDoDI 5000.98、DoDM 5000.101、DoDM 5000.102などがそろい、AIを組み込んだ自律システム、ソフトウェア、M&S VV&A、つまりモデリング＆シミュレーションの検証・妥当性確認・認定をまたぐT&E体系が整理されました。CDAOの文書群は、AIモデルの試験・評価、システム統合、人間システム統合、運用試験・評価を分けて扱いながらも、それらをあくまで統合的に見ています。DOT&Eの年次報告も、AIを組み込んだ自律システムの試験マニュアルを、この分野における最初の出発点として位置づけています。

NATOでは、2024年改訂AI戦略において、AIのユースケース、標準、評価テンプレート、審査プロセス、TEV&Vの全体像、DIANAのテストセンター網が打ち出されました。NATOは、2021年のAI戦略の段階から、説明可能性と追跡可能性、信頼性、統制可能性を掲げていました。さらに2022年にはデータ・AI審査委員会を設置し、2023年には責任あるAI認証基準の検討も始めています。これは、倫理原則だけを掲げて終わりにしないための、制度面での厚みだといえます。

英国では、Defence AI Strategy、つまり防衛AI戦略と、「Ambitious, Safe, Responsible」、すなわち「野心的で、安全で、責任ある」AI活用の流れを受けて、2024年11月にJSP 936 Part 1 v1.1が出されています。そこでは、AI-enabled capability、つまりAIを組み込んだ能力の適否は、何をするかだけで決まるのではなく、「どのように実装し、どのように人間の責任とmeaningful human control、つまり意味のある人間による統制を担保するか」で決まるとされています。同時に、AI ethics risk management framework (AI倫理リスク管理フレームワーク) 、model card (モデルカード) 、AI assurance question sets (AIアシュアランス質問セット) など、実務寄りの道具立ても示されています。

専門機関の論点もかなり揃ってきました。
CNASは、AIと自律システムの安全かつ効果的な配備には、ライフサイクル全体を通じたT&E、つまり試験・評価が必要だとしています。
CSISは、防衛向けAIベンチマーキングの厚み不足を問題化しています。
RANDは、人間機械チーミングとモデルドリフトを強調し、MITREは、アシュアランス計画を中心にした反復可能なプロセスを提案しています。これらの方向性は大きく一致しています。共通するメッセージは、AIを早く入れることよりも、証拠に基づいて導入し続けることです。

通常のAI評価と軍事AI T&Eの違い

観点	一般的なAI評価	軍事AI T&E
評価対象	モデル単体が中心	モデル、人間、通信、センサー、C2を含むシステム全体
環境	静的データセット、研究室条件	運用上現実的な環境、代表的利用者、代表的脅威
敵対性	低いか想定外	敵の欺瞞、妨害、偽装、データ汚染リスクを前提
重視指標	平均精度、F1、ベンチスコア	effectiveness、suitability、survivability、監査可能性、継続監視
人間の関与	UI評価は補助的	HSI、人間の過信・不信、介入可能性が中心
配備後	再評価が弱い場合が多い	drift監視、再試験、更新管理が不可欠

この違いは、CDAOのOT&E文書、NISTのRMFと配備後監視レポート、CSISのbenchmarking論考を並べるとよく見えます。軍事AIでは、ベンチマークが入口にすぎず、出口は実戦条件下での意思決定リスクです。

AI倫理・LAWS・AI assurance・AI T&Eの違い

論点	何を問うか	主な関係者	典型的な成果物	日本での見え方
AI倫理	何が望ましいか	政府、研究者、企業、市民社会	原則、ガイドライン	比較的見えやすい
LAWS	何を禁止・制限するか	国連、各国政府、法専門家	会合文書、作業文書、声明	かなり見えやすい
AI assurance	どの条件で信用できるか	調達、開発、監査、運用、規制	assurance plan、証拠体系、監視計画	まだ見えにくい
AI T&E	どう試験し、何をもって合格とするか	テスター、開発者、運用者、取得機関	TES、試験計画、評価報告、monitoring plan	一般向けでは薄い

誤解しやすいのは、AI倫理とAI T&Eを同じものとして扱うことです。

AI倫理は原則を示すものです。一方でAI T&E、つまりAIの試験・評価は、その原則を検証可能な指標と、証拠に落とし込む実務です。LAWSは、規制や法的・外交的なルール作りに関わる論点です。一方でアシュアランスは、運用と取得の現場で、どのように信頼を作るかという論点です。

今後の注目点　日本で本格化しそうな論点

ここからは、公開資料を踏まえた推測です。

楽観シナリオでは、日本でもAI assuranceとAI T&Eが防衛省・防衛装備庁の制度文書、研究開発案件、試験評価基盤に組み込まれ、AI活用とリスク管理が並走します。分岐点は、責任あるAI適用ガイドラインの運用具体化、テストデータとLVC基盤の整備、ログ・再評価の仕組み導入です。

中立シナリオでは、無人機、海洋監視、センサー融合、対ドローン、防空、意思決定支援AIなどの導入は進む一方、試験評価や運用後監視は案件ごとの対応にとどまります。この場合、個別技術は前進しても、横断的な assurance framework は弱いままです。公開情報ベースでは、現在の日本はこのシナリオに最も近いように見えます。

慎重シナリオでは、AI導入が先行し、説明責任、監査、責任分界、再評価制度が追いつかず、事故や誤作動、あるいは社会的反発を通じて導入が停滞します。NISTやMITREが強調する post-deployment monitoring と assurance plan が軽視されると、このシナリオに近づきます。

読者が今後見るべき指標は、防衛省・防衛装備庁のAI関連ガイドラインの更新、DoDのT&E manualsやCDAOフレームワークの改訂、NATOのTEV&V landscape具体化、英国JSP 936 Part 2の展開、NIST AI RMF 1.0改訂、REAIMとCCW LAWSの文書進展です。

結論　軍事AIを見るときは性能だけでなく検証可能性を見る

軍事AIの本質的な難しさは、AIが頭が良いかどうかではなく、そのAIがどの条件で失敗し、どこまでなら信用でき、配備後にどう監視し続けるかを証拠で示しにくいことにあります。だからAI倫理やLAWSだけでは足りません。必要なのは、AI assurance と AI T&E を通じて、設計、試験、統合、運用、更新、監査をつなぐことです。日本でも制度文書は出始めていますが、今後はAIを使うかどうかよりどう試験し、どう再評価し、どう責任を残すかが本当の争点になります。

よくある疑問Q&A

Q.AI assuranceとは何ですか。
AI assuranceは、AIが完全に安全だと宣言することではなく、特定の用途・運用条件・監視手順の下で、どのようなリスクで使えるかを証拠で示す考え方です。MITREは、ライフサイクル全体でリスクを発見・評価・管理するプロセスと定義しており、DoDでもステークホルダーに根拠ある信頼を与えることが重視されています。

Q.AI T&Eとは何ですか。
AI T&Eは、AI-enabled capability (AIを組み込んだ能力) の試験・評価です。DoDではモデル単体だけではなく、システム統合、人間機械協調、運用環境下のOT&Eまで含めたフレームワークとして整理されています。

Q.TEVVとは何ですか。
TEVVは、Test, Evaluation, Verification, and Validation、つまり試験・評価・検証・妥当性確認の略です。DoDのResponsible AI Strategyでは、現場部隊の信頼を支える枠組みとして位置づけられています。TEVVは、運用前と運用中の両方で、性能、信頼性、意図しない挙動、失敗モードを把握するために使われます。

Q.軍事AIの検証はなぜ難しいのですか。
戦場環境が動的で、敵対的で、通信やセンサーが劣化し、データ分布が変わり、人間の過信・不信まで絡むからです。CDAO文書は、運用範囲を完全にカバーすることは不可能だとしています。またNISTは、配備後監視の必要性を強調しています。

Q.AI倫理やLAWSとは何が違いますか。
AI倫理は「何が望ましいか」、LAWSは「何を禁止・制限するか」を問う枠組みです。AI assurance と AI T&E は、その原則や法的要求を、試験可能な指標、ログ、監視、再評価、責任分界に落とし込む実務です。

Q.AIの精度が高ければ軍事利用できるのですか。
できるとは限りません。高精度でも、代表性の低いデータ、通信劣化、センサー欠損、敵対的環境、人間機械チーミングの失敗、配備後のドリフトがあると、現場性能は変わります。DoDとNISTの文書はどちらも、このギャップを強調しています。

Q.model driftとは何ですか。
配備後に環境やデータ分布が変わり、モデルの性能が劣化することです。CDAOは performance drift を fielded AI-enabled systems の重要課題として扱い、RANDも静的データで学習したモデルが動的環境で劣化しやすいと整理しています。

Q.red-teamingとは何ですか。
AI red-teamingは、AIシステムの望ましくない挙動、脆弱性、誤用リスクを見つけるための統制された評価活動です。この記事の文脈では、防御的・評価的な手法であり、攻撃手順の解説ではありません。

Q.AI-enabled targeting validationとは何ですか。
AIが目標候補の整理や識別を補助する場合に、その出力を法、運用、監査の観点からどう検証するかという論点です。精度だけでなく、国際人道法、人間の責任、ログ、説明可能性、介入可能性が重要になります。

Q.日本ではこの議論は進んでいますか。
制度文書レベルでは進み始めています。防衛省は2024年にAI活用推進基本方針を公表し、防衛装備庁は2025年に責任あるAI適用ガイドラインを策定しました。ただし、一般向けにはAI T&Eやassuranceとして体系的に紹介される機会はまだ多くありません。

Q.今後どこを見ればよいですか。
DoDのCDAO、DOT&E、DoD 5000系マニュアル、NATOの改訂AI戦略とDARB、英国JSP 936、NIST AI RMF、そして日本の防衛省・防衛装備庁の更新文書です。外交・規範面ではREAIMとCCW LAWSの動向も重要です。

参考

U.S. Department of Defense Chief Digital and Artificial Intelligence Office（2022）「Responsible Artificial Intelligence Strategy and Implementation Pathway」DoD, URL：https://media.defense.gov/2022/Jun/22/2003022604/-1/-1/0/Department-of-Defense-Responsible-Artificial-Intelligence-Strategy-and-Implementation-Pathway.pdf、閲覧日：2026年7月8日

U.S. Department of Defense（2020）「DoD Adopts Ethical Principles for Artificial Intelligence」Defense.gov, URL：https://www.defense.gov/News/Releases/Release/Article/2091996/dod-adopts-ethical-principles-for-artificial-intelligence/、閲覧日：2026年7月8日

U.S. Department of Defense（2024）「DoD Manual 5000.101, Operational Test and Evaluation and Live Fire Test and Evaluation of Artificial Intelligence-Enabled and Autonomous Systems」DoD Executive Services Directorate, URL：https://www.esd.whs.mil/Portals/54/Documents/DD/issuances/dodm/5000101p.PDF?ver=FfOR56lIK5S1LDFfSlYwYQ%3D%3D、閲覧日：2026年7月8日

U.S. Department of Defense（2024）「DoD Manual 5000.102, Modeling and Simulation Verification, Validation, and Accreditation for Operational Test and Evaluation and Live Fire Test and Evaluation」DoD Executive Services Directorate, URL：https://www.esd.whs.mil/Portals/54/Documents/DD/issuances/dodm/5000102m.PDF?ver=9JF3bqGJFcGiF3J3KgSTNg%3D%3D、閲覧日：2026年7月8日

U.S. Department of Defense Chief Digital and Artificial Intelligence Office（2024）「Test and Evaluation of Artificial Intelligence Models Framework」CDAO, URL：https://www.ai.mil/Portals/137/Documents/Resources%20Page/Test%20and%20Evaluation%20of%20Artificial%20Intelligence%20Models%20Framework.pdf、閲覧日：2026年7月8日

NATO（2024）「Summary of NATO’s Revised Artificial Intelligence Strategy」NATO Official Text, URL：https://www.nato.int/en/about-us/official-texts-and-resources/official-texts/2024/07/10/summary-of-natos-revised-artificial-intelligence-ai-strategy、閲覧日：2026年7月8日

NATO（2021）「Summary of the NATO Artificial Intelligence Strategy」NATO Official Text, URL：https://www.nato.int/en/about-us/official-texts-and-resources/official-texts/2021/10/22/summary-of-the-nato-artificial-intelligence-strategy、閲覧日：2026年7月8日

NATO（2025）「Emerging and disruptive technologies」NATO Topic Page, URL：https://www.nato.int/en/what-we-do/deterrence-and-defence/emerging-and-disruptive-technologies、閲覧日：2026年7月8日

NIST（2023）「Artificial Intelligence Risk Management Framework 1.0」NIST AI 100-1, URL：https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf、DOI：https://doi.org/10.6028/NIST.AI.100-1、閲覧日：2026年7月8日

NIST（2024）「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」NIST AI 600-1, URL：https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf、DOI：https://doi.org/10.6028/NIST.AI.600-1、閲覧日：2026年7月8日

NIST（2026）「Challenges to the Monitoring of Deployed AI Systems」NIST AI 800-4, URL：https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.800-4.pdf、DOI：https://doi.org/10.6028/NIST.AI.800-4、閲覧日：2026年7月8日

MITRE（2024）「AI Assurance: A Repeatable Process for Assuring AI-enabled Systems」MITRE, URL：https://www.mitre.org/news-insights/publication/ai-assurance-repeatable-process-assuring-ai-enabled-systems、閲覧日：2026年7月8日

Center for a New American Security（2025）「Safe and Effective: Advancing Department of Defense Test and Evaluation for AI and Autonomous Systems」CNAS, URL：https://www.cnas.org/publications/reports/safe-and-effective、閲覧日：2026年7月8日

Center for Strategic and International Studies（2025）「The Pentagon’s AI Problem Isn’t Algorithms, It’s Evaluation」CSIS, URL：https://www.csis.org/analysis/pentagons-ai-problem-isnt-algorithms-its-evaluation、閲覧日：2026年7月8日

防衛省（2024）「防衛省AI活用推進基本方針」防衛省, URL：https://www.mod.go.jp/j/press/news/2024/07/02a_03.pdf、閲覧日：2026年7月8日

防衛省（2024）「防衛省AI活用推進基本方針等について」防衛省, URL：https://www.mod.go.jp/j/press/news/2024/07/02a.html、閲覧日：2026年7月8日

防衛装備庁（2025）「装備品等の研究開発における責任あるAI適用ガイドライン」防衛装備庁, URL：https://www.mod.go.jp/atla/soubiseisaku/ai_guideline/ai_guideline_ver.01.pdf、閲覧日：2026年7月8日

防衛装備庁（2025）「装備品等の研究開発における責任あるAI適用ガイドライン」防衛装備庁掲載ページ, URL：https://www.mod.go.jp/atla/soubiseisaku_ai_guideline.html、閲覧日：2026年7月8日

防衛省（2025）「令和7年版防衛白書」防衛省, URL：https://www.mod.go.jp/j/press/wp/、閲覧日：2026年7月8日

OECD（2024）「OECD AI Principles」OECD.AI, URL：https://oecd.ai/en/ai-principles、閲覧日：2026年7月8日

U.S. Department of Defense（2023）「DoD Directive 3000.09, Autonomy in Weapon Systems」DoD Executive Services Directorate, URL：https://www.esd.whs.mil/Portals/54/Documents/DD/issuances/dodd/300009p.pdf、閲覧日：2026年7月8日