米AI開発企業Anthropicは、同社の生成AI基盤モデル「Claude」シリーズの軍事利用に関する倫理規定を一部改定した。これまで非殺傷目的に限定していた利用方針を転換し、米国防総省との連携を模索する動きが表面化した。ただし、致命的な自律兵器（LAWS）の開発や、人権侵害につながる大規模監視への利用禁止という2つの「赤線」は維持する。この方針転換は、国家安全保障を目的としたAI技術の導入を急ぐ国防総省と、AIの倫理的利用を掲げてきた新興企業の間の緊張関係を浮き彫りにする。背景には、OpenAIやGoogleなど競合他社が国防関連の契約獲得に動く中での、Anthropicの事業戦略上の判断があると見られる。本稿では、国防総省のAI戦略とAnthropicの技術的・倫理的制約の実際を深掘りする。

国防総省「CDAO」が描くAI戦略

米国防総省は、最高デジタル・人工知能室（CDAO）の下でAI技術の全部門への導入を加速させている。CDAOが2023年8月に発表した「データ・分析・AI導入戦略」によれば、2025会計年度までに省全体の意思決定プロセスにAIを統合する目標を掲げる。この戦略の中心には、ウクライナでの戦訓を反映した情報分析能力の向上があり、衛星画像や通信傍受データから敵の動向を即座に把握するシステム構築が急務となっている。米議会調査局の2024年3月の報告書によると、国防総省のAI関連研究開発予算は2024会計年度で18億ドルに達した。この予算は、主に3つの領域に投じられる。第一に、Project Mavenに代表される画像認識AI。第二に、後方支援や補給網を最適化する予測分析AI。そして第三に、意思決定支援を行う大規模言語モデル（LLM）の活用である。AnthropicのClaude 3のような高性能LLMは、膨大な戦況報告書や諜報文書を要約・分析し、指揮官の判断を支援する能力を持つ。国防総省はすでにAmazon Web Services（AWS）やGoogle Cloudと、最大90億ドル規模の統合戦闘指揮統制（JADC2）向けクラウド契約を締結済みであり、これらの基盤上で動作するAIアプリケーションの供給元として、AnthropicやOpenAIに期待を寄せているのが実情だ。

なぜAnthropicは方針を転換したのか

Anthropicの方針転換の直接的な契機は、事業の持続可能性と市場での競争環境にある。同社はOpenAIの元幹部が2021年に設立し、「AIの安全性を最優先する」という理念を掲げてきた。その技術的支柱が、AI自身に倫理原則を学習させる「憲法AI（Constitutional AI）」という独自の手法である。この手法により、Claude 3は人間に有害な応答を生成する確率が、先行モデルと比較して2倍低いとされている（Anthropic、2024年3月技術報告書）。しかし、AI開発には莫大な資金が必要だ。同社はAmazonから最大40億ドル、Googleから20億ドルの出資を受けており、これらの投資家に対する事業成長の責任を負う。一方、競合のOpenAIは、2023年に軍事・国家安全保障分野への利用禁止条項を規約から削除し、国防総省との協力を公に表明している。市場調査会社TrendForceの2024年5月の推計によれば、世界の生成AI市場は2027年に1511億ドル規模へ拡大する見通しで、そのうち政府・防衛分野が大きな割合を占める。Anthropicが国防分野を完全に切り離した場合、重要な収益源を失い、技術開発競争で後れを取る危険があった。今回の限定的な方針転換は、倫理的理念と商業的現実との間で、ぎりぎりの妥協点を探った結果と見られる。

Claude 3の技術的限界と「二重の赤線」

Anthropicが維持を明言する「二重の赤線」は、同社のAIモデルが持つ技術的特性と深く関連している。第一の赤線である「致死性自律兵器（LAWS）への不使用」は、現在のAI技術が物理世界での複雑な因果関係を完全に理解できないという限界を反映している。Claude 3 Opusモデルは、大学院レベルの専門知識を問うMMLUベンチマークで86.8%のスコアを記録し、人間を上回る知識量を持つが、これはあくまでテキストデータ上のパターン認識能力に過ぎない。現実の戦場で、民間人と戦闘員を100%の精度で識別し、倫理的な判断を下すことは不可能である。誤った判断が非戦闘員の命を奪うリスクを排除できない以上、兵器の最終的な発射判断をAIに委ねることはできない。第二の赤線である「人権侵害につながる大規模監視への利用禁止」も同様に、AIの「幻覚（ハルシネーション）」と呼ばれる、事実にない情報を生成する問題と関連する。例えば、監視カメラ映像の分析で、無関係の人物を犯罪者と誤認する可能性は常に存在する。Anthropicは、モデルの出力に不確実性が伴うことを認識しており、これが人々の自由や権利を侵害する用途での使用を厳しく禁じる論理的根拠となっている。したがって、国防総省との協力は、あくまで人間の分析官や指揮官を「支援」する後方業務に限定される可能性が高い。

競合OpenAI、Googleとの立ち位置の違い

AIの軍事利用に対する姿勢は、主要な開発企業の間で明確な差異が見られる。OpenAIは、最高経営責任者サム・アルトマンの主導の下、国家安全保障への貢献を積極的に打ち出している。同社は米国および同盟国の軍事・諜報機関と協力し、サイバーセキュリティーやテロ対策などの分野でソフトウェアを提供していることを認めている。これは、マイクロソフトという強力なパートナーを通じて、政府関連の大型契約を獲得しやすいという事業構造も影響している。一方、Googleは2018年に国防総省のドローン画像解析計画「Project Maven」への参加を巡り、従業員から大規模な抗議運動が起きた経緯から、軍事利用にはより慎重な姿勢を維持してきた。しかし、同社もまた国防総省とのクラウド契約を締結しており、AI技術が間接的に軍事目的で利用される可能性は否定できない。これらに対し、Anthropicは「非殺傷」という従来の枠組みを外しつつも、「致死性兵器」と「大規模監視」という具体的な禁止事項を明示することで、独自の立ち位置を明確にしようと試みている。これは、技術の倫理的利用を重視する研究者や投資家からの支持を維持しつつ、巨大な国防市場への参入機会を確保するための戦略的な位置取りと言える。各社の倫理規定の違いは、将来のAI兵器開発の方向性や、国際的な規制のあり方を巡る議論にも影響を与えるだろう。

日本企業が直面する選択

米国の巨大IT企業と国防総省の連携深化は、日本の安全保障および産業界にも重要な問いを投げかける。防衛省は、2023年12月に閣議決定された防衛力整備計画において、AIを含む先端技術の活用を明記している。情報収集・警戒監視・後方補給といった分野で、米国製のAI基盤モデルを導入する動きが加速する可能性がある。その際、どの企業のモデルを、どのような倫理規定の下で利用するかが問われることになる。Anthropicのように具体的な利用禁止条項を設けるモデルを選ぶか、より広範な利用を許容するOpenAIのモデルを選ぶかで、自衛隊のAI運用ドクトリンは大きく変わるだろう。また、産業界への影響も無視できない。AIモデルの学習や推論には、NVIDIA製のGPUに代表される高性能半導体が不可欠である。これらの半導体製造を支えるのが、東京エレクトロンの成膜・エッチング装置、ディスコの研削・切断装置、信越化学工業やSUMCOが供給するシリコンウエハーといった日本の素材・装置産業である。米国のAI戦略が軍事色を強める中で、自社の技術や製品が最終的にどのような用途で使われるのか、サプライチェーン全体での透明性確保と、輸出管理の厳格化が求められる局面が増える可能性がある。日本企業は、経済安全保障の観点から、技術の提供先や利用目的を精査し、意図せぬ軍事利用への加担を避けるための倫理指針や内部統制の構築という新たな課題に直面している。