【生成AI事件簿】分析と文書作成でAIを二重利用、信頼された書式が誤情報に権威を与える危険な構図
小林 啓倫
経営コンサルタント
著者フォロー
フォロー中
2026.9.20（日）
国防総省のヘグセス長官は文官・軍人のAI活用を加速させている（写真：ロイター/アフロ）
今年春、イランとの戦争のさなかに、米軍が中東海域で中国船を臨検する寸前まで進んでいた──。そんな衝撃的なニュースを米CNNが報じている。武装した米軍の隊員が中国船への乗り込みを準備し、軍用機もすでに飛び立っていたという。
ところが、作戦の根拠となった報告書は誤りだった。しかもその誤りを生んだのは、敵の工作でも、人間の思い込みでもない。分析官が使ったAIチャットボットである。関係者の1人はCNNに対し、報告書は「完全な誤り」だったが、同時に「戦争を始めかけた」と語っている。
なぜ1本の報告書がここまで軍を動かしてしまったのか。その経緯を追うと、軍隊に限らず、AIを業務に組み込むあらゆる組織に共通する弱点が見えてくる。
ギャラリーページへ
軍用機が飛び立った後に見つかった誤り
CNNが事情を知る4人の関係者の話として伝えたところでは、発端は特殊作戦軍の分析官だった。この分析官は、ハワイに拠点を置く米太平洋特殊作戦軍（インド太平洋地域の特殊部隊を統括する司令部）から上がってきた、ある中国船の積み荷目録に関する情報をチャットボットに問い合わせた。AIは公開情報と、政府が保有する機密の通信傍受情報を突き合わせ、この船が核兵器開発計画の「部品」を運んでいると結論づけた。
分析官は続いて、この結論を標準的な報告書の書式にまとめる作業にもAIを使い、配布した。CNNはこの書式について、「軍の当局者が信頼を置く種類のもの」だと説明している。報告書は軍内部に回覧され、船を阻止する計画が動き出した。作戦開始の直前になって、当局者が報告書を掘り下げて調べ、AIの助けを借りて作成されたものであること、そしてチャットボットが積み荷を誤認していたことに気づいた。
中国船に対する作戦が実行されていれば、米中の武力衝突に発展しかねなかったとCNNは指摘する。実際の積み荷が何だったのか、使われたチャットボットが市販品なのか政府製なのかは、CNNも確認できていない。太平洋特殊作戦軍と国防総省はコメントの求めに応じなかった。
押さえておきたいのは、報告書の内容が当時の状況下では「いかにもありそうな話」だったという点だ。米国はイランと交戦中で、核開発に関連する物資の流入は最も警戒すべき事態のひとつだった。ある情報が組織内で受け入れられるかどうかは、その正確性には依拠しない。組織がもともと抱いている懸念にぴたりとはまるときに、最も速く広がるのである。