“AI兵器”が戦場に 第3の軍事革命・その先に何が
AIの軍事利用が急速に進み、これまでの概念を覆す兵器が次々登場しています。実戦への導入も始まり、ロシアを相手に劣勢のウクライナは戦局打開のために国を挙げてAI兵器の開発を進めます。イスラエルのガザ地区への攻撃でもAIシステムが利用され、民間人の犠牲者増加につながっている可能性も。人間が関与せず攻撃まで遂行する“究極のAI兵器”の誕生も現実味を帯びています。戦場でいま何が?開発に歯止めはかけられるのか?
出演者
- 佐藤 丙午さん （拓殖大学 教授）
- 桑子 真帆 （キャスター）
※放送から1週間はNHKプラスで「見逃し配信」がご覧になれます。
“AI兵器”が戦場に
桑子 真帆キャスター：
こちらは、4月に公表されたアメリカでの実験の映像です。AIが操縦する戦闘機が、実際に空中戦を行っています。高い技量を必要とする戦闘機のパイロットと同等の能力をAIが担うようになったと、世界に衝撃が走りました。
AI兵器は、今や戦争の形を大きく変えてきた火薬、そして、核兵器に次ぐ第3の軍事革命を引き起こすとも言われています。人類を滅ぼしかねないほどの懸念があるとの声も挙がっているAI兵器。今、2つの戦場で、AIの軍事利用が急速に拡大しようとしています。
知られざる実態
4月、アメリカで開催された軍事産業の見本市。
各国の軍関係者が関心を寄せていたのは、最先端のAI技術です。
「これまでの高価な戦闘機と変わらない力を発揮しますよ」
AIの軍事利用に目をつけた新興企業も加わり、飛躍的な発展を見せています。
パイロットの代わりにAIが操縦し、無人で飛行する戦闘機。最新鋭のF35戦闘機と編隊を組み、作戦に当たることが想定されています。ベテランパイロットを上回る技術を、AIはシミュレーション上で、わずか3か月で習得したといいます。
「人間が高度な指示を出せば、機械がそれを実行します。その過程で、人間は一切関与する必要はありません」
各国が導入を急ぐAI兵器。すでに実戦でも使われ始めています。
大国ロシアを相手に、劣勢を強いられるウクライナ。戦局打開のために、国を挙げて開発を進めているのがAI兵器だといいます。
「ロシアの軍事力は巨大です。人員や戦車などの装備もかないません。AIは、防衛分野におけるゲームチェンジャーになるでしょう」
AIの導入を急ぐ背景には、作戦の柱としてきた無人機攻撃の行きづまりがありました。
遠隔で操作する従来の無人機は、電波妨害を受けると操作不能になってしまうことが増えていたのです。
そこで、電波妨害を突破するために、実戦に配備したというのがAI搭載の無人機です。電波妨害で通信が途絶えても、AIが画像などを認識して飛行ルートを判断。目標に到達できるといいます。
「この爆撃にはAIが使われていると軍関係者は語りました」
3月、ウクライナの無人機はロシア領内に奥深く侵入。石油施設を攻撃しました。
「見てください。2機目の爆撃も、正確に同じ塔に命中しています」
AI技術によって、精度の高い攻撃が可能になったと見られています。
ところが。
ウクライナ ドローン部隊 マジャル司令官
「きょう私はロシアの無人機を手に入れました。ロシアも私たちと同じように、AIの開発を進めているのです」
マジャル司令官のYouTube
互いに開発競争を加速させるウクライナとロシア。AIの軍事利用は、もはや後戻りできない状態にまで突き進んでいるといいます。
「技術革新は私たちが生き残る手段です。ロシアは躊躇(ちゅうちょ)することなく、より致命的な兵器の開発に取り組んでいるのです。いつ、この開発競争が終わるか分かりません。総力戦に向かうことが、人類にとって正しい道だとも思っていません。それでも開発を続けねばなりません。さもなくば、彼らが優位に立ってしまうからです」
ハマス壊滅を掲げ、イスラエル軍が激しい攻撃を続けるガザ。
3万4千人を超える犠牲者を出してきた作戦の背後に、AIが関わっている実態も分かってきました。
イスラエル軍が導入するAIシステムを開発した企業が、NHKの取材に応じました。
イスラエル軍の参謀本部で作戦計画の責任者も務めた、社長のロイ・リフティン氏です。
「私たちは、いまの戦争にもAI技術を提供しています」
この会社が提供しているのは、複数の無人機の情報をもとに目標を自動的に識別し、追尾できるシステムです。
「システムは、これらすべての車両を認識します」
AIが、数千台に上る車両すべてにIDをつけ、追跡。いつでも目標の車両を割り出せるといいます。
「戦場は、多くのセンサー・カメラ・レーダーなどの情報でカバーされていますが、その情報を肉眼や人間の脳で処理するのは限界があります。しかし、機械は違います。長時間、高速で処理ができ、さらに学習して、より高度になるのです」
リフティン氏は、AIを使うことで人間が正しい判断をできると強調しました。
「不必要な負傷者を双方で防ぐことができるという点は、強調すべき大事な視点です」
「ガザでは、AIシステムにより、3万人超の死者が出ているとの指摘もありますが」
「もし、AIがなかったら？状況はもっと悪く、負傷者も多くなっていたでしょう」
イスラエル軍も、ガザへの攻撃にAIシステムを導入していると公表。
AIシステムの活用により、「ハマスに関連する拠点を正確に見つけ出し、攻撃することができている」と、その正当性を掲げています。
しかし、軍の主張と裏腹に、「AIシステムの導入が民間人の犠牲拡大につながっているのでは」と懸念の声があがっています。
複数の軍関係者の内部告発をもとに、その実態を調査した、イスラエル人ジャーナリストのメロン・ラポポルトさんです。
「これは、イスラエル軍が戦闘員とみられるパレスチナ人を探し、標的にする過程です」
軍の関係者が証言したのは、標的を見つけ、攻撃するために、"ラベンダー"と呼ばれるAIを使ったデータベースが使われている実態でした。そこには、ガザの住民およそ230万人のさまざまな情報がデータ化されていたといいます。戦闘員と疑われる度合いが高い人物およそ3万7千人を、攻撃対象として抽出したというのです。
「このシステムは、戦闘に参加していない人や（ハマスの）軍事部門に属していない人さえも、その特徴から殺害リストに載せてしまうのです」
イスラエル軍のガザでの作戦に参加したという将校が、NHKの取材に、その内実を証言しました。
「ターゲットを自動生成できるAIシステムがあります。例えば、携帯電話の記録は、誰と連絡を取っているのかを知る良い情報とみなされます。さらに、その人物がどこに誰といるか、不審な動きをしていないかなどを知る必要があります。本来は時間がかかりますが、このAIシステムは、その人物がハマスかどうか特定する時間を短縮してくれるのです」
ただ、"ラベンダー"は攻撃対象の候補を抽出するものの、実際に攻撃するかの判断は兵士が行っていると強調しました。
「最終的には私たちがAIの推奨を考慮するか決めるので、システムが攻撃目標を決定するわけではありません。私たち兵士が決定する過程で、AIはごく一部を担っているだけです」
しかし、ラポポルトさんたちの調査からは、兵士の判断が形ばかりになっている実態が浮かび上がりました。
「多くの告発者は、ゴム印を押すように右から左へ承認したと証言しました。判断の時間は、わずか20秒。標的の性別を確認するくらいだったと。誰に罪があり、罪がないと、AIが決めるのは問題があると思います」
戦場で大規模にAIが使われることに警鐘を鳴らしてきた専門家がいます。アメリカ国防総省でAIの軍事利用に関する政策に携わってきた、ポール・シャーレ氏です。
「AIシステムは、より多くの任務を果たすことができます。その性能は時間とともに向上しています。機械は民間の犠牲を考慮せず、単に計算をして攻撃を許可・実行してしまいます。結果、人々により多くの殺戮(さつりく)や苦しみをもたらしかねません。人間が命の重さを考えることができなくなれば、向かうのは暗黒の未来です」
“AI兵器”どこまで 実態は？懸念は？
＜スタジオトーク＞
桑子 真帆キャスター：
ここからは、世界のAI兵器開発や規制の議論に詳しい佐藤丙午さんとお伝えします。よろしくお願いいたします。
今、見てきたAI兵器が、実際に戦場でどう使われているのか、こちらで整理していきたいと思います。
現在は、標的の選定、そして、探知・追跡まではAIが行っています。その先です。攻撃対象かどうかを認定して、そのあと、最終的に攻撃を実行するのは人間ということで、ここに線引きがされています。ただ、今、見たように、このAIシステムには、選定のもととなる根拠ですとか、正確性に危うさがあるというところも見えてきました。佐藤さんは、具体的にどういうところを懸念点として考えていらっしゃいますか。
佐藤 丙午さん （拓殖大学 教授）
世界のAI兵器開発や規制の議論に詳しい
佐藤さん：
特に、このAIシステムが標的の選定を行うときに、もともと彼らが覚えている情報が正確なのかどうなのか。そもそも。また、彼らが認識する情報というのが、果たして正確なのかどうなのかというのが、不十分な点があるというふうに言われます。
例えば、私自身も経験があるんですけれども、AIシステムに、小銃を向けるときに、モデルガンを向ける場合と、こういう形でノートを向ける場合と、兵士であるというふうな認識の割合というのは、それほど大きく変わりませんでした。
桑子：
具体的に何％？
佐藤さん：
例えば、モデルガンであれば90%ぐらいは兵士として認識するんですけれども、ノートの場合は、それでも70～80%ぐらいは認識するであるとか。モデルガンであるか、実際の銃であるかを含めて考えたときに、彼らが外形的に判断する情報というのが、果たして正しいのかどうなのか、それが正確にできているかどうなのかというところには、やはりいまだ大きな問題があるというふうに考えております。
桑子：
さらに、どういうふうにその判断に至ったのかというプロセスもなかなか見えてこないですよね。
佐藤さん：
そうですね。そのプロセスについては、彼らの中にあるプログラムであるとかアルゴリズムも含めて、すべてが中でブラックボックス化されているという言い方をよくしますけれども、その開発のプロセスについても分からない部分が非常に多いので、いわゆる追跡可能性であるとか、透明性に大きな問題があるんではないかというふうに言われております。
桑子：
こうした中でも、各国はAIの軍事利用をさらに加速させていく姿勢を打ち出しています。
具体的には、アメリカは2023年、国防総省が、2024年には数千機の自律型システムを配備すると発言しています。また、ロシアは、プーチン大統領が“AIを制する国が世界を支配する”として開発を促進。また、中国も国を挙げて、AIなど、新領域で軍の能力を強化させることを指示しました。
“AIがゲームチェンジャーに
重点的投資 実装早期実現が必要”
（防衛省・2023年）
こうした中で日本はといいますと、2023年、防衛省が、AIはゲームチェンジャーになり得るものだとし、防衛装備として重点的な投資や実装の早期実現が必要だとしています。積極的な方針だというふうに見えるんですけど、ここに懸念点はないのか。実際に、どういうことが想定されているんでしょう。
佐藤さん：
例えば、ここで出ているアメリカであるとか、ロシア、中国なども含めて、どういう形でAIを軍事利用するかということに関する倫理規定をきちっと規定した上で、技術開発の在り方というのを考えています。ただ、日本の取り組みにおいては、そういう一番最初の部分の議論というのが足りていないような気がしますので、そこを深めていくことを期待しております。
桑子：
今は、AI兵器は、AIが示した標的を人間が実際に攻撃、実行するということになっていますが、今、世界で懸念が高まっているのが、攻撃までの一連のプロセスを、すべてAIが担う兵器の登場なんです。
これは「自律型致死兵器システム=LAWS(ローズ)」と呼ばれる兵器で、倫理的な問題があるとして、規制を求める声が高まっています。
“究極のAI兵器” 「LAWS」めぐる議論
3月、125の国と地域などから政府担当者や専門家が集まる国連の会議が開かれました。すでに開発を進めてきた国とそうでない国との間で、規制を巡る議論は紛糾しました。
「本質に踏み込んで規制に取り組むべきだ」
一方、軍事大国はいずれも、LAWSの定義が決まっていないことなどを理由に、規制に慎重な姿勢を崩しませんでした。
「完全自律か、部分的自律か、明確に区別することは非常に困難だ」
「わが国が規制したいのは兵器システムであり、技術ではない」
ウクライナ侵攻を続けるロシアも。
「LAWSは、わが国にとって完全に自律したものだ。ここで将来の開発に影響をもたらす性急な決定をすべきではない」
AIがすでに戦場で使われている実態をよそに、遅々として進まない議論。規制作りを主導する国連軍縮部門のトップ、中満泉事務次長は危機感を募らせています。
「すべての兵器システムの使用、それに関して人間がその説明責任を負うわけですけれども、その一部が機械、AIに成り代わって決定を下している場合に、その説明責任のあり方というのがどういう事になるんだろうか。倫理的な問題、そして、法的な問題、いろいろな観点から、非常に私たちは危機感を持って憂慮しているところです」
中満さんは、取り返しのつかない事態に直面する前に、今、国際社会は歯止めをかけなければならないと訴えています。
「すべての国家、すべての人々に対して、非常に悪影響を及ぼす、生存の危機をもたらす可能性すら秘めている、みんなにとってよくないことなんだという、そういったですね、共通の問題意識というのを早急に作っていくことが必要だと思います」
各国は？規制は？
＜スタジオトーク＞
桑子 真帆キャスター：
佐藤さんは、今、VTRで見た国際会議に参加されていたということですけれども、この究極の兵器の規制ですら、なかなか難しいと、実現していないということで、なぜ議論がなかなか進まないんでしょうか。
佐藤さん：
このLAWSというものが、確かにさまざまなところでAIを活用した兵器ではあるんですけれども、それが、まだ現実に完成した形としては世の中に存在していないということから、この定義を早急に決めて規制する内容を国際的に合意していくことについて、各国に大きな抵抗感があるんだと思います。それは技術開発を阻害したりであるとか、兵器開発を阻害したりであるとか、各国のさまざまな思惑が存在します。このCCW、先ほど出てきた国連の会議ですけれども、これについては、2019年に11の原則という形で国際人道法を守るべきだということ、また、人間の関与が兵器の利用においては常に判断がなければいけないということを含めて、ロシアもアメリカも、それについては合意しています。その先の具体的な話になっていったときに、各国の利害が大きく分かれていくので、合意がなかなか難しくなっているということなんだと思います。
桑子：
ただ、こうした中で、この間もAIの軍事利用というのは戦場でどんどん進んでいるわけですよね。これ、歯止めはかけられないものなんでしょうか。
佐藤さん：
歯止めについては、グテーレス事務総長が、2026年までに新平和のための課題ということで、これについての規制を求めています。先ほど出てきた国連の会議においても、2026年までに、どういう規制が好ましいかと、望ましいかと、可能なのかということについての結論を出すように求められています。確かに、今、現在においては規制がないように見えますけれども、国際社会はいろんな危機感を共有しながら、規制を実現する方向に向かっているのは事実だと思いますので。
桑子：
ただ、なかなか難航はしていますよね。
佐藤さん：
難航はしています。
桑子：
無秩序な状態が続いてしまうと、どういうことが懸念されるでしょう。
佐藤さん：
その技術が拡散することによって、そういう人道法や倫理を守ろうとしないテロリストが出現したりであるとか、国家の生死に関わるような部分においては、それをあえて使ってしまうことをいとわないような自暴自棄になった国であるとか、また、それを使うことによって、隣国との間で相対的な優位を得ることができるであるとか、さまざまな利害がそこにありますので、すべての国が国際人道法を共有しているわけではないというのが大きな問題ですので、そういう危機感を国際社会の中で共有していくことが、絶望的な状況になることを防止することにつながるんだと思います。
桑子：
そうした、日本も決してひと事ではない中で、私たちはどういうふうにこの問題に向き合っていったらいいでしょう。
佐藤さん：
AI開発も兵器開発も、それほど停滞することは恐らくないんだと思います。今後も進展していくんだと思いますけれども、それ自体が悪いわけではありません。しかしながら、そこにさまざまな問題が生じますので、その問題はどういうものであり、それに対してどういう対応をするかということについて、常に情報をアップデートしながら、適切な規制の在り方を考え続けていくということが必要なんだと思っております。
桑子：
私たちも、決して無関心でいてはいけないわけですね。
佐藤さん：
そのとおりだと思います。
桑子：
ありがとうございます。このAIという便利な技術も、使う人間の倫理観次第では多くの犠牲を生むという危険性があります。私たちは、ここに無関心でいてはいけないですし、その負の側面をしっかり注視していきたいと思います。