みんなでプラス メニューへ移動 メインコンテンツへ移動

みんなでプラス

“AI兵器”が戦場に 歯止めはかけられるのか? 国連軍縮部門トップ・中満泉事務次長 単独インタビュー

劇的に進化を遂げているAI=人工知能。AIの登場で仕事はより効率的に、私たちの暮らしもより便利に変わろうとしている。しかし、AIの軍事利用が進み、私たちの想像を超えた兵器が登場するとしたら―。

近い将来、登場すると懸念されているのは、人の指示がなくても自律的に標的を定め、殺害まで実行する“究極のAI兵器”だ。火薬や核兵器の登場に次ぐ、「第3の軍事革命」となるほどの影響をもたらすとされ、国連を舞台に各国がどのような規制が望ましいか、意見を交わしている。

ところが、規制を急ぐべきだとする国と、AIの軍事利用を推し進めようとする軍事大国の間で隔たりは埋まっていない。この現状をどう見ているのか、国連の軍縮部門トップを務める中満泉事務次長がNHKのインタビューに応じた。
(「クローズアップ現代」取材班)

“究極のAI兵器” とは

AI兵器のイメージ

いま、世界各地の戦場でAIによって自律性を高めた兵器が次々と投入されている。私たちの生活を支える技術でもあるAIは、ChatGPTに代表されるように急速な発展を遂げており、軍事面でも活用が進む。こうした中、近い将来の登場が懸念されているのが、“究極のAI兵器”と呼ばれる「自律型致死兵器システム=Lethal Autonomous Weapons System」だ。英語の頭文字をとってLAWS(ローズ)と呼ばれる。

現段階ではLAWSに該当するものはないとされていて、国際的な定義も定まっていない。一般には、「いったん起動すれば人間の指図なしに標的を選択し攻撃を行う兵器システム」がそれに該当するとされている。LAWSが登場すれば、完全に自律して戦闘を行うロボット兵器が人を殺傷する未来が訪れることになり、戦場の風景は一変することになる。

すれ違う各国の思惑

国連のグテーレス事務総長は去年、加盟国に対して「LAWSを禁止する法的拘束力のある枠組みを、2026年までに採択する」ことを求めた。

国連 グテーレス事務総長

LAWSの国際的な規制や禁止の枠組みの策定に向けたメインの場となるのは、CCW=特定通常兵器使用禁止制限条約を締約している国の専門家会議だ。しかし、規制に向けた議論のスピードは鈍い。

ことし3月に行われた会議では、各国からそもそもの定義をどのようにするか、さまざまな意見が出た。一部の国から幅広い規制を求める慎重な声や、ただちにLAWSの開発を制限する枠組みを求める声が出る一方で、アメリカや中国、ロシアといった軍事大国は以下のように主張した。

アメリカ

「自律性は連続的で、完全な自律システムと部分的に自律するシステムをしゅん別することは困難だ」

中国

「わが国は技術を規制したくない。定義に関する議論は将来の技術の発展を考慮することが大切で、定義された瞬間にそれが時代遅れになるような事態は避けるべきだ」

ロシア

「定義は各国の安全保障上の懸念と人道的な配慮との間でバランスを取る必要がある。今後の技術開発の障害となるような性急な決定はすべきでない」

LAWSの定義を狭くするよう求めるこうした主張は、AIを活用した兵器の開発を推し進め、世界で少しでも軍事的な優位を確立しようという思惑も透ける。

国連軍縮部門のトップとして 現状をどう見る?

国連軍縮部門トップ 中満泉 事務次長
中満 泉なかみつ いずみ

1963年、東京都生まれ。2017年5月から日本人女性として初めて国連の軍縮部門トップの事務次長を務める。事務総長のもとで軍縮を統括し、世界の核軍縮などに深く関わっている。1989年にUNHCRに入って国連でのキャリアをスタート。難民支援やPKO=平和維持活動の政策立案に携わり国連開発計画(UNDP)危機対応局長などを歴任。一橋大学で教べんを取った経験も。

Q. AIの軍事利用が世界で進む現状をどのように見ているか?

中満 事務次長

刻一刻とこういった技術が戦争の中で実際に使用されているという現実が目の前に出てきているということで私たちは本当に危機感を持っています。


今の段階でAIを実際に使用したさまざまな兵器システム、どれだけ本当にリライアビリティ(信頼性)があるのか、予測可能な決定を実際に下すことができているのか、技術の進展度にもおそらく現時点では本当に考えなければいけない大きな問題点というのが潜んでいる。


国際社会の秩序というのは、国際人道法、戦争にまつわるさまざまなルールがあって、その戦争のルールではあらゆる武力行使の説明責任・アカウンタビリティーというのは、結局のところ人間が負わなければならないという、そういう法的な概念に基づいて現在の国際秩序というのは成立している。


すべての兵器システムの使用、それに関して人間がその説明責任を負うわけだが、その一部が機械、AIが成り代わって決定を下している場合にその説明責任のあり方というのが、どういう事になるのだろうかという、そういった法的な大きな疑問点も沸いてくる。


現時点での技術的な問題、倫理的な問題そして法的な問題、いろいろな観点から非常に私たちは危機感を持って憂慮している。

Q. AIを活用した兵器が将来、各地の戦争や各国の安全保障に与える影響は?

中満 事務次長

(いますでに)大きく変化しつつあり、将来的には、事によると本当に戦争のありよう、戦争の戦い方が大きく変わってしまうのではないかというふうに考えています。


具体的なところでは、AIを使ったディシジョンメイキング(意思決定)です。人間の司令官がさまざま決定していくような軍事活動と、AIが実際にここで武力を行使するという決定を下す、そういった状況がもし起こってきた場合にはおそらくAIの意志決定スピードというのは人間に比べてものすごく速くなってしまう。


エスカレーションをコントロールするとか、人間の司令官にはAIに負けずに早く決定しなければいけないという、ものすごいプレッシャーがかかってくる。


そういった意味で軍事行動における意思決定のプロセス、メカニズムというのに大きな影響があるだろうと。例えば、考えたくないシナリオですけれども、核兵器の指揮系統システムなどにAIが大々的に使用されるということになってしまった場合のエスカレーションの危険性というのは、これは本当に大きなものがある。


それ以外にも、例えばAIの軍事使用というのは必ずしもすべてネガティブというわけではなくてポジティブなところもある。ロジスティックの管理であったり、インテリジェンス情報、サテライトイメージの解析、分析、そういったことに基づいてその意思決定をサポートするような使い方というのは必ずしもネガティブではなくて、むしろポジティブになる可能性ももちろんある。


他方で、事によると将来的には例えば抑止力のあり方ということにも影響があるかもしれないと。実際に軍事活動が行われているような現場で、これまでは実際どのような兵力があるのか、どのような能力があるのかということで兵力のバランスというのは決まってきたわけですが、未来の戦争はですね、例えばどのようなデータセットを持っているのか、ソフトウェアを持っているのか、AIのキャパを持っているのか、そしてサイバーの影響、能力を持っているのかと、そういった新しい技術のあり方というのが、兵力のバランスということにも大きな影響を及ぼしていく。


いろんな意味でこれから戦争の戦い方ということに、非常に大きな影響を間違いなく及ぼしていくというのは確かなことだと思います。

議論が難航しているCCWの現状

LAWSの規制や禁止の枠組みを議論するCCW

Q. CCWでは定義をめぐって議論が難航しているが?

中満 事務次長

今の国際法のシステム、メカニズムが、LAWSのシステムをこれから実際に利用していくにあたって十分なのか十分ではないのか、どこにギャップがあるのか。そういったことがまだ数歩、議論を深めなければ共通の認識ができていない分野なのだろうと思います。


現状で私たちは完全に自律型、「fully autonomous」な兵器システムというのはAIを使ったものになるだろうと考えていますけれども、その定義のしかたは非常にテクニカルな議論になっていくので、1つまだハードルを越えなければいけないということだろうと思います。


一番重要なのは、ポリティカルウィル、政治的な意志です。恐らく大きな構図としては、軍事大国としてはできれば自分たちが先を行ってリサーチして、デザイン、そして開発も含めてLAWSの開発にアッパーハンド(優位)を持つ。そして自分たちの交渉における立ち位置をより優位なものにしていこうという意図があるのかもしれない。


まだいくつかの分野で定義、そして自律型兵器の性格そのものについて、そしてどのような形で新たな法的な規制が必要なのか、そうではないのか、議論を早急にさらに進めていく必要がある。

Q. 過去の軍縮条約では、利用を進めたい軍事大国抜きになったケースもあったが?

中満 事務次長

私が個人的に非常に心配しているのは、恐らく現在の国際的な状況の中で、地雷であったりクラスター弾であったり核禁条約のように、軍事大国や技術が進展している国を(交渉の場から)除いて、軍縮に友好的な国のグループだけで交渉して作っても恐らく実効性のある約束事というのはできてこない。


AIを使った兵器というのは非常に戦略的で、戦争のあり方そのものも大きく変えてしまう可能性がある兵器システムです。取り締まっていく枠組みをつくっていくためには、そういう技術をすでに開発しつつある国が交渉の中に入っていないと、あまり意味のある条約にはならないだろうと思っています。ということは、すべての国がインクルーシブな形で交渉に参加する、そういったプロセスが必要になっていくということです。


さらに2点目として、NPTという条約では1967年の時点で核兵器を持っていた国は核兵器保有国というふうに認められている、そういうタイプの「持てるもの」・「持たざるもの」の間で線を引いたような条約の交渉というのはありえない、ということをすでに言っている国がたくさんあるわけです。ということは、AIを使った完全な自律型の兵器のようなものが実際に開発されて配備されていくようなことになる以前にこの条約をつくっていかなければいけない、議論しなければいけない。

AIの軍事利用がもたらすリスクとは

Q. AIはどの国も活用できる技術だが、軍事利用が拡散する懸念をどう捉えているか?

中満 事務次長

これは誰にとってもプラスにならないと、全ての国家、全ての人々に対して非常に悪影響を及ぼす、事によるとエクシステンシャル、生存の危機をもたらすような可能性すら秘めている、みんなにとってよくないことなんだという共通の問題意識を早急につくっていくことが必要だと思います。


民生用のAIを例えばテロ組織であったり犯罪組織であったりといういわゆるノンステートアクター、非国家主体が使ってそれを兵器化していくような可能性というのもあり得るわけですね。核兵器のように大規模な設備が必要というわけではありませんので、そういうことも考えると、不拡散という観点からも本当に早急にこれを規制する枠組みをつくっていかないと、全ての国家、全ての人々に対して、非常に大きな悪影響があるだろうという共通の問題意識というのをまず構築していく。


AIというのは、AIそのものが兵器というわけではなくていろいろなところに使われていく電気と同じようなテクノロジーです。さまざまなことを可能にしていくような技術ですので、それをいかに使うのか、いかに使わないべきなのかというその線引きをやはりきちっと早急に決めていかなければいけない。

国連が掲げる2026年までの規制 実現は

Q. 国連が掲げる2026年までの規制という目標の実現は困難だという指摘もあるが?

中満 事務次長

もちろん難しいと思いますね。ただ、国連というのは難しい状況であっても言わなければいけないことはきちっと言っていくというのが役割の1つですので、ある意味2026年という目に見える形でタイムフレームをつけて、早急に必要なことなんだということを理解してもらうためにもタイムフレームを出したということです。


まだまだ深めなければいけない議論というのもありますし、今現在の地政学的なさまざまな大国間の競争関係というのもありますので現実的には非常に難しい状況というのはあるということは私たちももちろん把握しています。


今のように本当に緊張関係が高まっている国際環境の中でこういった議論を進めていくというのはものすごく困難な事がたくさんある上に、スピードの遅い進展で私たち自身も非常にフラストレーションを持ったり、心配したりとそういったことと闘いながら毎日仕事しているわけです。


けれども、やはり国連というのは諦めないと、諦めずに声を上げ続ける。それによってモメンタム(機運)をつくっていく。政府、いろいろな政府の背中を押していく、彼らの危機感を高めることによって政治的な意志ですね、ポリティカルウィルをなるべくつくっていくような、そういった状況を作り出すのも私たちの仕事ですので諦めずに努力を続けていきたい。

日本が果たすべき役割は

Q. 日本に期待すること、そして日本人に伝えたいこととは?

中満 事務次長

日本は高い技術力を持っている国ですので、そういった知見を生かすような形で積極的に参加してほしいということと、もう1つはより強い強力な規制が必要であるというメッセージを、多くの軍事大国に対しても発信していただきたいというふうに思っています。


本当に人類共通の利益を守るという大きな視点に立つことが、一番今求められていると考えています。遠い未来の話ではなくてすぐにでも起こりうる状況にあると思います。


AIそのものがさまざまな軍事領域ですでに使われている、これは全てが悪用ということではなくてポジティブな利用方法というものももちろんあるわけですけれども、既にAIがさまざまな機能を果たし始めつつあるのが現在だという、未来の話ではなくて現在の話だというふうに理解する事が私は必要じゃないかなというふうに思っています。

みんなのコメント(7件)

感想
ワンパ
70歳以上 男性
2024年5月8日
人類滅亡の危機が加速化されたと危惧している。AI兵器開発は一層早まり、ロシアや中国は勿論、テロ集団、その支援国家は民主的国家に先立って、AI兵器を使ってくると考えられる。使用の説明責任は、詭弁、自己利益、支配欲に満ちた、全く受け入れられないものになろう。人類の叡知が試される。
全人類共通の危機と認識して、国連本来の役割を発揮できるように安全保障の改革と違反国家への抑止力、パニッシュメントが出来るようにすべき。紛争国ではなく、人類全体の問題として、紛争そのものを抑止していく必要があるのではないか。
感想
のんちゃん
60代 男性
2024年5月8日
とても考えさせられる良い番組でした。AIの兵器としての開発は「効率的な攻撃」がテーマになっています。インタビューの中ではAIがあったから民間人の犠牲者が最低限に抑えられた的なコメントがあったが、当然のことながら戦争をどうしたいかについては何も触れられていない。AIが未来に夢をもたらす有益なものであるならば、今の戦争の状況を徹底的に学習させ、この状況を平和的に解決する方法を導き出すことに注力すべきではないか?私はそう思う。
感想
onkenkiriku
60代 男性
2024年5月8日
正にターミネーターの世界が直ぐそこまで迫って来ているんですね。
決して他人事ではなくて、自分にもちょっと先に影響する可能性があると考えさせられます。
正直、怖いです!未来に恐怖、、、。
提言
エコ
60代 女性
2024年5月8日
AIですが使い方で善にも悪にもなります
その上で高千穂遥先生の小説でクラッシャージョウのアニメにアッシュと言うモノがあります。それはAIが敵と判断した人を攻撃しそれを阻止するには核しかないと言う
感想
くまーる
40代 男性
2024年5月8日
中満 泉さんの経歴や発言の詳細が知りたいと思ったところ、番組のQRコードから簡単に辿り着けました。中満さんの意図も分かった、とても便利
感想
ヒロ
50代 男性
2024年5月8日
歯止めは掛けられない。技術的に優位にある国や先を進む軍事大国が規制や歯止めを受け入れるはずが無い。
もしそれが出来るなら核兵器の拡散や縮小も出来ていたはずだ。
提言
drWon
50代 男性
2024年5月8日
AIに攻撃対象として正しいか判断させるのが問題なのではない。この問題を機に、そもそも他者を攻撃して"殺す"または服従させようとすること自体が間違いであることに気付くべきなのだと思う。

担当 「クローズアップ現代」取材班の
これも読んでほしい!