クローズアップ現代トップ > みんなでプラス > “フェイクニュース”に立ち向かう > 番組ダイジェスト② ディープフェイク動画の脅威
2019年12月19日

番組ダイジェスト② ディープフェイク動画の脅威

★あわせてこちらも★
番組ダイジェスト① 誰もが被害者・加害者に…
出演者:
MC中田敦彦さん(オリエンタルラジオ・YouTuber) 葉山潤奈さん(芸能事務所社長・YouTuber) 山本健人さん(外科医) 神田知宏さん(弁護士) 小木曽健さん(ITリテラシー専門家) 平和博さん(桜美林大学教授)
最新AIで「顔」だけが… ディープフェイク動画
つづいては、最新のAI技術によって生み出されたフェイク動画について。 顔の部分だけを別の動画に合成した「ディープフェイク動画」と呼ばれているものが、いま世界中で次々に作られている。

中田:面白いけど、ものすごい精巧作られたら被害は相当大きいですね。こんなことできると思ってないですもん。

平:今から2年ぐらい前に、アメリカの大手のネット掲示板から出てきたものなんです。そのとき“ディープフェイクス”というハンドル名を使った人が、AIを使ってハリウッドの女優さんの顔をポルノ動画に合成しちゃった。

中田:写真ではなく動画でそれを…?
ディープフェイク動画 「ポルノ被害」が急増中


オーストラリアに住むこの女性。以前から自分の顔を使った「偽のポルノ写真」が拡散される被害に悩まされてきた。サイト運営会社に削除申請をするなど対策に追われてきたが、去年、写真に加え動画も拡散されているのに気づいた。

ノエルさん
「ショックでした。何が起きているのか全く分かりませんでした。吐き気がしました。とにかく怖かったんです」



ディープフェイクによる「ポルノ動画」だった。ノエルさんがSNSにあげていた動画を、誰かが別のポルノ動画と合成したものとみられる。すでに3万回近く再生されている。

ノエルさん
「将来パートナーができたら、まず被害について話すことになるでしょう。悲しいことに私の裸のフェイク動画が世界中に流れてしまっているのですから」

オランダのサイバーセキュリティ会社の最新調査によると、これまでネット上で確認された「ディープフェイク動画」のうち、実に96%がこうした「ポルノ動画」だという。ディープフェイクの脅威に、我々は、どう向き合えばいいのか。



中田:一般の人をディープフェイク動画にして、デマとして拡散してしまう。そういうことも日本でも起こり得る?

小木曽:起こり得ると思います。このスピード感でいうと。

潤奈:非常にやばい時代ですよね。非常にやばい。

中田:どうしたらいいんだろう。ディープフェイク動画をそもそも作られないためには何かできないんですか。

平:これは難しいですよね。一切、自分の画像(動画)をネットに上げない。

中田:私ユーチューブを毎日投稿している。何百本出していると思うんですか!手遅れじゃないですか
ディープフェイク動画 AIで被害は防げるか
AI技術が生んだ、ディープフェイク動画。その対策の鍵を握るのもAIだ。去年、ネット上で公開されたオバマ前大統領のディープフェイク動画。実際には行っていない、トランプ大統領を「ののしる」演説をしている。一見しただけでは分からないが、瞬きの回数が少ないなど、本物と比較すると不自然な箇所があるという。
ロサンゼルスにあるシステム開発会社では、人の目では見抜けない、こうしたわずかな違いをAIに判別させようとしている。本物の映像を解析し、顔の動きなどの特徴を学習させている。研究の中心となっているのは日本人エンジニアだ。

日本人エンジニア
「例えば口がどれくらい開いているか、瞬きをどれくらいの頻度でするかなど、全部で20個くらいの特徴が相互にどういう相関があるかを解析すると、本物か偽物かを見分けることができる」

まだ開発段階だが、政府機関などからも複数の問い合わせがあるという。
フェイク動画 政治利用の危険も
平:例えばフェイスブック、グーグル、ツイッター、マイクロソフトなどのIT企業が、フェイク動画を拡散する前に検知して、排除しようというような取り組みも出始めています。その背景には、この技術が政治的に使われる可能性もあるというのが一つ。政治的に対立している相手が、発言していないようなことを発言させる。実際にインドでは、政権に批判的な女性ジャーナリストの顔をポルノ動画に貼り付けて、ネットで拡散させるということも起きているんですね。

中田:恐ろしい社会ですね。政権側の動きでそうさせられているってことですか?

平:恐らく政権の支持者が、そういうことをしてるんじゃないかと思いますけれども。

けいゆう:技術の進歩で確実に本物に近づいてくる。それを止めることはできないですが拡散するのは人間なので。だからまずは「そういう技術が存在する」ことを知ることが大事ですよね。医療も全く一緒なんですけど、見る側のリテラシーが高まっていくことで拡散は食い止められるのかな。僕ら今までこういう技術があることを全く知らなかったので、全く無防備というか100パーセント信じちゃう。

中田:「こういうものがあるんだよ」という理解があると、ディープフェイク動画かもしれないという目線を、みんなが持てるわけですね。

デジタル時代のバスターズノート。



★番組の続きはこちらから
番組ダイジェスト③ ネットの医療情報 どう見分ける?