クローズアップ現代+

毎週月曜から木曜 総合 午後10:00

Menu
みんなでプラス > “フェイクニュース”に立ち向かう > 番組ダイジェスト② ディープフェイク動画の脅威
コメント
0
2019年12月19日
番組ダイジェスト② ディープフェイク動画の脅威
★あわせてこちらも★
番組ダイジェスト① 誰もが被害者・加害者に…
出演者:
MC中田敦彦さん(オリエンタルラジオ・YouTuber) 葉山潤奈さん(芸能事務所社長・YouTuber) 山本健人さん(外科医) 神田知宏さん(弁護士) 小木曽健さん(ITリテラシー専門家) 平和博さん(桜美林大学教授)
最新AIで「顔」だけが… ディープフェイク動画
つづいては、最新のAI技術によって生み出されたフェイク動画について。 顔の部分だけを別の動画に合成した「ディープフェイク動画」と呼ばれているものが、いま世界中で次々に作られている。

中田:面白いけど、ものすごい精巧作られたら被害は相当大きいですね。こんなことできると思ってないですもん。

平:今から2年ぐらい前に、アメリカの大手のネット掲示板から出てきたものなんです。そのとき“ディープフェイクス”というハンドル名を使った人が、AIを使ってハリウッドの女優さんの顔をポルノ動画に合成しちゃった。

中田:写真ではなく動画でそれを…?
ディープフェイク動画 「ポルノ被害」が急増中


オーストラリアに住むこの女性。以前から自分の顔を使った「偽のポルノ写真」が拡散される被害に悩まされてきた。サイト運営会社に削除申請をするなど対策に追われてきたが、去年、写真に加え動画も拡散されているのに気づいた。

ノエルさん
「ショックでした。何が起きているのか全く分かりませんでした。吐き気がしました。とにかく怖かったんです」



ディープフェイクによる「ポルノ動画」だった。ノエルさんがSNSにあげていた動画を、誰かが別のポルノ動画と合成したものとみられる。すでに3万回近く再生されている。

ノエルさん
「将来パートナーができたら、まず被害について話すことになるでしょう。悲しいことに私の裸のフェイク動画が世界中に流れてしまっているのですから」

オランダのサイバーセキュリティ会社の最新調査によると、これまでネット上で確認された「ディープフェイク動画」のうち、実に96%がこうした「ポルノ動画」だという。ディープフェイクの脅威に、我々は、どう向き合えばいいのか。



中田:一般の人をディープフェイク動画にして、デマとして拡散してしまう。そういうことも日本でも起こり得る?

小木曽:起こり得ると思います。このスピード感でいうと。

潤奈:非常にやばい時代ですよね。非常にやばい。

中田:どうしたらいいんだろう。ディープフェイク動画をそもそも作られないためには何かできないんですか。

平:これは難しいですよね。一切、自分の画像(動画)をネットに上げない。

中田:私ユーチューブを毎日投稿している。何百本出していると思うんですか!手遅れじゃないですか
ディープフェイク動画 AIで被害は防げるか
AI技術が生んだ、ディープフェイク動画。その対策の鍵を握るのもAIだ。去年、ネット上で公開されたオバマ前大統領のディープフェイク動画。実際には行っていない、トランプ大統領を「ののしる」演説をしている。一見しただけでは分からないが、瞬きの回数が少ないなど、本物と比較すると不自然な箇所があるという。
ロサンゼルスにあるシステム開発会社では、人の目では見抜けない、こうしたわずかな違いをAIに判別させようとしている。本物の映像を解析し、顔の動きなどの特徴を学習させている。研究の中心となっているのは日本人エンジニアだ。

日本人エンジニア
「例えば口がどれくらい開いているか、瞬きをどれくらいの頻度でするかなど、全部で20個くらいの特徴が相互にどういう相関があるかを解析すると、本物か偽物かを見分けることができる」

まだ開発段階だが、政府機関などからも複数の問い合わせがあるという。
フェイク動画 政治利用の危険も
平:例えばフェイスブック、グーグル、ツイッター、マイクロソフトなどのIT企業が、フェイク動画を拡散する前に検知して、排除しようというような取り組みも出始めています。その背景には、この技術が政治的に使われる可能性もあるというのが一つ。政治的に対立している相手が、発言していないようなことを発言させる。実際にインドでは、政権に批判的な女性ジャーナリストの顔をポルノ動画に貼り付けて、ネットで拡散させるということも起きているんですね。

中田:恐ろしい社会ですね。政権側の動きでそうさせられているってことですか?

平:恐らく政権の支持者が、そういうことをしてるんじゃないかと思いますけれども。

けいゆう:技術の進歩で確実に本物に近づいてくる。それを止めることはできないですが拡散するのは人間なので。だからまずは「そういう技術が存在する」ことを知ることが大事ですよね。医療も全く一緒なんですけど、見る側のリテラシーが高まっていくことで拡散は食い止められるのかな。僕ら今までこういう技術があることを全く知らなかったので、全く無防備というか100パーセント信じちゃう。

中田:「こういうものがあるんだよ」という理解があると、ディープフェイク動画かもしれないという目線を、みんなが持てるわけですね。

デジタル時代のバスターズノート。



★番組の続きはこちらから
番組ダイジェスト③ ネットの医療情報 どう見分ける?
#SNS#ディープフェイク#フェイクバスターズ
写真 写真

ほっとかない社会 ~地域でつながるプロジェクト~

25

0

0

0

1

4


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

6

このテーマのトピック

2

お年寄りの孤独死や、女性や子どもの自殺者数の増加・・・。いま私たちが暮らす社会…
写真 写真

コロナが私から奪ったもの 格差や貧困が広がる社会で

137

12

12

15

104

180


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

132

このテーマのトピック

7

仕事を失った。お金がない。生活が苦しい。生きる希望すらない―。 新型コロナウ…
写真 写真

持続可能な社会へ “地球のミライ”は私たちの手に V0l.2

33

4

2

2

6

3


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

37

このテーマのトピック

8

SDGs 持続可能な開発目標の2030年までの達成、地球温暖化対策など、いま、…
写真 写真

“インクルーシブな社会” 準備室

22

3

2

3

2

2


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

54

このテーマのトピック

13

“女の子はスカートをはくもの―” “デートでは男性がおごるのが当然―” “…
写真 写真

“性暴力”を考える Vol. 81~

96

3

4

3

13

10


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

186

このテーマのトピック

31

このページでは、ディレクターや記者の取材で得た情報や番組内容などを発信し、みな…
写真 写真

コロナ禍の映画・音楽・文化・・・ 日本のエンタメ業界はいま

16

1

1

1

1

4


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

92

このテーマのトピック

10

失われた客やファンをどう取り戻すか―― 新しい生活様式の中で、創作活動をどう…
写真 写真

#ネット社会これでいい?

14

7

4

2

7

16


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

23

このテーマのトピック

16

デマ、フェイクニュース、ひぼう中傷、フォロワー水増し、リテラシー教育・・・ …
写真 写真

医療と介護を考える

65

4

2

3

10

7


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

117

このテーマのトピック

21

誰もが当事者になりうる「病気」や「介護」の問題。みんなで支えあって、一人一人が…
写真 写真

宮田裕章さんと考える データとわたしたちの社会

46

5

7

5

5

9


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

19

このテーマのトピック

11

「ビッグデータで今後社会はどう変わっていくのか?」 「“新しい日常”にデジタ…
写真 写真

withコロナを生きるヒント

27

4

2

4

8

7


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

40

このテーマのトピック

18

新型コロナウイルスとの“長期戦”。 この試練とどう向き合っていくのか、1人…
写真 写真

持続可能な社会へ ”地球のミライは私たちの手に”

66

2

1

2

10

11


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

194

このテーマのトピック

42

気候変動の影響で各地で気温や海水温が上昇。猛暑日や記録的な豪雨の増加するなど異…
写真 写真

#あちこちのすずさん

378

12

11

17

7

34


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

139

このテーマのトピック

59

恋にオシャレ、忘れられない食べ物… 戦時中でも毎日を懸命に暮らしていた、 映…
写真 写真

“語ろう! 学校のコト”

62

7

8

4

16

34


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

95

このテーマのトピック

8

「ブラック校則」「大学入試改革」「プログラミング教育」… 昔、通っていた人だ…
写真 写真

ネット広告の闇

2

2

2

6

5

9


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

108

このテーマのトピック

6

年間の売り上げが2兆円を超え急成長を遂げているネット広告の巨大市場。取材班は、…
写真 写真

“性暴力”を考える Vol. 41~80

176

3

2

5

13

20


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

295

このテーマのトピック

41

Vol.1~Vol. 40のトピック一覧はこちら https://www.n…
写真 写真

“性暴力”を考える Vol. 1~40

72

2

3

8

13

34


応援する なるほど 驚いた 知らなかった これは問題だ もっと調べて
応援する なるほど 驚いた 知らな
かった
これは
問題だ
もっと
調べて
あなたのご意見募集しています!
このテーマのコメント

363

このテーマのトピック

41

Vol.41~Vol. 80のトピック一覧はこちら https://www.…