クローズアップ現代トップ > みんなでプラス > “フェイクニュース”に立ち向かう > 最新AIが生んだ「ディープフェイク」の脅威
2019年12月16日

最新AIが生んだ「ディープフェイク」の脅威

メディア論の研究をしている桜美林大学の平和博教授は、本人曰く「“フェイクニュース”の収集家」。国内国外を問わず、ネット上に拡散した様々なデマやフェイク情報について分析しています。その平さんがいま強い危機感を抱いているのが、最新のAI技術によって作られた偽動画「ディープフェイク」(*ディープフェイクス)の急増です。いったい誰が何のためにディープフェイクを作っているのか?いま何が起きているのか?平さんの解説です



「ディープフェイク」動画とは、ある動画の顔部分だけを、他の動画と合成した「偽動画」です。最新のAI技術によって、表情の動きなどもきわめて精巧に作られていて、合成と見破るのはきわめて困難です。平さんによると2年ほど前から、ディープフェイクによる被害が急増しているというのです。

知っておきたい ディープフェイクから身を守るには
Q どんな被害が出ているの?
ほとんどは「ポルノ」による被害です。実在するポルノ動画の顔の部分だけを、全く別の女性の顔にすげ替え、拡散するのです。その女性を狙った嫌がらせやリベンジポルノなどに使われていて、各国で被害者が相次いでいます。日本でも、芸能人のディープフェイクスのポルノ動画が出回り始めています

Q 誰が作っているの?
AIに詳しい人なら、その気になれば簡単に作れてしまうと言われています。ネット上にある動画などを元に、様々な表情や顔の動きも再現できます。動画合成の技術は、近年めざましいスピードで進化していて、ハリウッド映画などでも多用されていますが、それを低価格でつくることが可能になり、悪用されているのです。

Q 見分ける方法はあるの?
本物と比べるとディープフェイクス動画は「まばたきが少ない」「鼻の向きがわずかにずれる」などの特徴があると言われています。しかしAI技術の進歩でどんどん精巧になっており、人の目で見分けるはますます難しくなるでしょう。一方で、AIによって作られたディープフェイクスですから、AIを使った対策が期待されています。AIを活用し、自動的にディープフェイクス動画を判別する技術の開発が進められています。

Q 自分のディープフェイクが出回らないように、できることはある?
残念ながらできることは限られています。ただし、ディープフェイクス動画をつくるためには、材料となる画像や動画が必ず必要です。SNSなどに自分の動画をアップする人は多いと思いますが、それが悪用されるリスクは知っておくべきです。もちろん家族や友人の動画も同様です。

ディープフェイクで民主主義が脅かされる?
平さんによると、いま懸念されているのは「政治」や「選挙」に関するディープフェイクスです。去年、ネットで公開され話題となったのが、オバマ前大統領のフェイク動画。実際には発言していない、「トランプ大統領をののしる」内容を口にしているものでした。

このようにディープフェイクの技術を使えば、ある政治家の演説動画で、実際には発言していない内容をしゃべらせる、といったことも可能です。それを多くの人が信じて選挙で投票するようになれば、民主主義の大きな危機です。アメリカでは来年大統領選挙がありますが、グーグルやフェイスブックなどの大手ITプラットフォームもディープフェイク対策に本腰を入れ始めています。

まるで“特ダネ合戦”!? リツイートの6割は「中身を見ていない」
元々平さんは、新聞記者としてメディアやIT業界の取材を担当していました。Windows95の登場以降、パソコンやネットの普及で社会が急速に変化していく様子を目の当たりにしてきました。アメリカのシリコンバレーに駐在した経験もあります。その中で、「ネット上のデマやプロパガンダがどう生み出され、社会にどんな影響を与えているか」について大きな関心を抱くようになったと言います。そして、トランプ大統領が当選した2016年のアメリカ大統領選で、フェイクニュースが民主主義の脅威になっていることを実感し、このテーマを本格的に追いかけるようになりました。

米マサチューセッツ工科大学(MIT)メディアラボの調査によると、フェイクニュースのほうが、事実を伝えるニュースより20倍速く広がってしまうといいます。
またアメリカとフランスの共同研究チームによると、ツイッターでニュースをリツイートした人の6割が、記事のリンクをクリックしておらず、つまり中身を見ていなかったという、調査結果もあるそうです。

こうした状況について、平さんはこう分析します。

「まるで新聞記者が特ダネ争いをするように、『自分が一番にこの情報を見つけた』という心理に陥っているのではないでしょうか。フェイクニュースの拡散に加担しないためには、リツイートする前に深呼吸をして、立ち止まって考えることが必要だと思います。」
メディアは「しっかりしろ」
その一方で、フェイクニュースが拡散する背景には、新聞やテレビなどマスメディアの信頼度が落ちていることがあると、平さんは考えています。人手と費用と時間をかけて取材しているメディアが信用されなければ、ますます“正しい情報”が伝わらなくなると危機感を抱いています。そのため今こそメディアは、信頼性を高める努力をすべきだと訴えます。

「メディアが何かを隠しているんじゃないか、真実はネットの中にしかないと思っている人も少なくないと思います。メディアがしっかりと情報を収集して、その裏付けをとってきちんと、それをユーザーに説明していく、理解してもらうことが非常に重要ではないでしょうか」

平さんへのメッセージや聞きたいことなど、ぜひコメント欄に書き込んでください!

※この記事では平さんの著書などの表記に合わせて一部「ディープフェイクス」を使用しています。「ディープフェイクス」の名称は、2017年にアメリカの掲示板サイトにフェイク動画に関する投稿をした、ユーザーのハンドル名に由来しています。