※この記事では平さんの著書などの表記に合わせて一部「ディープフェイクス」を使用しています。「ディープフェイクス」の名称は、２０１７年にアメリカの掲示板サイトにフェイク動画に関する投稿をした、ユーザーのハンドル名に由来しています。

ディープフェイクスから身を守るには

「ディープフェイクス」動画とは、ある動画の顔部分だけを、他の動画と合成した「偽動画」です。最新のＡＩ技術によって、表情の動きなどもきわめて精巧に作られていて、合成と見破るのはきわめて困難です。

平さんによると２年ほど前から、ディープフェイクスによる被害が急増しているというのです。

Ｑ　ディープフェイクスでどんな被害が出ているのでしょうか？

平 和博さん

ほとんどは「ポルノ」による被害です。実在するポルノ動画の顔の部分だけを、全く別の女性の顔にすげ替え、拡散するのです。その女性を狙った嫌がらせやリベンジポルノなどに使われていて、各国で被害者が相次いでいます。日本でも、芸能人のディープフェイクスのポルノ動画が出回り始めています。

Ｑ　誰が作っているのですか？

平 和博さん

ＡＩに詳しい人なら、その気になれば簡単に作れてしまうと言われています。ネット上にある動画などを元に、様々な表情や顔の動きも再現できます。動画合成の技術は、近年めざましいスピードで進化していて、ハリウッド映画などでも多用されていますが、それを低価格でつくることが可能になり、悪用されているのです。

Ｑ　見分ける方法はありますか？

平 和博さん

本物と比べるとディープフェイクス動画は「まばたきが少ない」「鼻の向きがわずかにずれる」などの特徴があると言われています。しかしＡＩ技術の進歩でどんどん精巧になっており、人の目で見分けるはますます難しくなるでしょう。

一方で、ＡＩによって作られたディープフェイクスですから、ＡＩを使った対策が期待されています。ＡＩを活用し、自動的にディープフェイクス動画を判別する技術の開発が進められています。

Ｑ　自分のディープフェイクスが出回らないために、できることはありますか？

平 和博さん

残念ながらできることは限られています。ただし、ディープフェイクス動画をつくるためには、材料となる画像や動画が必ず必要です。ＳＮＳなどに自分の動画をアップする人は多いと思いますが、それが悪用されるリスクは知っておくべきです。もちろん家族や友人の動画も同様です。

ディープフェイクスで民主主義が脅かされる？

平さんによると、いま懸念されているのは「政治」や「選挙」に関するディープフェイクスです。去年、ネットで公開され話題となったのが、オバマ前大統領のフェイク動画。実際には発言していない、「トランプ大統領をののしる」内容を口にしているものでした。

このようにディープフェイクスの技術を使えば、ある政治家の演説動画で、実際には発言していない内容をしゃべらせる、といったことも可能です。それを多くの人が信じて選挙で投票するようになれば、民主主義の大きな危機です。

アメリカでは来年大統領選挙がありますが、グーグルやフェイスブックなどの大手ＩＴプラットフォームもディープフェイク対策に本腰を入れ始めています。

まるで“特ダネ合戦”！？　リツイートの６割は「中身を見ていない」

元々平さんは、新聞記者としてメディアやＩＴ業界の取材を担当していました。Windows95の登場以降、パソコンやネットの普及で社会が急速に変化していく様子を目の当たりにしてきました。アメリカのシリコンバレーに駐在した経験もあります。

その中で「ネット上のデマやプロパガンダがどう生み出され、社会にどんな影響を与えているか」について大きな関心を抱くようになったと言います。そして、トランプ大統領が当選した２０１６年のアメリカ大統領選で、フェイクニュースが民主主義の脅威になっていることを実感し、このテーマを本格的に追いかけるようになりました。

米マサチューセッツ工科大学（ＭＩＴ）メディアラボの調査によると、フェイクニュースのほうが、事実を伝えるニュースより２０倍速く広がってしまうといいます。
またアメリカとフランスの共同研究チームによると、ツイッターでニュースをリツイートした人の６割が、記事のリンクをクリックしておらず、つまり中身を見ていなかったという、調査結果もあるそうです。

こうした状況について、平さんはこう分析します。

平 和博さん

「まるで新聞記者が特ダネ争いをするように、『自分が一番にこの情報を見つけた』という心理に陥っているのではないでしょうか。フェイクニュースの拡散に加担しないためには、リツイートする前に深呼吸をして、立ち止まって考えることが必要だと思います。」

メディアは「しっかりしろ」

その一方で、フェイクニュースが拡散する背景には、新聞やテレビなどマスメディアの信頼度が落ちていることがあると、平さんは考えています。

人手と費用と時間をかけて取材しているメディアが信用されなければ、ますます“正しい情報”が伝わらなくなると危機感を抱いています。そのため今こそメディアは、信頼性を高める努力をすべきだと訴えます。

平 和博さん

「メディアが何かを隠しているんじゃないか、真実はネットの中にしかないと思っている人も少なくないと思います。メディアがしっかりと情報を収集して、その裏付けをとってきちんと、それをユーザーに説明していく、理解してもらうことが非常に重要ではないでしょうか」