BS1 ワールドウオッチング - WORLD WATCHING -

特集

2020年4月8日(水)掲載

“ディープフェイク”の脅威

“水道水にコロナ入っている”“中国でトイレ紙の生産が止まり日本で不足”これらは全てうその情報だ。新型コロナウイルスの感染拡大の影響でネット上に、こうしたうそ=フェイクの情報がまん延している。その影響は大きい。そしてこうしたフェイクがいま、日々“進化”している。例えばこちらの動画。 



タレントの渡辺直美さんの映像と思いきや、実は一般人の顔を渡辺直美さんの顔に置き換えて作られた偽物、フェイクだ。渡辺さんの顔を、数万点ものパーツに分解、表情ひとつひとつをA I=人工知能が、ディープラーニングすることで作られる「ディープフェイク」という技術が用いられている。単に顔をすげ替えるだけではなく、顔の表情を自然に動かすことが出来るのだ。この動画では渡辺直美さんの口元を変えている。他にもオバマ前大統領など著名人のディープフェイクがネット上で出回っている。映画などで活用するために開発されたこの「ディープフェイク」の技術。悪用されて傷つけられる人々が急増している。

フェイクがリアルになる恐怖

ノエル・マーティンさん

オーストラリアで暮らすノエル・マーティンさん(25)が、ある日ネット上で目にしたのは身に覚えのない自らのポルノ動画だった。

フェイクの画像

マーティンさんの顔とポルノ女優の顔がすげ替えられていたのだ。

フェイク動画が投稿されたサイトには、マーティンさんの名前や住所などの個人情報までのっていて、まるでマーティンさんが投稿したかのように見せかけられていた。

学生時代のノエル・マーティンさん

フェイクに使われた写真を見ながらマーティンさんは「高校卒業後、大学に入学したころの写真です。大学のパーティーに行く前に撮りました」と思い出の写真だったことを話してくれた。

フェイスブックを愛用し、約1,000人の友人とつながっていたマーティンさん。フェイスブックには友人との食事や旅行、家族と撮った数多くの写真があった。日々の何気ない投稿写真が、ディープフェイクに利用されていたことにマーティンさんは大変ショックを受けたという。「ショックでした。何が起こっているのかわからなくて、胃がキリキリ痛み、吐き気もしました。とにかく怖かったんです」。誰の仕業なのか心当たりがないマーティンさんは弁護士や警察に相談。サイトの運営者にも削除を求めたが、ディープフェイクはすでに拡散、打つ手はなかった。事態の改善が図られない中、マーティンさんは意を決してメディアに被害を告白した。

地元テレビで放送されたマーティンさんの会見

ノエル・マーティンさん
「私はSNSの画像を盗まれ、多くのポルノサイトに投稿されました」

しかし、むしろ事態は悪化、ネットでは、ひぼう中傷が増しただけだった。

ノエル・マーティンさん

「私にはフェイクと分かりますが、雇用主や友達、私を知らない誰かが見たとき、これを私だと思うのではないでしょうか。時間が経つごとに、どんどん映像がリアルになっていくのです」(ノエル・マーティンさん)。

ターゲットは世界中の女性 米大統領選も!

オーストラリアだけでなく、世界で問題となっているディープフェイク。オランダのサイバーセキュリティー会社ディープトレースの調査では、ネット上にあるフェイク動画の数は、約半年間で2倍、1万4,000件以上に増加したとの結果が出ている。そのうち96%の動画が女性をターゲットにしたものだという。

アメリカ ニューヨーク NPO団体「サンクチュアリ・フォー・ファミリーズ」

ディープフェイクに立ち向かう団体を取材した。1984年から女性の暴力被害などに対応してきたアメリカのニューヨークにあるNPO団体「サンクチュアリ・フォー・ファミリーズ」だ。いま一番の課題は、国境を越えてやり取りが行われるディープフェイクのサイトの取り締まりだ。この日、取り締まりの対象として、あるフェイクポルノ専門サイトが話題にあがった。そのサイトにはフェイクポルノ製作依頼の投稿が数多く寄せられていた。

こうした依頼に対し、“作成に応じる”という数多くのコメントも記されていた。こうしたフェイクポルノ専門サイトのターゲットは、世界中の女性だ。

女性を傷つけるディープフェイクのサイト運営管理者は悪びれもせずこう主張する、“サイトはあくまでテクノロジーの進化のためだ。”「人々がディープフェイクの技術を学ぶためにサイトを運営しています。たまたまポルノが人々の興味を誘っただけ。物事には負の側面もあるといことです。ディープフェイクは単なる道具です。それをどう使うかを決めるのは人間です」(フェイクポルノの作成を依頼できるサイト運営管理者)。ディープフェイクの脅威は、ポルノにとどまらない。ことし(2020年)秋に行われる予定のアメリカ大統領選挙にも及んでいる。

この4枚の写真は、すべてAIが作り出した実在しない人物たちだ。SNSにこうした実在しない人物の偽アカウントを作り、トランプ大統領を支持する投稿を拡散させていったのだ。

ディープフェイクへの対応策は?

カリフォルニア州 メンローパーク フェイスブック本社

フェイスブック社はことし、ディープフェイクの一部を削除する方針を打ち出した。ただ、どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしている。

フェイスブック社 プロダクトマネージャー アントニア・ウッドフォードさん

「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」(フェイスブック社 プロダクトマネージャー アントニア・ウッドフォードさん)。

ニューヨーク州立大学アルバニー校 リュー・シーウェイ教授の研究室

世界中の研究者も、対策に追われている。ニューヨーク州立大学、リュー・シーウェイ教授の研究室では、AIを使って動画の真偽を見破る技術を開発した。偽の動画、フェイクが作成さられたときに生じる顔のわずかなゆがみを検知し、ディープフェイクを見つけ出す技術だ。しかし、見破る技術が高まれば、それを利用してディープフェイクを作成する技術も高まる。「いたちごっこの状況が続いている」とシーウェイ教授はいう。

ニューヨーク州立大学アルバニー校 リュー・シーウェイ教授

「どんなに高度な検知技術があっても、より精巧なフェイク動画が検知を逃れます。『ネット動画は全て信じない』というような過剰反応をする人もいますが、私たちはそれくらい気をつけないといけません」(リュー・シーウェイ教授)。

実は、いま日本でもディープフェイクのポルノ動画が拡散されている。しかし日本ではディープフェイク自体を規制する法律はなく、作りたい放題の状況だ。世間にあふれる嘘の情報=フェイクにどう対抗していくのか。まずはSNSを使う我々ひとりひとりが意識を高めることともに、各国が連携して規制する対策が望まれている。

ページの先頭へ