文研ブログ

　生成AIは精巧な画像や映像を作ることができるため，偽情報の生成に悪用されると見破ることが難しくなるとみられているが，11月は，国内のメディアが絡むトラブルが相次いだ。

　日本テレビでは11月1日，生成AIを使って実在のアナウンサーの声などを再現し，自社のニュース番組で放送したと見せかける偽の広告動画がSNSで拡散しているとして，夕方のニュース番組『news every.』や公式ホームページで注意を呼びかけた。この動画は投資情報サイトへの登録を促す内容だった。

　また，TBSテレビでは，5日に放送した情報番組『サンデーモーニング』で，インターネットに投稿されていたハマス幹部に関する画像を「生成AIで作られたフェイク画像」と紹介したが，放送後，SNS上では誤りではないかという指摘などが相次いだ。TBSはその後，この画像は，生成AIの開発や利用が進んでいない2014年以前からネット上に出回っていた可能性が非常に高いことがわかったとして，「「生成AI」を使って作られた画像ではないもの」と考えられると番組やホームページ上で訂正し，謝罪した。

　海外では，2023年5月にアメリカの国防総省の近くで爆発が起きたとされる偽画像が出回り，株価が急落するなどの影響が出た。生成AIによる偽情報が，金融市場の混乱や世論操作に悪用されるケースは今後も続くとみられる。

　インターネットを含む情報空間の健全性を維持するために，メディアやファクトチェック団体などがどう対応するべきか，広範囲で多角的な議論が求められる。