文研ブログ

　生成AIサービスの先駆者OpenAIは2月15日，簡略な文章から精巧な動画を生成できるAI「Sora」を発表した。文章や音声，動画などを簡単に加工・生成できるAIのサービスが次々に登場していることで，偽情報のねつ造や拡散も容易になっている。2024年はアメリカなど各国で重要な選挙が行われる世界の「選挙の年」でもあり，AIの悪用で公正な選挙の実施が妨げられることへの警戒が高まっている。

　アメリカでは，11月の大統領選挙に向けた予備選挙が行われる東部州で1月，バイデン大統領を装った声で投票しないよう呼びかけるAI生成の発信があり，2月のパキスタンやインドネシアの選挙でも投票ボイコットや候補者支持の呼びかけにAI加工の偽動画が使われた。

　Google，Microsoft，OpenAI，Meta，TikTokなどAI開発・IT大手20社は2月16日，選挙でのAI悪用への対応を発表。候補者や選挙管理当局を装った音声や動画が有権者を欺き，投票に影響することを防ぐため，AI生成の情報を識別する方法など，予防と対策に資する技術を開発して共有し，市民の啓発にも努めるなどの方針を示した。

　しかし，これまでにも偽情報の拡散を許してきたIT各社が果たして有効な対策をとれるのか，精巧な偽動画などの登場で逆に事実を偽情報と主張する情報操作も容易になる，といった懸念もある。ニューヨーク大学が同月に発表した報告書は，最大の脅威はソーシャルメディアによる有害コンテンツの拡散だとして，AIのリスク軽減策とあわせ，有害情報の対策にあたる担当者やファクトチェックを行う外部協力者を増やすようIT各社に促した。