ドキュメンタリーにおける生成AIの使用に共通のガイドラインを～米アーカイブ・プロデューサーたちからの提言～【研究員の視点】#577
メディア研究部（メディア情勢）青木 紀美子
ドキュメンタリーは私たちが世界を理解するために重要な役割を果たしてきた。人類の月面着陸、ナチスドイツによるホロコースト、そうした史実を私たちはドキュメンタリーを通して学んできた。こうした記録を人々が信じられないようになれば、事実への信頼も失われ、史実が塗り替えられてしまうことにもつながるのではないか。生成AIによってつくられたものが、歴史として独り歩きしないように、合成・加工された素材は現実の記録ではなく後からつくられたものだということを見る人に理解してもらうことが大事だ。それはドキュメンタリーの役割を守るということでもある。
これは、ドキュメンタリー制作における生成AIの使用についての実務ガイドライン「Best Practices for Use of Generative AI in Documentaries」1)を2024年9月に発表したアメリカのアーカイブ・プロデューサー連盟（Archival Producers Alliance 以下、APA）2) の共同創始者レイチェル･アンテル氏の話です。
「アーカイブ・プロデューサー（Archival Producers）」は日本では耳慣れない肩書ですが、ドキュメンタリーで使われるアーカイブ資料素材（映像、写真、音声、文書など）を探し、調べ、制作者のリサーチを支えるとともに、著作権のクリアランスなどにも関わる専門家です。
アンテル氏らは生成AIのルールなき使用の広がりに危機感を覚え、2023年にAPAを立ち上げ、制作者やテレビ局幹部、AIや法律の専門家などと話し合いを重ね、このガイドラインをまとめました。 その内容には、国際ドキュメンタリー協会（IDA）3) やアメリカのドキュメンタリー・プロデューサー連盟（DPA）4) 、ワシントンDCのドキュメンタリー映画祭(DC/DOX)5) 、NBCテレビのジャーナリズム・メディア教育プログラム(NBCU Academy)6) など、50以上の組織が賛同しています。
ドキュメンタリーにおける生成AI使用の実務ガイドライン（APAのウェブサイトから）
ガイドラインは、人が記録した現実を伝えることを重んじてきたドキュメンタリー映画や番組が持つ独特の価値を強調し、その信頼を守るために生成AIの慎重な利用を促すものです。生成AIを使う場合には、制作に携わる関係者との情報共有を徹底し、さらに見る人が合成・加工された映像や音声が現実の記録とは違うことを認識できるような透明性を担保することなどを提言しています。
この記事では、2025年1月に行ったAPAの共同創始者アンテル氏とジェニファー・ペトゥルセリ氏へのインタビューをもとに、APAがガイドラインを作成した動機やねらいを紹介します。インタビューの内容はわかりやすさのために意訳・編集しています。
***
増えるドキュメンタリーにおける生成AIの使用
生成AIは2022年にOpenAI社がChatGPTを公開して以来、情報のまとめ、翻訳や作文などに対応する対話型サービスとして普及してきました。画像、動画や音声を合成・加工するツールも増え、編集ソフトなどにも組み込まれ、広く使われるようになっています。ドキュメンタリー制作の現場でもこうした生成AIの機能を使う事例が増えているとアンテル氏とペトゥルセリ氏は説明しています。
レイチェル・アンテル氏 (2025年1月15日のオンライン・インタビューから)
アンテル氏：ドキュメンタリーの制作に生成AIを使ったプロジェクトで、よく見られる事例は2つあります。1つは写真の加工です。使う写真は古いものであることが多く、縦横比が現在の横幅が広いワイド画面には合いません。そこで制作者が画面に余白がないようにしたいと考えた場合、今の編集ソフトは、ボタン1つで余白を埋めることができます。そうした生成AIの機能があらかじめ搭載されています。古い写真を参照して生成AIで余白を埋める画像を合成し、ワイドアングルのカメラで撮影したかのように加工することが簡単にできるのです。加工の内容は、写真になかった建物や人物を新たに加えるといったことで、こうした生成AIの利用はよく見かけるようになりました。
もう1つは音声の生成です。すでに亡くなった人物をドキュメンタリーで取り上げる場合に、その人の音声記録が残っていれば、それをもとに疑似音声を合成し、その人が生前に声に出しては語らなかったであろうことを言わせることもできます。歴史的人物などが、自分の手紙や日記などの記述を読み上げているように疑似音声を加工するといったことが行われています。
ドキュメンタリーにおける生成AI使用のリスク
両氏が挙げた事例にあるようにAPAの生成AIガイドラインが対象として想定しているAIの使用は、インタビューの書き起こしや映像の画質・色彩の補正といった作業ではなく、新たな画像、動画、音声などの合成、あるいは、見る人に誤った理解をもたらしかねないような既存の記録の加工です。
これまでの使用事例には、差別や迫害を受けかねない人物の安全を守るため、個人が特定されないように映像を合成・加工したものもあり、生成AIが新たな可能性をもつ技術であることはAPAも認めています。しかし、生成AIが簡単に使えるようになったことで一次資料の探索を怠ることや、合成･加工素材が本物の一次資料に紛れ込んでしまうリスクなどがあることを指摘しています。
ジェニファー・ペトゥルセリ氏 (2025年1月15日のオンライン・インタビューから)
ペトゥルセリ氏：生成AIで合成・加工した素材を使ったドキュメンタリーの中には、作品を見る人に誤解させかねない使い方をしている事例もあると感じています。そうした問題に直面し、受け手が見たり聞いたりしているものが、実際に撮影・収録された本物の資料映像や音声なのか、そうではないのかを理解できるようにすることが大切だと考えるようになりました。
アンテル氏：例えばドキュメンタリーの一部に1910年代のニューヨークの街を生成AIでつくって取り込んだとします。ドキュメンタリーの一部であるということで、見る人はそれが実際にあった現実だと考えるわけです。しかし、生成AIによる合成画像では、実は存在しなかった建物を見せられているうえ、そこには当時は存在しなかった建築素材が使われているように描かれていたり、その時期に、そこには咲いていないはずの花が含まれていたり、といったことが起こりかねません。
実在した人物の過去の収録音声とその人の文章や手紙をもとに合成された音声の場合、その人物がどのようにその文章を読んだか、ユーモラスに語ったのか、怒りをもって語ったのか、早口だったのか、ゆっくり話したのか、などを機械の解釈でつくることになりかねない、という問題があります。しかも、それを本物の収録音声とあわせて使うと、区別することは非常に難しくなります。他人である俳優や声優が、ナレーターとして日記や手紙を読むよりも、生成AIによる合成音声の方が真実に近いと信頼されてしまう可能性があります。
生成AIの学習データから来る偏りの問題
両氏は、AIの学習データの偏りから来る誇張されたステレオタイプなど、偏った結果を示すコンピューターの処理、アルゴリズムのバイアス（偏り）の問題についても指摘しています。
アンテル氏：生成AIのデータ処理のもとになっている機械学習のデータには、インターネット上などからかき集めた情報･素材が使われているといいます。しかし実際に何が使われているかはわかっていません。また、存在する過去のアーカイブ映像などの記録のうち、デジタル化されているものはほんの一部です。このため、すでにデジタル化され、学習に使われた映像や画像に潜在的なジェンダーや人種的な偏りがあれば、それは増幅されたかたちで生成AIが合成・加工した結果に反映されるおそれがあります。実際、私たちはそうした問題が起きるのを見てきました。
例えば、生成AIで歴史的な人物を合成してみると、女性像の場合、人気俳優やモデルに似た姿をしていたことがありました。細いウエストや長い髪など、インターネット上にあふれている、かなり偏った特徴の'女性像'を反映したものでした。アルゴリズムのバイアスという問題が意識されるようにはなっていますが、今でも例えば「CEO」と入れると大概、白人の男性になってしまうといった問題があります。
生成AIは制作意図などを検証できないブラックボックス
アンテル氏やペトゥルセリ氏は、現実を記録した資料映像などにも偏った視点が反映されている場合があることや、ドキュメンタリーとして事実を切り取り提示すること自体にも一定の編集方針や創作意図が入ると認めたうえで、人が介在する編集と生成AIによる合成や加工は質を異にすると、指摘しています。
アンテル氏：ドキュメンタリーをつくる際に映像を編集してつないでいくことで'真実'に手を加えているわけです。多くの場合はより大きな'真実'を明らかにすることをめざしているとはいえ、編集の結果は現実に起きたことそのままではありません。そうした、これまでにやってきたことと生成AIを使うことは何がどう違うのか、私たちも頭を悩ませました。ガイドラインをまとめるにあたっては制作者やAIの専門家、弁護士など、さまざまな人たちと話し合いを重ねました。
たどりついたのは、「人間が立ち会って記録する（humans bearing witness）」という行為には意味があり、それがドキュメンタリーの不可欠な要素であり、一方、機械による合成は人間抜きに作られるものだということでした。生成AIはたくさんの映像や画像を'学習'し、それを混ぜあわせた中から新しいものを合成するためです。
歴史上の人物の手紙や日記などの文章を、他人である俳優や声優が読む場合は、その俳優の解釈、あるいは監督の指示が入っていることがわかります。
人がつくるものにも、アーカイブ資料にもバイアスはありますが、それがどのような背景をもつものか、どこに問題があるか、検証することができます。
ペトゥルセリ氏：ドキュメンタリーで使われてきた「再現」も、今までの手法であれば、誰がいつ、どのような状況のもとでつくったのかを確認することができます。
これに対して、生成AIは、ブラックボックスなのです。いくつかの言葉をインプットすると、映像や音声ができてくる。その映像や音声がどうやって作られたのか、何をもとに作られたのかを知る方法がありません。同じ言葉を使っても違うものが出てくる場合もあります。つまり検証が不可能であるということです。制作者が人間の場合には、誰がどのような選択をしたのか、その持つ意味は何かということを探ることができますが、生成AIでは探りようがないのです。
映像アーカイブ関係者の会合で生成AIの問題について話をするペトゥルセリ氏とアンテル氏
（2024年12月ミルウォーキー 写真：デボラ・マクラッチー氏）
現実を記録するドキュメンタリーの責任と透明性を担保する意味
アンテル氏とペトゥルセリ氏は、事実にもとづき、現実の記録をもとにしているドキュメンタリーだからこそ、受け手が見たり聞いたりしているのが、実際に撮影・収録された本物の資料映像や音声なのか、そうではないのかを認識し、理解できるようにする責任がある、透明性を担保することは、ほかのジャンルの番組や映画よりも重要であると訴えてきました。
ペトゥルセリ氏：透明性の担保は、ドキュメンタリーの分野ではとりわけ重要な課題です。ドキュメンタリーは歴史の記録であり、その記録として残るものに何が含まれているかはとても大事なことだからです。それは参照される記録として残り、その部分、部分がいろいろなかたちで引用され、社会にインパクトを持つ可能性があります。
アンテル氏：私たちが関わるドキュメンタリー作品でも、しばしば他のドキュメンタリーの映像を使うことがあります。従って私たちが制作に関わる作品も、いずれ他の作品に使われ、それがまた引用され、さらには学校の教材などにもなるという可能性を意識しています。では、生成AIはそこにどう位置づけられるのか。少なくとも誤った情報を記録として残していかないように注意しなくてはいけないと考えています。
ドキュメンタリーは私たちが世界を理解するために重要な役割を果たしてきました。どうやって人類が月面に着陸したか。ナチスドイツによるユダヤ人の虐殺・ホロコーストはどのようにして起きたのか。そうした史実を私たちはドキュメンタリーを通して学んできました。こうした歴史的な記録を人々が信じられないようになったら、何が起きたかという事実への信頼も失われ、史実が塗り替えられてしまうことにもつながるのではないか、という懸念を覚えています。それは恐ろしく危険なことです。
つくられたものが、歴史として独り歩きしないように、見る人にそれが何なのかをわかって見てもらうこと、生成AIに合成・加工された素材は現実の記録ではなく後からつくられたものだということを理解してもらうことが大事だと考えています。これはドキュメンタリーの役割を守るということでもあります。
（2025年1月15日にオンラインでインタビュー）
***
アンテル氏らは、生成AIを使用したドキュメンタリー制作者の具体的な経験にもとづく事例集も作成することにしています。ガイドラインとあわせ、生成AIを使用する前に考慮すべきこと、使用する場合に注意すべきこと、見る人が合成･加工映像や音声を区別できるための工夫などの知見を共有していくことをめざしています。
また、ドキュメンタリー制作者にはフリーランスが多く、映画や番組などのコンテンツが国境を越えて放送･配信される現状をふまえ、制作を始める前から参照できる道標のような基準として、国際的に共通するガイドラインを設けることが望ましいと強調しています。
急速に変化するAI技術がさまざまなメディアのコンテンツにどう影響するのか。どのような可能性とリスクを意識して使用することが望ましいのか。アメリカのアーカイブ・プロデューサーたちの提言は、日本におけるディスカッションにも参考になるのではないかと考えており、『放送研究と調査』2025年5月号にガイドラインの和訳とあわせて掲載する予定です。
海外における生成AIをめぐる動きについては、3月7日のブログ記事メディアは独自のAI活用を～米ミネソタ・スタートリビューンの挑戦で、アメリカの地方紙のAI開発の責任者の話も伝えています。
1) Generative AI Initiative, Archival Producers Alliance
https://www.archivalproducersalliance.com/apa-genai-initiative
2) The Archival Producers Alliance (APA)
https://www.archivalproducersalliance.com/
3) International Documentary Association
https://www.documentary.org/
4) The Documentary Producers Alliance (DPA)
https://www.docproducers.org/
5) DC/DOX
https://dcdoxfest.com/
6) NBCU Academy
https://nbcuacademy.com/
 |
【青木 紀美子】 |
