世界を席巻！生成AI 共存のために必要なことは？

桑子 真帆キャスター：
世界に衝撃を与えた生成AI「ChatGPT」の公開から1年。簡単な指示を与えるだけで3,000億語以上の学習データから人間が作ったようなラブレターなどの文章や、論文、プログラミングのコード、音楽などが生成でき、ビジネスの現場での利用が広がってきました。この1年で、生成AIの技術はどこまで進化しているのでしょうか。

ジャングルや滝。

猫に、たき火まで。これらすべて生成AIで作られた映像です。生成AIに簡単なキーワードを打ち込むと、僅か1分ほどで実物と見間違うほどの映像が作られます。

伝説のボクサー、マイク・タイソンさん、57歳。

それがなんと、若かりし頃の姿に。特殊メイクは施していません。人物を撮影し、データ化するだけで、あとは表情や年齢を設定すると、AIが自在に作成してくれます。すでに映画やゲームなどの制作現場で実用化されています。

11月、34年前に亡くなった漫画家の新作が発表されました。漫画の神様と呼ばれた手塚治虫さんの代表作「ブラック・ジャック」です。この制作に生成AIが使われました。

手塚さんの作風にどこまで迫れるかを試すプロジェクト。呼びかけたのは手塚さんの長男、眞さん。AI研究者や脚本家、映画監督がつどいました。

今回、ブラック・ジャックが手術するのは人工心臓を持つ女の子。このキャラクターの制作には、手塚作品2万枚の画像を読み込ませた画像生成AIが使われました。

AIに「年齢」。ポーズは「正面向き」か「カメラ目線」か。設定は「サイボーグ」か「幽霊」にするかなどを打ち込んでいきます。

指示をして僅か1分。

AIが出したキャラクターをもとに人間の手で修正を加え、作り上げました。

AIが最も力を発揮したのがストーリー作りです。新作は、ブラック・ジャックが全身に人工臓器を埋め込まれた女の子を手術し、命を救うというもの。AIは、この物語をどう生み出したのか。

メンバーの1人、映画監督の林海象さん。手塚作品400話を読み込ませたAIに物語のテーマを与えます。

「荒療治」や「裏切り」などと打ち込むと、僅か数分で全く異なる5つのストーリーが生成されました。

顔の一部を失ったアイドルが、ブラック・ジャックに美容整形を依頼するという物語。暴走族が、ブラック・ジャックに助けられたことで更生の道を歩むという物語。斬新なアイデアが並びました。

その中から林さんが選んだのが今回のストーリーだったのです。

この際限なくストーリーを生み出す能力は、まさに手塚さんをほうふつとさせるものでした。手塚さんは「鉄腕アトム」や「火の鳥」など、まったく異なるテーマの作品を次々と生み出しました。

さらにAIが活躍したのが、登場人物の心情を描く場面です。手術の依頼主は、なぜ高額な報酬を支払ってまで人工心臓の手術を依頼したのか。

AIが出した答えは、人工心臓を持つアンドロイドを通じて、新たな生命観を示したというアイデアでした。アンドロイドにも命が宿っているという依頼主の考えを表したのです。

生成AIとのやり取りは70回に及び「ブラック・ジャック」の新作が完成しました。中でもメンバーたちが驚いたのが、AIが病気の原因として示したアイデアです。

それは「フラッシュクラッシュ」。金融市場で見られる株価の乱高下を示す現象です。最近ではコンピューターによる自動取引が一因といわれています。人工臓器で機械化された人間の体では、そうした現象が起きてしまう。AIは、最先端の金融システムと医学の知識を生かした手塚さんに迫るアイデアを紡ぎ出したのです。

プロジェクトの総監督・手塚眞さんは、AIに対する見方が変わったといいます。

＜スタジオトーク＞

桑子 真帆キャスター：
きょうのゲストは、クリエイターでAIのエンジニアでもある安野貴博さんです。何やら口に機械をつけていらっしゃいますが…

安野さん：
こちら、私の声を別の人の声に変換する生成AIのシステムなんです。(生成AIを使用した桑子の声で)

桑子：
この声、私の声だって皆さん、分かりましたか。そうなんですよね？

安野さん：
そうです。桑子さんの声をですね、ナレーションのデータを15分ほど集めて、それをパソコンに学習させると、こういった形でリアルタイムで声を変換できるようになります。(生成AI桑子の声で)

桑子：
すごいですよね。私の同意のもと、事前に声のデータを提供して安野さんに作っていただいた音声モデルということになるのですが、ここからは「安野さんの声」でお話しいただきます。

安野さん：
よろしくお願いします。

桑子：
生成AIの技術が、一体どこまで私たちの生活を変える可能性があると考えていますか。

安野さん：
この1年でテキスト文章を生成するAIから画像、映像、音声、あとはプログラミングのコードみたいなものまで幅広くサービスが出てきましたが、これはいろんなところで私たちの生活を変える可能性があると思います。
例えば、ホワイトカラーの人の仕事の生産性みたいなものも上がると思いますし、他にも例えば、最近、小中高生と話していると先生の代わりにChatGPTにいろいろ質問をしながら自分で学んでいくんだということを言っていて、教育現場などでも使われていくということかなと思っています。

桑子：
授業で使われるまでになっているわけなんですね。

安野さん：
そうですね。

桑子：
今後、生成AIの未来ってどういうふうな世界を描いていますか。

安野さん：
今までもすごい勢いで進歩していますが、今後も、この勢いは続くのではないかなと思っています。やはり精度がどんどん高まっていくことによって、あと、より速くなることによって、今、機械翻訳がありますけれども、同時通訳みたいなこともできるようになるかもしれませんし。あとは我々が信頼できるパートナーとしてのサービスということも、今後、出てくるかもしれないなと思います。

桑子：
信頼できるパートナーというのはどういうことですか。

安野さん：
今、やはりAIは限界があるわけですけれども、医療面とか法律面であるとか、そういったプロフェッショナルなサービスを、AIの助けを借りながらできるような未来というのが、もしかしたら来るかもしれないなということです。

桑子：
より精度が高まっていって、信頼性も高まっていくということですね。

安野さん：
そうだと思います。

桑子：
生成AIは一体どこまで進化したのか。今、AIの可能性は大きく広がっていますが、その手軽さゆえの懸念も出てきています。

今、SNS上では生成AIを利用した、あるコンテンツが人気を呼んでいます。

通称「AIカバー」。人気歌手やアニメキャラクターの声をAIに学習させ、はやりの曲を歌わせたものです。

AIに学習させた人気歌手の声が歌う大ヒットアニメの主題歌、AIに学習させた人気バンドのボーカルの声が歌う別のバンドの曲、中には再生回数1,000万回を超えるものも。実際にはない組み合わせが若者を中心に人気を集めています。

AIで他人の声を生成するツールは、今、誰もが手軽に使うことができます。

この男性が生成AIを使うのは、仮想空間で友人たちと共に会話を楽しむときです。

使い方はいたって簡単。ウェブ上に無料で公開されている音声生成AIに人の声を読み込ませるだけ。

例えばこちらの友人の声。許可を得て提供してもらいました。この声をAIに学習させ、マイクに自分の声を吹き込むと、ほぼリアルタイムで友人の声に変換されました。この技術を使うと、実際に本人が言っていないことも声にすることができるのです。

手軽に他人の声を生成できるAI。しかし、SNS上のAI音声コンテンツの多くは声の持ち主に無断で作られています。

数多くのアニメに出演してきた人気声優の梶裕貴さん。大人気アニメ「進撃の巨人」の主人公エレン・イェーガーの声を演じました。

梶さんは、自身が演じたキャラクターの声をAIに学習され、人気歌手の歌を歌わされていました。

演じた役の声が使われたことで、自分だけでなく、作品に関わった人たちの思いまで軽んじられたと感じています。

今、声優たちは自分たちの権利を守るための活動を始めています。

特に強く訴えているのが「声の肖像権」です。現在、声は日本の法律上、著作権が認められていません。無断で作られるAIコンテンツにどう対処すべきか。声優たちは2023年6月に業界団体を通じ、生成AIの使用方法について国に提言しました。アニメの製作に関わるほかの職種も巻き込み、ルール作りにつなげていきたいと考えています。

＜スタジオトーク＞

桑子 真帆キャスター：
ここからはAIの著作権に詳しい弁護士の福井健策さんにも加わっていただきます。
AIに無断で学習させることが、実際、法的にどうなのか。著作権法の文章も用意させていただきましたが、どうなのでしょうか。

福井さん：
今の梶さんの例だと、アニメとか、あるいは歌唱の音源をAIに学習させていると思うんです。そうすると、これは「著作物」ですよね。「著作物の利用」という話になる。著作権法は数年前に改正がありまして、AIの学習のための複製というのは基本的にやっていいよということになった。

桑子：
著作物は「他人に享受させることを目的としない場合は利用することができます」。OKですと。

福井さん：
ただし、これにはただし書きがありまして「著作権者の利益を不当に害することになる場合は、このかぎりではない」という。つまり権利者の利益を不当に害する時には、AI学習はできないよということになっているわけです。

桑子：
では、何が不当に害することになるのか。ここはどうなのでしょうか。

福井さん：
そこです。実を言うと、この議論はまだ深まっていなかったんです。そこで今、国の審議会で一体どういう場合のAI学習は権利者の利益を不当に害するのか。
例えば、梶さんの例にあったように、あるいは特定の漫画家の作風をまねさせるために、あるいは特定の声優さんの声をまねさせるためにAI学習をする。つまり、そっくりさんを作っちゃう。こういう学習というのは、権利者の利益を不当に害してるのではないかとか。
あるいは、それ以前に、そもそも「私のは学習しないでください」と権利者が言っている時に、そこを押してAI学習をさせちゃうというのは、これは権利者の利益を不当に害しているのではないか、だからそういうケースはできないのではないか、というようなことを含めて今、議論が進んでいます。しかし結論はまだ出ていません。

桑子：
あと、先ほど「声の肖像権」を求めるという動きもありましたが、声の肖像権はどういうふうに考えたらいいでしょうか。

福井さん：
肖像権の中には「パブリシティ権」と言われるものがあります。これは判例で認められた権利なのですが、例えば有名な声優さんとか、ただ単に顔写真とか名前だけではなくて、その人だなと分かるような要素。例えば、梶さんの声を聞いたら「あの声だ」と分かるわけですよね。それに人々は人気があるから引きつけられる。この人の人気。これを「無断で商売に使っちゃだめだよ」という権利が、言ってみれば「パブリシティ権」です。
そうすると、声についても認められるのではないかと、著名な人気のある声だったら。声についても認められるのではないかという議論がかなり有力で、よって、例えば訴えればああいう利用は止められる可能性があります。
こんなふうに学習の段階と、学習されたAIを使って人間がどういうことをやると問題になるのか、という利用の段階は分けることが大事ですね。

桑子：
そして、どちらもまだ議論はこれから本格化していくということですね。

福井さん：
今まさに真っ最中ということです。

桑子：
では、生成AIの普及によってどんな問題が引き起こされるのか。
コンテンツの偽造、そして職を失う、失業。さらに政治家のフェイク画像、さらにはAIで生成した音声で他人になりすまし、詐欺などの犯罪に使用されるという例も実際に起きているということです。

安野さんは実際にクリエイターとして当事者でもあるわけですが、こういう問題についてはどういうふうに今考えていますか。

安野さん：
クリエイターとしても非常に難しい問題で、というのもクリエイターが過去に作ってきた名作、作品の権利を守っていく、これは絶対にやらなくてはいけないと思います。

ただ一方で、それと同じぐらい大事なのが、これから先に生まれてくる名作を守る。それも一緒にやらないといけない。

生成AIというのはクリエイターの可能性を広げるものでもあると思っているので、ここで締めつけてしまうと将来の可能性を失うし、締めつけないと過去の作品の権利が守りづらくなる。この中でどうバランスを取っていくのかというのは本当に難しい問題だなと思っています。

桑子：
では、AIとどういうふうに共存していけばよいのか。福井さんに大きく4つ挙げていただきました。

福井さん：
著名な4つの手段があるのですが、まず「法」。「法律」ですよね。しかし、これは決して万能ではありません。やはり技術の変化に対して、いつも遅れていく。そういう限界を持っています。
そこで、例えば「モラル」。人々が「こういうことは、ちょっとやめておこうね」というような、そういう共通の意識。これをガイドラインにするようなこともありえます。
あるいは「技術」です。無断の学習を防ぐような技術を活用することもありうるでしょう。
そして最後に「市場」、「ビジネスモデル」と書きました。つまり、先ほどの手塚プロジェクトのように「じゃあ、もう権利者とAIの開発者、一緒に組んでやろうじゃないか」というようなこと。これらを組み合わせて現実の変化と並走しながらAIとの幸福な共存を目指していく。これが大事ではないかと思います。

桑子：
安野さん、どういう共存のあり方があるでしょうか。

安野さん：
やはり知っていくことが大事だと思います。今のAIが何ができて、何ができなくて、どういうふうに作られていて、それで作られたものに対してどういう思いを持たれているのか、そういったことを広く知っていくということが大事だと思います。

桑子：
ありがとうございます。同時にしっかりと監視する。安心して使える枠組み作りもしっかりと進めていってほしいと思います。ありがとうございました。