内閣委員会

○高市国務大臣　昨今のＡＩをめぐる技術革新は、生産性の向上や労働力不足の解消など様々なメリットをもたらす一方で、偽情報の拡散や著作権の問題、また犯罪の巧妙化など様々なリスクも存在しております。 　今、山崎委員おっしゃっていただいたＡＩ戦略会議でございますが、これが設置されて、昨年五月に、御承知のとおり、ＡＩに関する暫定的な論点整理を取りまとめました。これに沿って、各省庁において、ＡＩのリスクへの対応、利用促進、開発力強化に取り組んでいるところでございます。 　内閣府としましては、この論点整理を踏まえながら、安全、安心で信頼できるＡＩの実現に向けて、急速に進行している生成ＡＩのリスクを軽減しながら、その恩恵を最大化できるように、関係省庁と連携してまいりたいと存じます。

○山崎（誠）委員　ありがとうございます。 　今お話しいただいた前提でこの後の議論をしたいと思います。 　まず、生成ＡＩの機械学習の性格についてお話をしたいと思います。 　世界中で、今、生成ＡＩの技術が広まっていまして、ステーブルディフュージョンというんですか、こういった画像生成ＡＩのシステムは、基盤のモデルをつくるために数十億もの画像を機械学習で読み込ませているということです。 　問題は、そのようなデータはどこから来て、誰が集めてくるのか。その中には著作物と言われるものも含まれるということです。そうしたデータ収集で、著作権者の許可を取ることがあるのかないのか。問題がここで発生しないかどうか。この機械学習の性格について見解を求めていいでしょうか。

○今枝副大臣　お答えを申し上げたいと思います。 　一般に、ＡＩの開発ですとか学習段階におきまして、学習用データの収集、加工などの場面で著作物の複製が行われるというふうに我々は考えております。ＡＩ学習のために著作物を利用した場合等の、著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合につきましては、著作権法第三十条の四において、著作権者の許諾なく利用可能とされております。 　文科省といたしましては、本年の三月に、文化審議会著作権分科会法制度小委員会におきまして、ＡＩと著作権に関する考え方についてというものを、委員の皆様の議論ですとか様々な関係者の方々のヒアリングを経て取りまとめをしたところでございまして、その中で、著作物等の学習が享受目的に該当する場合など、著作権法第三十条の四が適用されない場合についての考え方を示しております。 　まずは、この考え方を

○山崎（誠）委員　機械学習の性格、今お話があったところでございまして、インプットしたデータがあり、出力される画像やいろいろデータがあり、それが結局、元になっている著作物の類似のものが出てくる可能性というのは性格上どうしてもあるわけですね。 　今問題になっているのは、追加学習のような形で、こういった画像あるいはイラスト、データを作ってくれみたいなことを指示をすれば、それに似たものが生成されてしまう。中には、ディープフェイクポルノと言われるような、要は、誰かの写真を使って、それをベースにしてポルノ的なそういう画像などを出すということも自由にできるようになってしまっていて、それが、いろいろな人権侵害であったり、あるいは本当に人を傷つけるようなことが起こるということであります。 　著作権の侵害だとか、あるいはこういうディープフェイクポルノのような被害について、守るには、現行、どういう手続が必要

○中原政府参考人　著作権の観点からまず御説明を申し上げたいと存じます。 　御指摘いただきました御懸念というのは、ＡＩの生成段階、ＡＩが発出する段階において、自らが時間をかけて創作した著作物といったものの著作物が生成されることに対する御懸念であろうかというふうに存じます。 　先ほど副大臣から御答弁を申し上げました、本年三月に取りまとめました文化審議会著作権分科会法制度小委員会におけるＡＩと著作権に関する考え方につきましては、ＡＩ生成物の著作権侵害の有無に関する考え方や、著作権侵害について、事業者がその侵害主体として責任を負う可能性を高める要素といったようなものを御説明しているところでございます。 　したがいまして、ＡＩ生成物であるか、通常の著作物であるかというところについて、著作権侵害であるかどうかということを考える基準は同じでございまして、生成物について、類似性があり依拠性があるとい

○山崎（誠）委員　今の御答弁、そのとおりだとは思うんですね。 　要は、著作権者だとかクリエーターが権利侵害を起こされたときには、警察へ通報したり裁判に救済を求めていくというのが現時点の権利の守り方なんですね。 　ただ、今、一般のクリエーターの方々が、広く、場合によってはその被害者になっている。そして、ＡＩの利用が非常に手軽になっていると、先ほどのディープフェイクポルノみたいに、本当に家の中で趣味でそういうものを作ってしまって、それが場合によっては流布されるようなことというのは容易に今想像できるし、それが本当に犯罪のようなことにもなっているわけです。 　何が言いたいかというと、今の救済の仕組みというのは極めて従来型で、裁判だとかそうした権力に訴えるしかないということで、これではクリエーターの方を守ることにならないと思うんです。これは、生成ＡＩの世界になって、やはり新しい権利の保護の在り

○今枝副大臣　お答えを申し上げます。 　今、山崎委員がおっしゃられたことというのは、私どもも重々、思いとして共有をしておるところであります。 　そういった中におきまして、文化庁におきまして、文化芸術に関する法律相談窓口というものがございます。そこに明確に、ＡＩと著作権に関する事項を含んで相談を受けさせていただくということを対応をさせていただいておるところでございますので、そういった相談窓口も活用を、これからしっかりと更に更に努力をしていきたいというふうに思っております。

○山崎（誠）委員　ありがとうございます。 　現在では相談窓口があるということ、それが対応だということなんですけれども、相談窓口に相談して、対応する弁護士の方が相談に応じて、結局、それ以上の権利を守ろうと思えば、やはり裁判だとかで訴えなさいという話になるのが現状なんですよ。それでは、私は、著作権侵害とか、これから広がっていく生成ＡＩ、生成ＡＩ自体を否定するものではないんですけれども、それがある意味悪用されたり、こういう権利侵害につながることは止められないと思います。 　それで、今、文科省でも、生成ＡＩと著作権に関する考え方の素案を出されてパブリックコメントを求めたら、多くの声が集まっている、今のような権利侵害についての声が多く届いているということを聞いております。 　最後、大臣にお聞きをしたいんですけれども、今お話ししたように、現行の制度ではなかなか、権利侵害を食い止め、あるいは守るこ

○高市国務大臣　今後の生成ＡＩへの対応ということでございますが、これまでの取組も踏まえながらですけれども、引き続き、ＡＩ事業者ガイドラインの作成、ＡＩ事業者ガイドラインの履行確保の在り方に関する基礎的な調査、これの整理、それから、ちょうど今年の二月にＡＩセーフティ・インスティテュートを設立いたしましたので、ここで、ＡＩの安全性評価に関する検討などをこれからも続けていきますし、海外の機関との連携もしながら情報収集もしっかりといたしてまいります。 　その上で、ＡＩ戦略会議の有識者の御意見を踏まえながら、関係省庁と連携して必要な検討を行ってまいりたいと存じます。そのときに、当然、規制の在り方ということについても議論になっていくと考えております。

○山崎（誠）委員　ありがとうございます。 　やはり著作権の問題とか、多くのクリエーターの方々なんかから、自分が作った作品が大量に複製されて出ていってしまう、仕事にもならないし、非常に嘆きの声を多くいただきます。是非、こういう方々を救っていただきたいと思いますので、御検討よろしくお願いします。 　それでは、ＡＩについてのお話はこれで終わりますので、お二人、どうぞ御退席ください。ありがとうございます。 　次ですが、急いで行きます、激化する水害対策、流域治水というお話をさせていただきたいと思います。 　本当に、気候危機と言われる気候変動、地球温暖化の影響も受けて、水害のリスクというのは高まっているし、残念ながら多くの災害が発生しているというのが現状であります。 　それで、私は、先月、球磨川の豪雨災害の現地を視察してまいりました。そして、この豪雨災害で亡くなられた皆さんの詳細な分析データ