デジタル社会の形成及び人工知能の活用等に関する特別委員会

御指摘の調査研究、その調査の結果については本年九月に実施した第一回人工知能戦略本部において報告しまして、具体的には、ＡＩ技術の進歩により性的ディープフェイクが容易に生成可能な状況となっていること、そして、その拡散についての報道件数等が増加傾向にあり、今後も拡大が懸念されること、そして、引き続き関係省庁と連携して実態把握に努め、必要な対策を検討することが重要であることを報告しています。 　本年八月には、こども家庭庁主導で、インターネットの利用を巡る青少年の保護の在り方に関する関係府省庁連絡会議が設置されて、児童ディープフェイクポルノについても関係省庁が連携しながら取組を行っているところです。 　内閣府としても、該当会議に参画しまして、本調査結果を関係省庁に共有して必要な対策の検討を促しているところです。これまた本当に関係省庁と連携しながら実態把握をして、必要な対策について何ができるかとい

本当に、この生成ＡＩを使った動画というのがどんどんどんどん分かりづらくなってきているというところはすごく問題ですし、特に児童の関係は、性的なディープフェイクは本当にいち早く対策を取っていくことが必要ですので、しっかりと引き続きお願いいたします。 　巧妙なこの偽動画についてなんですが、私は北海道出身なんですが、東北、北海道、北陸で命を脅かす存在になっている熊についても、この偽動画というのが頻繁になってきているという状況です。いろんな報道機関でも問題にしています。熊を高齢の女性の方が棒で追い払っているという偽動画とか、そういったことで、なかなか違いが分かりにくいというところで、熊が安全なんじゃないかというふうに思われてしまうという危険さがあるというところです。 　こういった偽動画は、地震などの災害時にも課題となってきました。今のように誰でも簡単にアプリで動画を作ることができれば、悪意がなか

御指摘のようなディープフェイク画像、動画がネットに多数見られることは重々承知しています。ＡＩが活用されているものか否かにかかわらず、虚偽の画像や動画が拡散されるということは、誤った情報の流布による社会不安の増大に係る懸念もあり得ることから、使われていても使われていなくても極めて不適切な行為であるというふうに認識をしております。 　ただ、御指摘のとおり、ＡＩの技術によって見抜きにくくなるというのは非常にまた一歩進んだ問題なので、こうした行為がより容易に行われてしまう状況も鑑みて、内閣府としては、ＡＩ法十三条に基づく適正性確保のための指針を年内目途で策定して、事業者等によるＡＩの適正な利用を確保するための取組を促していくとともに、こうした状況に係る実態把握に努めるなど、引き続き動向を注視して、必要に応じて更なる対策を考えていきたいと思っています。

本当に、表現の自由とか、ＡＩを使うととても面白いとは思うんです。でも、一方でそれによって逃げ遅れてしまったり危険なところに行ってしまうということも考えられるので、しっかりと対策、必要に応じた法律ということも必要になってくるかもしれませんので、引き続きよろしくお願いいたします。 　ＡＩに関しては、本人が知られていない中で様々なところでデータが利活用されかねないという問題もあります。自分が知らないところで、統計データだからといってどんどんどんどんプロファイリングにも使われてしまいかねないという懸念を私自身は持っています。難しい課題ではありますが、利便性の追求とプライバシー権のバランスをどう取っていくかという問題です。 　ＡＩは面白いです、さっきも言ったとおり。でも、とはいえ、際限なく本人の同意なしに情報コントロールができない中で機微な情報が出回ることは好ましくありません。ＡＩとプライバシー

ＡＩの開発、活用に当たっては、個人に関する情報が不適切に扱われることがないよう、個人情報保護法の遵守はもちろんのこと、プライバシーの保護について十分な配慮が必要だというふうに私も認識しています。 　こうした観点については、先ほど来お話に出していただいている、年内を目途に策定を目指すＡＩの適正性確保に向けた指針にも記載するように現在議論を重ねているところでありまして、それを踏まえて事業者の取組を促していきたいと思っています。 　いずれにしても、これも関係省庁と連携をしながら、プライバシー保護の観点を含めて、信頼してもらえるＡＩの実現に向けて取り組んでいきたいと思っています。

本当にこれからというところだと思いますので、引き続き、急ぎだけど、さっきも言ったように、でもいろんな方の声は聞いていただきたいというところです。 　次に、行政機関における生成ＡＩサービスについて、松本大臣にお伺いします。 　松本大臣は所信で、積極的にＡＩを利活用していく、ガバメントＡＩの構築を進めると触れていましたが、一方で懸念もあります。 　例えば、法案作成のチェックは個人情報があるわけではないので、こういったものは職員の事務を補完する上でも積極的に進めていくことが必要です。一方、何かを審査し決定するものは、機械的にデータだけを見ていては判断を誤ることがあるのではないかと危惧します。決定する側にとっては、統計的に相関関係にあるデータを用いることで簡単に多くの審査を可能とするかもしれませんが、特定の数値が過去にこうだからといって判断してしまうと、本人の不合理な区別がされることになるお

ＡＩの利活用に関しましては、人間中心のＡＩ社会原則というのがございます。ここに何が書かれているかというと、ＡＩに過度に依存したり人間の行動をコントロールすることのないように、我々人間がＡＩを道具としてうまく使いこなすことによってより大きな創造性を発揮しようということが書いてあります。 　これは日本政府の見解でもございますので、この原則に基づいてＡＩ事業者ガイドラインというものがありまして、それについては、ＡＩの出力結果、今の審査結果もそうかもしれません、そういったものが公平性の欠くことがないように、ＡＩで単独に判断させるだけでなく、人間の判断を介在させる利用をしっかりと考えろということが書いてあるというふうに承知をしています。 　ゆえに、加えて、もう一つ、我々デジタル庁の中で今年の五月に策定しましたガイドラインでは、業務に生成ＡＩを利活用する際に、この工程の、過程ですね、行政の過程につ

ＡＩだけではなくて、やはりいろんな行政のシステムもなんですが、そもそもどういうふうに使うかというのを職員がきちんと考えて構築をしていかないと、いろんなところで失敗してしまうというところです。なので、便利になるんだけれども、そこが忘れちゃ大変だというところを忘れないでいただきたいということで、あえて質問させていただいたところです。 　次に、ちょっと順番を入れ替えまして、自治体システムの標準化についてお伺いをいたします。 　先ほども質疑されていますが、システム標準化については二〇二五年度末までと一応の目標時期がありますが、私はこれ、法案の審議の当初から、千七百以上の自治体があって、当時は十七業務からスタートしていますが、それを一斉にベンダーで受けるのも大変なのではないかと、できるのかということを懸念していたところであります。そうしたら、案の定、ある企業ができないというふうに言ってきていて、

ありがとうございます。 　先ほどの質問にありましたけれども、最終的には国民の皆さんがメリットを受けるためにこの仕組みをつくっていかなければいけないと。ただ、千七百以上ある自治体で、システムだけで全部で三万以上あるというシステムになっているので、確かに、おっしゃるように、後ろを決めて全部できるのかというと、私も大臣になっていろいろとこの件のお話聞いて、何でそこで決めたのというふうなことはちょっと思ったのは事実でございますが、決めた以上はそれに従ってしっかりと進めていくのがこれは国の役目だろうというふうに思っています。 　したがって、今お話のあったように、いろいろとハードルがあるんですけれども、まずは私としては、国費も含めて、少しずつできる範囲内でサポートしつつ、何で余計にお金が掛かっているのか、単に物価が上がっている、人件費が上がっているだけではなくて、ベンダーロックインをしていないかと

最後の質問になりますが、松本大臣は所信で、ＡＩの開発や利用には、信頼性のある自由なデータ流通、すなわちＤＦＦＴの推進は不可欠と述べていますが、これ分かるようで分からないので、どういう問題意識なのかというのと、ＤＦＦＴを具体的にどう進めるのか、お伺いいたします。