立憲民主・社民・無所属

最高裁の決定が一例しかないということで、キーワードとなるのが、実在する児童の姿態と評価できるかというのがポイントで、実在しない児童の姿態というものがわいせつ部分というと、わいせつ等と評価される部分というところに当たると非常にこれ難しいんじゃないかということで、例えば腕のところに特徴的なほくろとかあざみたいなものがあって、それは夏になると半袖とかタンクトップとか着ますから普通にクラスメートなんかも分かるというような状況で、その顔と腕が本物で、胸とかそういう局部の部分がディープフェイクであるというようなとき、こういった場合は、これも分からないということなんでしょうか。

そうなんですよね。ですから、国民感情とすれば、顔がその方で、そして何かその人と分かるようなほくろなりあざなりとか特徴があったとして、そして裸にされてしまっているというようなところを見たときに、そういうものが出回っている、当然、当事者の被害者の方というのは非常に傷つくわけです。深い傷を、心に傷を負うわけですよね。 　そうしたときに、それが明らかにこれは偽物だというふうに分かるという時代はもう終わって、それが本物なのか、それともディープフェイクなのか、生成ＡＩによるものなのかというのはもう分からない時代に来ているんじゃないかなと思います。当然、その被害者の女の子であったり男の子であったりの裸というものはクラスメートは見たことが基本的にはないわけですから、そうすると、それが生成ＡＩなのか本物なのかということは余り問題なく、やっぱりそれが本物だというふうに思われるような形で世の中に広まっていって

政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もちろん表現の自由やそういった問題ありますけれども、そこら辺はしっかりと議論をしながら、法改正というものが必要なのではないかなということは呼びかけさせていただきまして、政府にもしっかり検討もお願いをしたいというふうに思います。 　現在、じゃ、

是非、この性的ディープフェイクの問題、警察さんとしては啓発というのは特にこれまではしていなかったということですので、是非警察の方からしっかりと、これいじめなんかにもつながる問題ですので、お願いしたいと思います。 　ちょっと時間が迫ってまいりましたので二つの問題一つにしますけれども、性的ディープフェイクもそれ以外のディープフェイクも、あるいはＳＮＳ上のデマ、誹謗中傷も、加害者に責任を取らせて、また被害を回復しようとすると、非常に刑事的、民事的に大変です。相談を受け、削除依頼を行ってくれる民間団体ありますが、まだまだ追い付いていないという状況です。 　性的ディープフェイクを含むこうしたネット、ＳＮＳの被害に対して相談支援窓口を民間と連携して整備強化していくことがまず大切だろうということがお一つと、あと、事業者に対してですけれども、顔写真が使われた人への名誉毀損等に当たり得ること、そのことを

時間になってしまいましたので、最後の質問、内閣府男女共同参画局長にお越しいただきまして、第六次男女共同参画基本計画の中でしっかり、こうしたデジタル性暴力という認識を持って、是非項目設けていただいて、しっかり検討してこの手当てをしていただきたいと、手当てをしていただきたいということをお願いを申し上げて、終わりたいと思います。 　ありがとうございました。

立憲民主・社民・無所属の鬼木誠でございます。 　引き続いて、ＡＩ関連につきまして質問させていただきたいと思いますが、私自身は、気付かないうちに利用していることはあっても、自主的にＡＩを活用したことがないという人間でございます。国民の皆さん、多くの皆さんがＡＩに対する不安を抱いていらっしゃるというふうな統計資料も見させていただきましたけれども、まさに私も同じようにＡＩに対して不安を抱いている。個人的に利用したことがない、そして多くの、不安を抱いている、恐らく今の日本の国民の皆さんの多くの感情と同じような心情や受け止めを持ってこのＡＩ技術というのを受け止めている一人だろうというふうに思っています。非常に優秀な優れた技術だというふうには思っています。正しい理解の下に適切に使用すれば極めて有益性が高いということについても分かっているつもりです。 　ただ、先ほど言ったように、やっぱり不安があるん

長々と答弁いただきましたけれども、よく分からないところもありました。 　個人情報保護委員会として、この間いろんな御努力いただいてきたと思うんですね。その御努力は、やっぱり個人の権利侵害につながるようなことがあってはならないというようなことが根本にあった、その立ち位置の中で進められてきたというふうに思うんです。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　それが今回の制度的課題に対する考え方の中では、先ほど言いましたように、大きな方針転換と私には受け止められた、踏み込もうとしていると。それは、ＡＩ技術をみんなで推進していくためにはやむを得ないんだというふうに読めてしまう、聞こえてしまう。そういう不安を抱いているということはあえて強調してお伝えをしておきたいというふうに思います。 　その上で、冒頭申し上げたように、余りにも前のめりになって、本来必要な規制まで緩和をされる、あるいは外され

是非しっかり御対応いただきますことをお願い申し上げたいと思います。 　個人情報保護委員会に対する質問もこれまででございますので、御配慮いただきたいと思います。

それでは、質問の順番、元に戻らさせていただきまして、一問目に入らさせていただきたいと思いますが、本会議で我が党の杉尾委員からも国民の責務ということについての質問をいたしました。第八条に定められているところでございます。 　これ、やっぱり僕も同じように思っているんですね。ＡＩがいかに時代を画する技術だとしても、例えば人類共通の普遍的な価値であるとか人類共通の理念であるとかということに対して、広く国民に対して学習をしなさい、理解をしなさい、関心を深めなさいということについてはよく分かる。ただ、ＡＩという技術に対して、国民の皆さん、理解を深めなさい、関心を深めなさいというふうなことについては、そこまで責務として求める必要があるかというふうに思うんです。 　もちろん、正しい理解の下、正しく適切に使用しなければ危険性を伴うということについては、この間いろんな方の御質問の中でも明らかになっている。

繰り返しになりますけれども、生成ＡＩを個人として使用しているのが日本では九％、そして七七％の方がＡＩには規制が必要だというふうにお考えになっている。そういう国民の皆さんに対して責務としてこのことを課すわけですから、私は責務とする必要はないし、国民の努力で十分だというふうに思いますけれども、その修正ができないというのなら、やっぱり今お答えになったことに加えて、国民の皆さんがしっかり理解できるような言葉で語りかける必要があるというふうに思いますし、負の側面も含めてしっかり訴えていただく必要があるのではないかということを提起しておきたいというふうに思います。 　次は教育という観点から、最初に山谷委員からも御質問がございました。負の側面について、あるいはリスクについて等々の御指摘があっただろうというふうに思っています。 　端的にお聞きをしますけれども、文科省にお尋ねをしたいと思います。この推進