立憲民主・社民・無所属

立憲・社民・無所属の奥村政佳です。 　改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。 　先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　つまり、今までは、初めての動きに対しては人間の動きをロボットに覚えさせたり、実際に試行錯誤をする中で、従来であれば現実のロボットで何千回も失敗をして微調整をしていくような課題を、ロボット自体の頭の中でアイデアを、自分の

本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。 　その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。 　先ほど渡邊統括官もおっしゃっていましたけれども、火事のときにふだん訓練していないことはできないというふうにおっしゃっておりました。先ほどの質問では海外の事例でしたが、国内で悪意のあるＡＩが暴走してデマや扇動を行うような最悪のシナリオを想定をしています。もはや、もう人間が関与しなくても、ひょっ

想定をしていく、しっかりやっていくということは伺ったんですけれども、実際、ＳＮＳ上でこういう発言というか、ＡＩの場合は発信というんでしょうか、これを行うＡＩについて政府はどういう対応を検討しているのか、実際の場合というのをお伺いしたいと思います。 　自動で不適切な出力をするＡＩ、最近は、ＡＩアカウントが人間に成り済ましたりとか、チャットボットというものが暴言を吐いて、海外では炎上するということもあります。悪意はＡＩにはないんですよね。ただ、おかしな学習をして、差別的な投稿やデモ情報というのをツイートするということがあると。ＡＩ自体には責任は問えないというところで、じゃ、操作者なのか、開発者なのか、どこが責任を負うのか、それを放置しておくのかというものは、現行の法制度では、ＡＩがネット上で発言、拡散する有害情報にどう向き合うか、明確にはなっていません。 　私は、ＡＩだろうと人間であろうと

今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。そういうところもしっかり私たち国会議員というのは考えていく、そして政府にも考えてほしいなというふうに思いました。 　少し質問の内容を変えて、次は著作権の問題についてちょっとお話伺いたいと思います。 　著作権法第三十条の四、享受を目的とする利用と享受を目的としない利用、つまり非享受目的の利用との線引きについてお尋ねをします

やっぱり、曖昧な線は曖昧なんですね。頻発にというのは、じゃ、どれぐらいかというのもありますし、目的とさせなくても結果的に出力をされた場合というのは、これはクリエーター側としては、いわゆる、何でしょう、言葉を選ばず言うと、あっ、パクられたというふうになるわけですよね。そういうところを本当に考えると、このＡＩの問題、そして学習というのは非常にセンシティブなところの線引きがあるのかなというふうに思います。 　関連して、ちょっともう一点伺いたいと思います。 　現行の法制度上は、先ほどもおっしゃられたように、データ分析目的であれば無断の利用が許容されるような立て付けになっております。とはいえ、自分の描いたイラストや文章が勝手にＡＩの学習素材に使われているというようなこと、そして、それによって、先ほど、目的としないと、頻繁ではないという話がありましたけれども、まねた作品が出てきた場合には、クリエー

やっぱり、でも、クリエーター側が、そのロボッツとかクローラーという話がありましたけれども、それだけじゃないわけですよね、情報を得る手段というのは。その中で、やっぱりクリエーター側が自分の作品はＡＩに学習をさせないでほしいと表明できる仕組みとか、逆に学習に使った場合には知らせたりとか、作り手としては何らかの還元があってもいいなというふうには思っております。 　例えば、私自身もミュージシャンなんですけれども、例えば音をサンプリングをして、自分の演奏したものを一部を取って、そういうものを使って再構成するというときには、サンプリングといって権利が発生するわけです。著作者が著作物の利用を認める際に、そういう利用者にその使用料を求めることも可能なわけです。 　更に言うと、いわゆるクリエーターのものを人が見てやるときというのは、そこにはリスペクトがあったりするわけですよね。ただ、ＡＩって恐らくリスペ

ありがとうございます。 　やっぱり、ＡＩの世界が広がって、今度そのクリエーターが物を作る、何でしょうね、その原動力であったりとか気持ちというのがなくなってくると、今度はＡＩの方も衰退をしていくわけで、やっぱりそういうことがないように、こういう議論をしていく中では、しっかりと、作った人、創造をする人、人間を守っていくというここの観点を忘れずに、もちろんＡＩを使う世界というのはすばらしいかもしれませんけれども、その一方でそういう側面があるということも議論をする中で忘れないでいただきたいなというふうには強く思います。 　では、次の質問に移りたいと思います。 　一方で、生成ＡＩで作ったものを使うときに、ユーザー側のリテラシー教育と開発者の側の責任というのも必要なのかなというふうに思います。今後ますますＡＩで生成した文章や画像に触れる機会が増えてくる中で、それをある意味、うのみにせずにというか

今方針を言っていただきましたけれども、これ毎日毎日たくさんの恐らく作品が、作品というかＡＩの出力がやっぱり生まれているような状況で、これを急いだ方がいいのかなと思うんですけれども、この議論に関してちょっと急いで進めるといったようなことも大臣の口から伺いたいと思います。

ありがとうございます。 　クリエーターの保護というところでもそれは本当に大切になってくるかなと思いますので、是非よろしくお願いします。 　それでは、次の質問に移ります。 　自治体におけるこのＡＩ活用というのも進めていくということが規定をされていますけれども、このＤＸ推進とか人材確保についての国の支援策というのも大切かなと思っております。 　国や自治体でも行政手続へこのＡＩ、ＩＣＴ活用というのが叫ばれているんですけれども、正直、自治体によってかなり温度差があるのかなというふうにも思っております。大規模な自治体などでは、このＡＩのチャットボットであるとかＲＰＡ、業務の自動化ですね、これを積極的に導入し始めていますけれども、小規模な自治体では、人材もいないしシステムも入ってこないといったような現状もあると聞きます。 　村上参考人は、東京のような大きな自治体は安全性の保証、検証も含めて先

人材のプールという話がありましたけれども、このいわゆるデジタル人材というのは、先般のアクティブサイバーの議論の中でも育成が急務だという話がありましたけれども、負担もどんどん大きくなってくると思うんですね。サイバーディフェンスもしなきゃいけない、ＡＩの開発もしないといけない、そこに対応しないといけないという中で、先ほど一人以下という話、ＤＸの人材がですね、平均するとという話がありましたけれども、ここは差がどんどん生まれていると思います。例えば、神戸の事例ですと、ＤＸ人材がもう二〇二四年の四月の段階で内部が七十四人、外部で二十六人、百人いると。そこにとても大きな差が今生まれているわけです。 　よくこういう話をすると、横展開をしていきますという話があるんですけれども、事例の紹介だけじゃなくて、しっかりとそれが実効性のあるものにしていかないと、やっぱり一極集中というものがどんどんどんどんと逆の方