大島九州男

よくＳＦの世界じゃないけども、我々、今回サイバー法案もやりましたと。 　じゃ、当然このＡＩ、コンピューターですから、いろんな外から攻撃を受けて、意図せぬそういう脳に変換されていると。我々人間でも、例えば、我々は政党人ですから政党で決まっていることを当然言うと思っていたら、突然何か女系天皇がどうだとかいうようなことを言ったみたいなね、いうような、えっ、何これというような、おかしいんじゃないの、壊れたのみたいなね、いう部分を、これを修復をしていって直していきながらみたいなこともあるんでしょうけど、実際、そういう意図せぬことをやられるというようなことも当然あるんですよね、これは。

済みません、何かちょっと我々も素人であれなんですけど、ブラックボックス化っておっしゃったですよね、先ほど。何でそれが出たか分からないというような、だから、自分たちはこういうふうな意図でインプットしたんだけど、こういう答えが出てくるというのはちょっと理解に苦しむなというのは、勝手にその人工知能がそこで何か違う思考というか違うものを取り入れてやっていると、そういう認識でいいんですかね、そのブラックボックスというのは。大屋さん。

引き続きあれなんですが、ＡＩを使って今軍事目的でドローンで飛ばして攻撃していると、当然そのプログラムはこの目標に向かって行きなさいといって出すわけですけど、それを何らかの形で違う方向へ持っていくということもできるわけですよね。じゃ、それがブラックボックス化されて、今言うように勝手に、インプットは、我が国のために、平和を守るために君たちは頑張るんだぞというインプットであったと、ところが、それが何か違う意図せぬ国のところに例えば飛んでいったと。でも、それはＡＩからすると、いやいや、自分たちの国を守るためにそこを攻撃したんだみたいなことも起こり得るという、そういう理解でもいいですか。

ということは、まとめますと、生命を危険に冒すような機械というかそういうものにＡＩを今使ってやっていくというのは時期尚早であるし、安全性がまだ確保されていないので、それは慎重というよりはやめた方がいいですよという、そういう認識でいいですか。

どうもありがとうございました。

れいわ新選組、大島九州男でございます。 　大臣、ちょっと通告していないんですけど、非常に基本的なことなのでお答えいただければというふうに思うんですが。 　人工知能戦略本部ですね。この本部、ここに書いてあるのは、人工知能戦略本部長というのは総理ですと。副本部長に内閣官房長官及び人工知能戦略担当大臣と。内閣総理大臣の命を受けて、人工知能関連技術の研究開発及び活用の総合的かつ計画的な推進に関し内閣総理大臣を助けることをその職務とする国務大臣。これ、じゃ、新たにそういう大臣を任命するという理解ですよね。 　それで、そういう人がいて、そして、そこにまた本部員というのがいるというから、イメージとしては、こういう技術、ＡＩとかの知識に詳しいような本部員がそこに集って総理大臣とか副本部長を補佐しながらいろんな諸問題を解決したり推進していくのかなというふうに思ったら、この人工知能戦略本部員というのは、

年に一回や二回でなくて適宜というのは、何か問題あったときに、まあそれが二年に一回なのか一年に一回なのか、必要に応じてと。 　何が言いたかったかというと、レクに来た人にも言ったんですけど、何でも本部つくると、それこそ内閣総理大臣が本部長で、それで、全部内閣委員会で全部集めて、内閣内閣って言って、本当に大臣はどの本部長を自分がやっているかとかって総理大臣は分からないんじゃない、どれだけやっているのと言ったら、いや、それは総理大臣分かっていると思いますよと言うけど、俺が総理大臣だったら多分分からないなという会話をするぐらい、我々も内閣委員会でいると、何かあると全部内閣内閣とこうやって持ってくる。その理由は、それぞれの省庁の横串を刺すときに、それぞれそういう、さっき言った強いリーダーシップって権限がないと、他の省庁の言うことを聞かないと。言うなれば、経済産業省が主管となって一生懸命やっているとこ

いろんな問題があると。そういった問題にどういうふうに対応していくのかと、今またどう対処しているのかというのがあったら教えてください。

今までそういう対応をしてきたけれども、これからいろんな進化もしていくし、これがもっと広がっていくということで、こういうＡＩ法というものを作っていろんな部分に目を配りながら、リスクを排除していったり、またもっともっといいものにしていこうというふうにしようとしているんだろうなと思うんですが、この法案ができたことで、そういう諸問題への対応はどのように変わるという認識ですか。

おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。 　近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。 　例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言っても信用する人はいないと思いますが、消費税は食料品だけゼロ％に一年間ぐらいするとかなんとか言えば、ああ、そういえば野党も言っていたからそういうことはやるのかなとか、信用する人はいると思うんですよ。 　こういう動画が出てきたときに、じゃ、