日本維新の会

今回の定義でも、ちょっとまだどうかというところも実はあると言われていまして、例えば、今回は、「人間の認知、推論及び判断に係る」というところでありますが、では、従来人間が関与しなかった認知や推論及び判断というのが出てきた場合に、これは対象外なのかというところについてはいかがでございますか。

もう一点、「能力を代替する」という表現があるんですね。「能力を代替する機能を実現するために」ということであります。 　これは、何か言葉尻を捉えるような質問になるかもしれませんが、人間が僅かでも関与する場合には、能力を代替するとは言えなくなるんでしょうか。これはいかがでしょうか。

済みません。一番最初ですので、これからだということを分かった上で質問していますので。決して、ここで議論して、何か、こうしなさい、こうしましょうということではないので。率直にお答えいただきまして、感謝申し上げます。 　では、これで定義ということで、状況が、我々の予測を超えるような大きなことが起これば、定義そのものもまた変わる可能性ももちろんゼロじゃない、いかなることにもそれは言えるということであります。そういうことで、まずはこの定義でスタートをしましょうということであります。 　ここで、ＡＩというと、それこそ、実は最初、私は結構ネガティブな感じでＡＩを捉えてしまっていたんです。さっき申し上げた「二〇〇一年宇宙の旅」のＨＡＬ９０００とか、あと、残念ながら二〇一八年に亡くなられたスティーブン・ホーキング先生も、このＡＩの脅威については大変警告を発しておられた。もちろん、もう不可避だということ

この法案は、恐らく苦心の作だと。この間のサイバー安全保障関連法も、日本はある種、後発だからこそ、非常に、各国のいろいろな状況を見ながら、日本らしさをというか、追求した法律だということで、前の、さっきのサイバー安全保障関連法案もそうおっしゃっていましたが、今回も、恐らくそういう思いで作られた法案だと思いますし、非常に、国際協調ということも、十七条ですね、国際協調を推進するということも書かれてありまして、大変、日本らしさというのは分かるんです。 　ただ、リスクというのを、例えば軍事転用、軍事利用というリスクも当然あるわけでありまして、我々が一方的に国際協調をと、例えば、さっき大臣がおっしゃっていただいたように、広島ＡＩプロセスで、人間中心でということに、国際協調路線の中で一緒に取り組んでいきましょうという我が国の思いは物すごく私も賛同するんですが、しかし一方で、例えば、同盟国であったり、同志

それで、次に、ＡＩがいろいろな、今度は、例えば、事故や不利益なことを起こした場合ということもリスクということで考えられてきます。 　ＡＩを操作して何か不利益なことを起こした人は、それが特定できれば多分刑罰の対象になるんでしょうけれども、もうこれから、ＡＩが独自に新しい知識を身につけて、ＡＩが独自にいろいろなものを勝手に作り出した場合に、それが、何か事件や事故、不利益なこと、例えば人権侵害とか倫理的なものでの侵害とかを起こした場合、対処はどうすればいいのか。お答えいただけますでしょうか。

そうなんですね。ここも、だから、これからどんどん考えていかなくちゃいけない。多分そうなってくると思います。 　能動的サイバー防御のときも平大臣と議論させていただきましたが、これはもう、これからＡＩ対ＡＩの時代になるんだということなんです。だから、我々人間がある意味で関与できないというか、そういう時代にもうなりかねないんですね。多分なると思います。 　だから、そういうときに、ＡＩがやったことについて、責任を取れないわけですね。じゃ、誰が作ったんだ、そこまで遡れるかということになるとどうなのかということになりますし、だから、非常に考えておかなくちゃいけないことと思います。 　あと、もう時間がないので、最後に著作権について。 　著作権の帰属についてなんですが、例えばＡＩが作った楽曲とかいろいろな動画とか、こういうものの著作権というのはどこに帰属するんでしょうか。

来週またいただきますので。 　最後に、是非とも、ＡＩ推進の旗振り役である政府自身が模範ユーザーとなっていただきまして、省庁の縦割りとか無駄をＡＩで是正するぐらいの意気込みを持って取り組んでいただきたいと存じます。 　これにて終わります。

日本維新の会の三木圭恵でございます。 　今日の質問、どうぞよろしくお願いいたします。 　今回の法案なんですけれども、やはり推進法であって基本法ではないということで、ここで議論できることがまだ決まっていない、そして、基本計画の中で決まっていく、それが閣議決定で下りてくるというようなことで。この国会で基本理念とか、そういったところもきっちりと議論をしたいなという思いがやはりありまして、今の法案では、なかなか中身に関して議論できるところが、ちょっと少ないなとは思っているんですけれども。そういった意味で、ここの審議というのは非常に大切なのかなというふうにも思っております。 　それでは、質問に入らせていただきます。 　まず、人工知能関連技術の研究開発及び活用の推進に関する法律案ということで、まず、日本が国策として生成ＡＩをどのように発展をさせて国益に供しようと考えているのか、お聞かせください

我が国は生成ＡＩに関して発展が遅れているというような大臣の御答弁だったと思います。 　そして、今、様々な委員の皆様から発言があるように、やはりＥＵに関しては、ＡＩに関して非常に厳しい規制を課していると。アメリカは、バイデン大統領の大統領令を、今回トランプ大統領がまた大統領令を改正するということで、アメリカを優位に持っていくための生成ＡＩなど、こういったものをきっちりとやっていく、発展させていくというようなお話が今あります。その中でこういった法案が作られるということは、日本にとってやはり第一歩の法案になるのかなというふうには思っているんですね。 　先ほどまで、従来にもありましたように、ＥＵに関してはすごく厳しい規制を課している。申し上げますと、ＥＵで最後論点になったのは、町中にある防犯カメラが人の顔を認識して、それで犯人を捕まえるとか捕まえないとか、そういったことにまで活用してもいいかど

今の段階で、生成ＡＩに関して、各法、既存の法で対応していく、対応できている、対応していくんだということだと思うんですけれども、私が今、新聞記事なんかをいろいろ読んでおりますと、もう生成ＡＩというのは本当にすごい発展というか進化をしているなというところで、ちょっと御紹介をさせていただきますと、「賢いＡＩは手段を選ばず」というような記事が三月の三十日に日経の方に載っております。 　ＡＩが必要な計算を省いて、サカナＡＩですね、日本の企業ですけれども、研究がネットで炎上した。どういったことかというと、ＡＩの開発や利用を効率化する技術を開発したとして十倍から百倍高速化できると発表した。けれども、実際は、ＡＩが必要な計算を省いて性能が上がったように見せていた。要するに、だましているんですね。システムの抜け穴を悪用する、報酬ハッキングと呼ばれる現象だということです。 　また、チェスＡＩと何度も対戦さ