内閣委員会

日本維新の会、市村です。よろしくお願い申し上げます。 　いよいよＡＩ法も大詰めに向かっているんだと思いますが、今、第四次産業革命が進行中ということでございます。初期の頃は何といってもその中心はインターネットでありましたし、スパコンということでありましたが、いよいよここでＡＩまた量子というのが登場してきているというところであります。第一次は蒸気、第二次は電気、第三次はコンピューターと言われて、第四次というところでございます。 　その中で、ＡＩがいよいよ登場してきて、ＡＩが我々人間を超える、人間をしのぐ、若しくは人間をひょっとしたらじゅうりんし、かつ支配までするのかもしれない、こういうおそれがあるということもありまして、今回この法案ではやはり人間中心でいこう、こういうことが大臣からも話をされているわけでありますが。 　この法案でということも含めて、人間中心、どうやって担保していきますか。

市村委員御指摘の問題は非常に私も重要だと思っておりまして、ＡＩに支配される人間じゃなくて、やはり人間中心でいかなきゃならないと思っております。 　これまでの科学技術の発展のプロセスにおきまして、例えば、航空機や自動車における技術革新ではコンピューターによる操縦の補助あるいは自動化など、人間とコンピューターの協調による性能向上等を目指してきた歴史がございます。 　ＡＩについても同様であり、人間中心の考え方を軸に置くとともに、人間の英知によって、人間とＡＩの調和に向けて、私は一歩ずつ前進できると考えております。 　なお、本法案の第十三条において、国際的な規範の趣旨に即した指針、これを国が整備することが規定されておりますが、ここに言う国際的な規範は、広島ＡＩプロセスの国際指針、あるいは国際行動規範、これを念頭に置いておりまして、これらの国際的規範にはしっかりと人間中心の考え方が示されており

ありがとうございます。調和ということもお話しいただきました。 　ただ、人間中心というときに、どうするかももちろん大変考えなければならないんですが、私は松下幸之助さんがつくった松下政経塾というところに学ばせていただきましたが、松下さんが我々塾生に問うたのは、人間とは何かを考えてくれと問われたんですね。 　そもそも人間とは何かすら深く考えなければならないというところもありまして、まさにこの哲学的命題がここには、人工知能というのはまさに我々の知能をどう代替させるかというところなのかもしれませんが、我々人間が悩んできた、苦しんできた、そうしたことも含めて考えなければならない、人工知能を考えるときには。人間そのものを考えなければならないというところもあるんだと思います。 　後でまた少し議論もしたいところがあるのでありますが、そのとき、哲学とか、私、学生時代には、必ず古典に学ぼう、四書五経は読み

お答えいたします。 　例えば、不正の目的としては、サイバー攻撃を行うことを目的としコンピューターウイルスの作成方法等に関するデータを学習させるもの、詐欺に用いる目的で他人の合成音声を出力させるものなどが挙げられます。 　また、不適切な方法としては、開発したＡＩの評価中に有害な情報が出力されることを知りながら対策等を行わずにＡＩを提供すること、あるいは、企業の従業員が入力された情報の管理方法を把握しないまま顧客の個人情報や会社の営業秘密を入力するものなどが挙げられます。

そこには、大臣、不正の目的には、例えば人を殺害するような軍事利用というのは含まれると考えていいんでしょうか。

お答えします。 　人を殺害するような軍事利用は含まれるかどうかでありますが、デュアルユース技術でありますＡＩ技術は、経済社会の発展へ寄与するのみならず、我が国の安全保障に寄与することも考えられます。 　他方で、御指摘のような、人間を殺害するような軍事利用につきましては、国民生活の向上及び国民経済の健全な発展に寄与することを目的とする、これは第一条にございますけれども、ＡＩ法案の対象とする不正な目的ではないと考えておりまして、これは別途国際的な議論が行われておりまして、そのところで別途適切に対応すべきだと考えておりまして、具体的には、自律型致死兵器システム、リーサル・オートノマス・ウェポン・システム、ＬＡＷＳというんですかね、そういった問題について別途国際的な場でしっかり議論されておりますので、ちょっとそこは切り離して考えるべきじゃないかなというふうに思います。

ＡＩ法という中での不正な目的には入らないということだと思いますが、しかし、ＡＩ一般を取ってみると、そもそもインターネットも米軍のＤＡＲＰＡで、ＡＲＰＡネットというところから出てきたものが今のインターネットでありますし、ＡＩというのも、そもそもやはり軍事目的で開発されたものが民間転用されたということの歴史もあると私は存じておりますので、そもそも軍事目的で開発されたものだというところから考えますと、やはりこれが軍事目的に使われないということはないわけでありまして、しかし、そこを別途、このＡＩ法は最初ですから、これからいろいろな流れが出てくる中で、当然、ＡＩが平和利用ができるように、特に人間中心というところでありますれば、特に我が国は平和国家を標榜している国家でありますから、当然、我が国としてはそれを前面に押し出して議論をしていくということが必要だと思いますが、大臣、いかがでございますか。

御指摘のとおりでございまして、ＡＩの軍事利用については今申しましたように国際的な議論が別途なされておりますが、当然、人道と安全保障の視点を勘案したバランスの取れた議論を通じまして、最大の目標というか目的であります人間中心のＡＩ、人間中心の原則、これが維持され又は責任ある形での利用が促進されることが重要であることは言うまでもございません。 　いずれにしましても、その国際的な議論を踏まえつつ、政府としても適切に対応してまいる考えであります。

ありがとうございます。 　これはよく言われるように、これからはＡＩ対ＡＩという時代になっていきます。そのＡＩがどういうＡＩであるのかということが大変重要になってくるわけでありまして、実はこれから二、三年で、これまで我々人類が生み出してきた情報量をＡＩが生み出す情報量が超えるということになるというふうに指摘される方がおられるんですね。 　となると、その中には恐らく、先ほどからずっとフェイクの話が大変出ていますが、フェイクが多分に含まれる情報がいろいろ広がっていく。その情報を基に、その情報をデータにＡＩが取り込ませるようなことをしますと、もはやそれはフェイクなのかと。うそも百回言えば本当になるという言葉が、格言がありますけれども、ＡＩなんて、百回とかじゃないですね、億、ひょっとしたら一兆回ぐらいやることもできるぐらいになるわけでありまして、もはや何が本当かうそか分からなくなるという時代がも

市村委員と御懸念は本当に共有しております。 　御指摘のとおり、誤情報の生成、拡散への懸念に関して、例えば、ＡＩが生成したデータを別のＡＩが学習して、元のＡＩの誤り、偏り、差別的な表現とか、そういうものがどんどん増幅されてしまって、かえってＡＩの精度が低下する、信頼性がなくなる、そういったような研究結果も報告されております。 　こうした中、あるデータがＡＩによって生成されたか否かを識別する研究開発も進められております。今後、あるデータがＡＩ生成物なのか否かに加えまして、ＡＩの学習に適した学習データなのか否かを判別できる技術が実用化されることも想定されますので、そういった技術も駆使しながら、そういう偽情報、誤情報が事実のように独り歩きをして拡散されることのないように、しっかり対応してまいりたいと思います。