参議院

御紹介ありがとうございます。一橋大学、東京科学大学で特任教授をしております市川と申します。 　まず、参考人としてお招きいただきまして非常に光栄に存じます。 　私は元々は、長らく霞が関で役人をやっておりまして、役所の中でもずっと長らく技術とかイノベーション政策に取り組んでおりました。その中では、デジタルとかＡＩ技術もその際にもやっておりました。その関心が高じて、今では大学でイノベーションとかＡＩ政策に係る教育研究に取り組んでいると、こういう立場でおります。 　私のそのイノベーション政策の関心といいますと、どういった研究開発をやるかというよりは、むしろ、社会とイノベーションがどういう関係にあるのかと、こういう関心がありまして、一つは、もちろんどういった社会であればイノベーションが進むんだろうと、こういう話もあるんですけれども、もう一つは、技術、イノベーションがどんどん進んでいく、そうする

ありがとうございました。 　以上で参考人の御意見の陳述は終わりました。 　これより参考人に対する質疑を行います。 　なお、質疑及び答弁は着席のままで結構でございます。 　質疑のある方は順次御発言願います。

ありがとうございました。 　それぞれの参考人におかれましては、本日の出席はもとより、これまで、お話を伺えば、長年にわたってこの分野で政府又はそれぞれのお立場で大変な御尽力をいただいておることがうかがい知れました。改めて心からの敬意を表したいと思います。 　その上で質問をしていくのは、この法律案の中身について今参考人の方々からお話を伺ったことを質疑していくわけですけれども、非常にちょっと興味の湧く話ばかりだったので、法案を離れて興味本位で聞いてしまわないように何とか戒めていきたいんですが、ただ、時間は限られておりますので、ちょっと大変失礼な物言いですけれども、お尋ねしますが端的にお答えいただきたいというふうに思います。 　まず、市川参考人からお伺いしたいんですけれども、総じて皆さんがおっしゃっていた話というのは、広島プロセスのことも含めて、我が国の政府のこのルールメーキングについては、

御質問ありがとうございます。 　直近のリスク、ＡＩに係るリスクという御質問ですが、これはやはり多様なものがあります。 　ＡＩのリスクというときに、私はいつも考えているんですけど、ＡＩを使って、いろんな分野で使われるんですけれども、ＡＩだけのリスクではなかったりするかなというふうに思っています。 　その前提でお話をすると、世界的には、今、先ほど言った①のところですね、先端的なＡＩというのが今後、将来怖いんじゃないか、そのために規制をしなきゃいけないというのがやはり世界的には大きな課題です。 　一方で、現実でも、今後、怖いというよりもリスクが生じているという点でいうと、日本でいうとやはり偽情報、誤情報みたいな問題、これはＡＩだけというよりも、ＡＩを使ったものがデジタルプラットフォームで共有されて問題になるという、そういったところの使い方の全体の流れの中でどうするかとか、あとは、その一環

ありがとうございます。 　そういったリスクについても、しばらくするともう過去の考え方になってしまう可能性もあるというところも先ほどの説明で十分分かったんですけれども、基本的にやはり人間が開発して考えていくものでありますので、人間が取り得る対応というのは、これを一つの技術として取り続ける以上はさほど大きな脅威にならないのかなと。しかしながら、しかしながら、やはり物理的なものにつながったり、あと、オートマチックに判断を行う、そういったものを作ったならば、恐らく脅威になっていくのかなというふうなことは感じました。 　今回の法律の中身というのは、日本のＡＩ開発、活用がまず遅れているという前提に立った上で、多くの国民がＡＩに対して不安を持っている、そのことについては、先ほど申し上げたとおり、皆さんは、官民の連携の前の、国が動くということでクリアされていくんじゃないかというふうな話をされました。

お答えいたします。 　おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。 　これら、現場に近い側からガバナンスを利かせていき、それが全く効果がないとか、あるいは、そもそもそういうことを考えない企業という不届きな存在が出てこないように国の方できちんとグリップする必要があると。逆に言うと、そういうことをきちんとやれる優良企業に対して国が余りその行動を制約すべきではないというふ

ありがとうございます。 　そうする場合、ややもすると少しビジネス先行になっていく、経済的なものがうまくいけば国の発展に資するというところが先行し過ぎると、こういう国民生活や国の安全保障に関係する事柄については少し結果と異なるものになってしまいがちかなと。 　先ほど少しアメリカと日本の状況についてお話しいただいたときに、我が国においてはなかなか、巨大ＩＴ企業というのはほとんどアメリカのもの又は海外のものが多くありますと。それらをビジネスのテーブルで議論すると、撤退されたり打切りをされたりというふうな、アメリカ側の判断というものに委ねなきゃいけないところが、そこを何とか我が国国内のルールを世界的なルールの中に落とし込んでいって世界的な共通の価値観をつくっていくということができれば、そういったアメリカの巨大なＩＴ企業についても国内のこの日本の価値観の中でのルールでできるんじゃないかという説明

お答えいたします。 　まず、そのとおりだと思っております。 　そして、まず巨大ＩＴ企業には、やはり一億二千万人がいる巨大市場としての日本というものに真面目に向き合うインセンティブはあるはずであります。また、我々が彼らのサービスを安心して使えば使うほど彼ら自身がもうかるという、共存共栄の関係が本来はあるはずであります。それを我々も信じているし、だから我々に誠実に向き合っていただきたいというメッセージを発することがまず重要なんだと思っております。 　ただ、安全保障についてはちょっとそのような共存共栄の関係とは違う側面が出てこようかと思いますので、それについては別に考えなければいけないと思っておりますが、私自身は、その点はこの法案のスコープからは若干外れるのかなと思っているということでございます。 　以上です。

ありがとうございます。 　そういった取組を世界に発信していくにおいても、今回この法律の中に定められている、内閣総理大臣を本部長として全閣僚を構成員として置いているＡＩ戦略本部の位置付けであるというふうに私も理解しています。 　ただ、安全保障の観点と経済的なビジネスの世界とを、それらをおいても、やはりこのＡＩの技術というのは我々の生活や物事の考え方を大きく変化させる。先ほど少し市川さんのときも話しましたけれども、物理的な行動や自動的な判断をＡＩに委ねなければ、人類に対する影響はさほどないだろうというふうに私は思っているんですけれども、ただ、そのＡＩの判断が世界の常識をつくったときに、我々の持っている価値観だったり歴史観だったり人生観といったものも影響を受けるわけですから、物理的なものがなくてもやっぱり人類は影響を受けてしまうのかなと。 　そういったもので、世界の常識までこのＡＩを引き上

第一に、これまでその努力はしてきましたし、それなりの成果は上がっているというふうに認識しております。第二に、それはできるかできないかというより、やらねばならぬことだというふうに私自身は認識をしておるということでございます。