内閣委員会

何か箱庭みたいなものを作っていくような世界観を持っていたんですけれども、やはり人間がつくるというもの、人間が駄目なものはＡＩでも駄目だというところは譲れないし、私ども日本人というのは非常に謙虚な国民性もあります。それこそが世界でやはりルールメーキングしていくにふさわしい立ち位置かなというふうに感じました。 　ありがとうございました。終わります。

立憲民主・社民・無所属会派の石垣のりこと申します。 　本日は、四人の参考人の皆様、それぞれのお立場から貴重な御意見、誠にありがとうございました。 　今回の法案、そして、昨今、このＡＩを取り巻く様々な話題、ニュースなどを見聞きしておりまして、私、ロボットを研究することは人間を深く知ることだという、このアンドロイドサイエンス、ロボット研究者の一人者の方がおっしゃっていた言葉を思い出すんですけれども、このＡＩ開発においても、ニューロンの数理モデルですよね、脳神経系を基にしてということもありまして、これ基本は、このヒューマンアンドロイドサイエンスにも通じるというか、ベースを同じにするものだなというふうに思っております。 　そこで、非常に素朴な疑問で恐縮なんですけれども、どんなに技術が進歩したとしてもＡＩにはできないことというのを、それぞれの参考人の皆様どのようにお考えになるか、お答えをいただ

ありがとうございます。 　これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いなのかなというふうに思っています。 　ちょっと御質問の趣旨とは違うかもしれないんですけど、ＡＩができないことというより、人間がＡＩに対しての感情の障壁を今持っているというところが、ちょっと返答とさせていただきました。

ありがとうございます。 　私も技術の会社におりまして、ほとんどの者が技術の開発者であったりエンジニアの方々でありますので、彼らはいろいろとやりたいというところもあるし、あるかと思いますが。 　ＡＩにはなかなか取って代われないような職業とか、そういった話は昨今いろいろなところであると思うんですけれども、今日のお話のところで一つ、恐らくここはないだろう、人間の関与は絶対に必要になるのは、やはり先ほどから出ているルールメークの部分でございます。 　ここの部分というのは、やはり交渉事があると同時に、これは官でも民でもどんなレベルでもそうだと思いますが、我々はコロナを体験をしまして、その間に世に言うオンラインのみの世界を知ってまいりましたけれども、やはりこの部分のところというのは一つ、こういう交渉事部分のところについて、それからそこを促進していくような、そういうような活動というところは一つ、本

お答えいたします。 　ＡＩというのは、特定の評価基準を前提としたときに、それをより効率的に実現する機械だというふうに言えようかと思います。したがって、あらかじめ評価基準が定まっているチェスや囲碁、将棋といったゲームでは、これは人類の大方をとっくに追い越してしまったということになるわけです。 　ところで、例えば現代アートというのはそういうものではなくて、むしろ新たな評価基準を提案する、そういう営みであります。あるいは、法解釈、私の専門領域について申し上げますと、例えばこれまでの判例があるのでそれに沿って判断するという比較的機械化できそうな部分も当然あるわけですが、最高裁判決の多くがそうであるように、むしろこれまでと違う考え方、これまでと違う評価基準というものを積極的に提案するようなものもあるわけですね。 　そのようなクリエーティブな側面というのをＡＩはいまだ成し得ていない。したがって、

御質問ありがとうございます。これまでの皆様の、参考人とほぼ同じような答えになってくるとは思いますが。 　やはりＡＩというのは、基本的には、工学的に見ると、目標を与えてそれに対して回答する話です。その中で、こういうふうにしたらこういう感情を返せとか、こういうふうに怒っている顔をしろとか、目標を入れれば何でもできるんですけれど、それが本当の感情かという話と、先ほど、例えば最適化をする際に何を最適化するかという目標を入れなきゃいけないんですけど、やはり人間の感覚でいうと、今までどおりの平均値の答えを出してくださいとやれば出るんですけど、これがやっぱりいいよなと感じるところというのは、これは人間の感情、感覚の話で、そこの判断をＡＩに任せると面白いものはできない。したがって、そこはやはり人間がやらなきゃいけないところだと、こういうふうに考えております。

四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。 　それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。 　市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかというところも非常に分かりづらいと。ＡＩ技術に対してリスクベースアプローチにより効果的に法規制を行うためには、その社会的リスクの特定が不可欠であるが、そもそも、ＡＩなどの新興技術がもたらす社会的リスクについては、その普及が進展する前に事前に

ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 　今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術というものでそれを実現していくということが大事なのかなと思っております。 　以上でございます。

ありがとうございます。 　イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。 　今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉えるべきは何なのか、そのタイミングは何なのかというところは、これから日本のモデルの中で、それの適正な部分というのはこの官民連携の中でやはり模索をしていくものであろうというふうに考えております。そのときの、どうやってそれを判断するかとかそ

ありがとうございます。 　我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。 　そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない分野として注目すべきだと思っておりますのは、それは私がこの業界にいるからでもありますが、教育であります。 　教育現場にＡＩが着々と進出しつつありますが、それに対する規制ないし、あるいはリスク評価自体も極めて乏しいという状況にありますの