鈴木義弘

○鈴木（義）委員　終わります。 　ありがとうございました。

○鈴木（義）委員　お疲れさまです。国民民主党の鈴木義弘です。 　先週の一般質疑のときに、時間がなかったので、総括して大臣にお尋ねしたんですけれども、通告もしてありましたので、今回、ちょっとＡＩについてのうち、細かいことをお尋ねしていきたいと思っています。 　ＡＩが何か問題や事故を起こした際、ＡＩアルゴリズムの複雑化により、ＡＩが出力した結果を説明することができず、責任の所在を明確化できていないという指摘があります。責任の所在が分からなければ、ＡＩを用いた商品やサービスを開発、提供してもユーザーから信頼を得られないんじゃないかという考え方です。 　ＡＩを用いた商品、サービスの開発、提供のためには学習データやアルゴリズムに透明性が求められるが、技術面、コスト面から現状では実現が難しいんじゃないかというふうにされている。 　これは避けて通れない課題だと思いますし、アルゴリズムも含めて、深

○鈴木（義）委員　かぶるところも出てくるんですけれども、例えば、ＡＩの多くは学習の内容を理解しているわけじゃないんですね。学習パターンと合致する結果を出力しているので、ＡＩの学習モデルに用いるデータが人権や民族、性別などによる偏見の影響にある場合、ＡＩも偏りのある分析や結果を出力します。 　要するに、中身のことを、まあコンピューターといっていいのかな、プログラム、ＡＩが理解をしているわけじゃなくて、人間が入れたデータを、何らかの形、どこかの系統を通って一つの答えを導き出しているだけの話だから、だから、差別や偏見のある結果を出すことに対して最終的にジャッジするのは人間の私たちだと思うんですね。 　ＡＩが出してきたことをうのみにするのかしないのかということになっていくんですけれども、それが、今申し上げたような、偏見のある人がプログラミングしたときに、出てきた結果も偏見のあるものになってしま

○鈴木（義）委員　今は、ガイドラインで何とかやりましょう、こういう方針でやりましょうと言っているにしかすぎなくて、世の中はいい人が大半なんだと思うんですけれども、中にはやはり悪意を持った人もいないわけじゃないと思うんですね。それで、すごくＡＩにたけた能力のある人が悪意を持ってプログラミングしていったときに、それはガイドラインだけでは止められないと思うんです。 　先ほどの一番のところでお尋ねしたときに、例えば、去年のたしか警察庁の方で出してきた自動運転の車の取扱いの、法律が出てきたかな、答申だけだったか、ちょっと私も記憶が定かじゃないんですけれども、例えば東京から青森までトラックを走らせるのに自動運転でやったときに、全部の都道府県の公安委員会の許可を取ってくれ、こういう説明だったんです。 　レベルは今３までしかないので、運転手が乗っていないと道交法上は駄目なんですけれども、これがレベル４

○鈴木（義）委員　じゃ、今私の画面で見ているのは違法なことなのか、そうじゃないのかといったら、どうなんですか。私は認証した覚えがないんですよね。 　だから、今の御答弁だと、個人の確認をしてから情報を出しなさいよというふうに御答弁いただいているんですけれども、でも、パソコンを開いてやっていると、ぺっと広告が出てくるんだけれども、別にそれは私が欲しいと思って認証したわけじゃなくて、もう相手方のサイトから広告が入ってきてしまうというのはどういうことなんですか。それは違法なんですか、違法じゃないんですか。

○鈴木（義）委員　最後のところがよく分からないんですけれども。 　じゃ、そこのところは厳格にやろうというふうに事業者に指導するんですか。

○鈴木（義）委員　だから、今懸念を申し上げているとおり、一応建前はそうなっているんでしょうけれども、じゃ、取締りをしたという話は全然聞かないし、行政指導したという話もほとんど聞かないですよね。それでずっと流れてきちゃって。 　一応ルールはルールであるけれども、じゃ、従ってくださいね、こうやってほしいですよというふうにおっしゃるんだけれども、それが、だって、今私が見ているサイトだけでも出てきているんですよね。それは、個人情報委員会の方に苦情みたいな形で言えば対応してくれるということでよろしいんですか。

○鈴木（義）委員　では次に、近年では、チャットボットやＥＣサービスなど、ＡＩ組み込み型アプリケーションが多く開発、提供されていると聞きます。ＡＩの権利を守る法律が整備されていないということですね。 　特許権、著作権は人のみが有する権利だというのは承知しています。ただ、ＡＩが創造したものには権利は発生しないというんですけれども、ＡＩで絵やデザイン、音楽も含めて作成をしたりした場合の著作権は、今のところ、データを入れる人間がいれば、人間が著作権を持つがというふうにお聞きはしているんですけれども、それが、ＡＩがもうちょっと進化していったときに、自分がいろいろなデータを、まあ、音楽のデータでいいと思うんです、絵でもいいんですけれども、入れていったときに、自分でＡＩが自発的に音楽を奏でた場合に、人間がデータとして入れ込まなければ、ＡＩが作っちゃったものというのが今後出てくると思うんです。 　基本

○鈴木（義）委員　ありがとうございます。 　次に、ＡＩ技術においては、シンギュラリティーというんですか、技術的特異点、それと、二〇四五年問題と呼ばれる概念が存在していると言われています。 　これまで人間が開発してきたＡＩなんですけれども、ある時点から自ら学ぶ性質を持ち、成長して、人間の想像を超える知能を持つことを問題視するというふうに言われています。二〇四五年問題というのはそういうことです。もしかすると、もっと早くそれが到達する可能性がないわけじゃないと思うんですね、未知の世界にどんどん入ってきていますから。 　そうなったとき、ＡＩが人間の知能を超え自ら学ぶようになったとき、倫理のない状況では、悪意なく社会に負の影響をもたらしてしまうんじゃないかということが懸念されています。 　これを避けるには、開発段階から倫理に基づく設計を行う必要があり、ＡＩ倫理について世界的に深く議論し、早急

○鈴木（義）委員　検討していくのはいいんですけれども、検討した結果、やはりある程度規制をかけていく方向で検討するのか、いや、規制をかけないで自由にやってもらった方がいいというふうになるのか。でも、自由にやってもらうと、今言っている二〇四五年問題は解消できないんですよね。もう一度、じゃ、お考えを。