経済産業委員会

○竹内委員長　午後一時三十分から委員会を再開することとし、この際、休憩いたします。 　　　　午後零時三十一分休憩 　　　　　――――◇――――― 　　　　午後一時三十分開議

○竹内委員長　休憩前に引き続き会議を開きます。 　質疑を続行いたします。鈴木義弘君。

○鈴木（義）委員　お疲れさまです。国民民主党の鈴木義弘です。 　先週の一般質疑のときに、時間がなかったので、総括して大臣にお尋ねしたんですけれども、通告もしてありましたので、今回、ちょっとＡＩについてのうち、細かいことをお尋ねしていきたいと思っています。 　ＡＩが何か問題や事故を起こした際、ＡＩアルゴリズムの複雑化により、ＡＩが出力した結果を説明することができず、責任の所在を明確化できていないという指摘があります。責任の所在が分からなければ、ＡＩを用いた商品やサービスを開発、提供してもユーザーから信頼を得られないんじゃないかという考え方です。 　ＡＩを用いた商品、サービスの開発、提供のためには学習データやアルゴリズムに透明性が求められるが、技術面、コスト面から現状では実現が難しいんじゃないかというふうにされている。 　これは避けて通れない課題だと思いますし、アルゴリズムも含めて、深

○野原政府参考人　お答え申し上げます。 　ＡＩについては、様々な分野で国民生活を便利にし、幅広い産業分野において大幅な生産性向上をもたらす可能性があると承知しておりますが、一方で、委員御指摘のような、ＡＩを用いた商品やサービスの開発、提供において、ＡＩの信頼性を向上させることが重要だという御意見があることも承知しております。 　こうした中で、イノベーションの促進とリスク対応の両立といった課題、それから、ＡＩの推論結果を人間が理解、納得できない、あるいはＡＩの品質評価や管理手法が確立されていないといった技術的な課題もございます。 　こうした課題に対応するため、経済産業省ではこれまでに、企業のＡＩガバナンスに関して、企業の取組を支援するためのガイドラインを作成し、企業にお使いいただいているといった取組を行っております。 　また、二〇二〇年度からは、品質管理手法の確立に向けた研究開発も、

○鈴木（義）委員　かぶるところも出てくるんですけれども、例えば、ＡＩの多くは学習の内容を理解しているわけじゃないんですね。学習パターンと合致する結果を出力しているので、ＡＩの学習モデルに用いるデータが人権や民族、性別などによる偏見の影響にある場合、ＡＩも偏りのある分析や結果を出力します。 　要するに、中身のことを、まあコンピューターといっていいのかな、プログラム、ＡＩが理解をしているわけじゃなくて、人間が入れたデータを、何らかの形、どこかの系統を通って一つの答えを導き出しているだけの話だから、だから、差別や偏見のある結果を出すことに対して最終的にジャッジするのは人間の私たちだと思うんですね。 　ＡＩが出してきたことをうのみにするのかしないのかということになっていくんですけれども、それが、今申し上げたような、偏見のある人がプログラミングしたときに、出てきた結果も偏見のあるものになってしま

○野原政府参考人　お答え申し上げます。 　先ほどの御質問に対する答弁で少し触れましたが、経済産業省でこれまで企業のＡＩガバナンスに関する取組を支援するガイドラインを作成しておりますが、このガイドラインの中で、企業に対して、ＡＩの利活用のリスクを正しく認識した上での対応を促しておりまして、例えばチェック項目の中で、システム開発者が不当な差別を維持、助長するような出力となっていないか評価を行ったかどうかというのをチェックするようにというのをチェック項目として挙げておりまして、差別的出力への対応を求めております。 　ＡＩの利活用に関しては、今御指摘ありましたけれども、イノベーションによる便益とリスク管理を適切にバランスさせることが重要でございまして、このようなガイドラインを通じまして、企業自らが適切なガバナンスを考えながら、差別的出力への対応も含め、ガバナンス体制を構築、運用していくように促

○鈴木（義）委員　今は、ガイドラインで何とかやりましょう、こういう方針でやりましょうと言っているにしかすぎなくて、世の中はいい人が大半なんだと思うんですけれども、中にはやはり悪意を持った人もいないわけじゃないと思うんですね。それで、すごくＡＩにたけた能力のある人が悪意を持ってプログラミングしていったときに、それはガイドラインだけでは止められないと思うんです。 　先ほどの一番のところでお尋ねしたときに、例えば、去年のたしか警察庁の方で出してきた自動運転の車の取扱いの、法律が出てきたかな、答申だけだったか、ちょっと私も記憶が定かじゃないんですけれども、例えば東京から青森までトラックを走らせるのに自動運転でやったときに、全部の都道府県の公安委員会の許可を取ってくれ、こういう説明だったんです。 　レベルは今３までしかないので、運転手が乗っていないと道交法上は駄目なんですけれども、これがレベル４

○山澄政府参考人　お答えいたします。 　個人情報保護法におきまして、事業者は、個人情報を取り扱うに当たりましては、利用目的をできる限り特定し、その利用目的をあらかじめ公表している場合を除きまして、速やかに本人に通知し、又は公表しなければならない、こういう規定がございます。 　こういう通知、公表に当たりましては、事業者の事業の性質及び個人情報の取扱状況に応じて、合理的かつ適切な方法によらなければならない旨を私どもとして示しておるところでございまして、ＡＩの局面におきましても、当然ですが、こういうような規定が適用されますものですから、これらを的確かつきちんと運用することを通じまして、個人情報の有用性に配慮しつつ、個人の権利利益保護を引き続き図っていきたい、こう考えてございます。

○鈴木（義）委員　じゃ、今私の画面で見ているのは違法なことなのか、そうじゃないのかといったら、どうなんですか。私は認証した覚えがないんですよね。 　だから、今の御答弁だと、個人の確認をしてから情報を出しなさいよというふうに御答弁いただいているんですけれども、でも、パソコンを開いてやっていると、ぺっと広告が出てくるんだけれども、別にそれは私が欲しいと思って認証したわけじゃなくて、もう相手方のサイトから広告が入ってきてしまうというのはどういうことなんですか。それは違法なんですか、違法じゃないんですか。

○山澄政府参考人　お答え申し上げます。 　個人情報保護法の規定に従いますと、一般的には、個人情報につきましては、先ほど申し上げましたように、利用目的を通知又は公表するという規律がございますのですが、必ずしも利用者の承諾、認証というものを要件としておりませんので、通知、公表が適切にされているかというところがポイントになるかと思っております。