独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長

お答えいたします。 　私は技術者でございますので、技術の観点から申し上げたいと思います。 　子供の権利が脅かされるというところ、これは、ＳＮＳを例えば未成年あるいは十六歳以下で使ってはいけないというところを既に実施している国というのがございますけれども、実際としては、抜け道というのが多く存在していて、結局、その抜け道を用いて使っていた子供というのが、逆に、使える国よりも更に危険に陥っているという事例があるというふうに聞いております。ですので、感情論で、子供は使ってはいけないとか、子供に触らせないといったことではなく、有効的に、何をすれば一番子供にとって利益になるのかというところを考えた、そういった法規制を技術とともに考えていくということが必要なのではないかなというふうに思います。 　また、技術というのは進化しておりまして、例えば、先ほど例にお示しいただいたような、子供のときの写真で大

御質問ありがとうございます。お答えいたします。 　ＡＩの規制についてというところでございますけれども、これは昨年、日本でもＡＩ法というのが成立いたしまして、しっかりこのＡＩの規制について考えていくということが進んだ昨年であったというふうに考えております。 　諸外国と比べますと、ほとんど規制のないアメリカ、そして、きちんと規制はあって、確立しようとしているＥＵ、これの間の、言ってしまえばいいとこ取りである、ハードローを用いてソフトローであるガイドライン等を規定するというこの日本の法律というのは、世界的に見てもかなり評価されているというふうに考えられます。 　先ほどもお話がありましたように、何か規制があったら技術が進まないか、イノベーションが進まないかというと、技術、イノベーションを阻害してしまうような固い規制というのは推奨できないんですけれども、何をやってはいけないかということが明確に

御質問ありがとうございます。お答えいたします。 　まさにおっしゃられるとおり、匿名で、例えば氏名を黒塗りにしたとしても、その後、ほかのデータを組み合わせることで本人を特定するということは技術的には可能だというふうに考えております。 　そのために、それを特定されないように、先ほど御紹介したようなＰＥＴｓなどの技術を用いて、ほかのデータをわざと混ぜることにより匿名が保たれるような、そういった技術というのを担保するということが非常に重要ではないかと思っております。 　また、技術の観点で申し上げますと、絶対に漏えいをしないとか絶対に特定ができないということを証明することは難しいことでございますので、数学的に、個人が特定できないような、そういう技術というのを用いながらも、最終的に、もし特定をされてしまった場合に、どのような形で最終的な出口のところでガードレールを持つのかというところと併せた形で

ありがとうございます。お答えいたします。 　おっしゃられるように、技術というのは、こちら側が持っている以上に対抗する悪意を持った人が持っていると、それを打ち破られてしまうという危険性がございます。 　そのためには二点必要なものがあると思っておりまして、まず一点目は、やはり最新の技術というのをしっかりと業者、個人情報を取り扱う業者というものにしっかり持っていただくということをきちんと推奨するということ。そして、二点目は、個人情報を持つ、取り扱う事業者に対して、どのようにそれを取り扱っているのか、ガバナンスしているのかということ、透明性を高くしていただくということ。この二点が重要ではないかというふうに考えております。 　以上でございます。

御質問ありがとうございます。お答えいたします。 　まず一点目でございますけれども、この改正案でございます本人同意不要のデータの供出につきましては大変評価をしております。 　先ほども述べさせていただきましたけれども、利活用を前提にして、データを、今まで個人情報の本人の同意を個別に取らなくてはいけなかったということは、他国と比べましても劣後しているということは否めないところでございましたが、今回の法改正によりまして、そこの部分が、利活用が加速するということを促進するものではないかというふうに思っております。 　一方で、やはりそれに伴うリスクというものをしっかり考えなくてはいけないと思っております。私は、企業でチーフデータオフィサーをしておりますけれども、企業の中でのデータガバナンスというのは苦労しているのですけれども、日本の企業の中では、特にデータガバナンスの苦労というのは多くあるように

ありがとうございます。 　ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。 　では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。 　まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。 　私は、先ほど申し上げましたＡＩセーフティ・インスティテュートの所長をしております。そして、民間の立場もございまして、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフ・データ・オフィサーということで、データの観点からこのＡＩの促進というものを見ております。また、ＡＩ戦略会議の下部組織であるＡＩ制度研究会にも参画いたしまして、座長代理を務めさせていただきました。 　私のキャリアはＡＩの研究者から始まっておりま

お答えいたします。 　今、ダイバーシティーというところ、今回の御説明の中では、女性の母数を増やす中での女性の拡大というところで取り上げさせていただきましたが、女性というのはダイバーシティーの一部でしかないというふうに考えています。 　ＡＩの開発というのは、二〇一〇年代に開発者が三十代の白人男性しかいないということが非常に問題になっていました。参考人のどなたかが例に出されていた黒人の差別的なＡＩのシステムができたというところも、そういったことが原因で起きています。 　そういったそのＡＩとしてつくられたものがリスクがあるかどうかというのは多様な見方がありまして、そこをしっかりと、国にとって、あるいは国民にとって害のないＡＩというものをどうつくっていくのかというのは非常に重要なところだと思っています。これに関しては技術的な側面と倫理的な側面という二つあると思っています。 　まず、倫理的に

ありがとうございます。 　これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いなのかなというふうに思っています。 　ちょっと御質問の趣旨とは違うかもしれないんですけど、ＡＩができないことというより、人間がＡＩに対しての感情の障壁を今持っているというところが、ちょっと返答とさせていただきました。

ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 　今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術というものでそれを実現していくということが大事なのかなと思っております。 　以上でございます。

ありがとうございます。お答えいたします。 　ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。 　これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなん