村上明子

ありがとうございます。 　ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。 　では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。 　まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。 　私は、先ほど申し上げましたＡＩセーフティ・インスティテュートの所長をしております。そして、民間の立場もございまして、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフ・データ・オフィサーということで、データの観点からこのＡＩの促進というものを見ております。また、ＡＩ戦略会議の下部組織であるＡＩ制度研究会にも参画いたしまして、座長代理を務めさせていただきました。 　私のキャリアはＡＩの研究者から始まっておりま

お答えいたします。 　今、ダイバーシティーというところ、今回の御説明の中では、女性の母数を増やす中での女性の拡大というところで取り上げさせていただきましたが、女性というのはダイバーシティーの一部でしかないというふうに考えています。 　ＡＩの開発というのは、二〇一〇年代に開発者が三十代の白人男性しかいないということが非常に問題になっていました。参考人のどなたかが例に出されていた黒人の差別的なＡＩのシステムができたというところも、そういったことが原因で起きています。 　そういったそのＡＩとしてつくられたものがリスクがあるかどうかというのは多様な見方がありまして、そこをしっかりと、国にとって、あるいは国民にとって害のないＡＩというものをどうつくっていくのかというのは非常に重要なところだと思っています。これに関しては技術的な側面と倫理的な側面という二つあると思っています。 　まず、倫理的に

ありがとうございます。 　これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いなのかなというふうに思っています。 　ちょっと御質問の趣旨とは違うかもしれないんですけど、ＡＩができないことというより、人間がＡＩに対しての感情の障壁を今持っているというところが、ちょっと返答とさせていただきました。

ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 　今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術というものでそれを実現していくということが大事なのかなと思っております。 　以上でございます。

ありがとうございます。お答えいたします。 　ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。 　これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなん

ありがとうございます。 　御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導して進めていっていただくことを期待しております。 　さて、御質問でございますけれども、御指摘のように、十六条に、ＡＩの活用のところで、何か国民の不利益になるところに関しまして、きちんと分析をして対策を講ずるというところがございます

ありがとうございます。 　ＡＩ人材だけではなくて、ＡＩの利用人材におけるダイバーシティーというところでございますけれども、これは、私からの個人的な意見としては、やはり業務で今ＡＩを使うということと、あと、普通の市民生活でＡＩを使うということ、両方今進んでいます。 　正直、ちょっと、私は日本の企業におりますけれども、企業よりも皆さん生活で使われている方が進んでいるというところになります。そうなると、生活者としては、実は女性と男性は余り差分なく、あるいはいろいろなものに興味を持つという観点では、もしかしたら女性の方が積極的に使っている可能性もあるなと思います。済みません、手元にそういう分析のがございませんけれども。ただ、やはりそれがどんどんどんどん加速していくと、どんどん、企業生活で使っていった人が市民生活でも使っていくという流れが、普通は技術はその順番で来ることも多くございますので、様々

ありがとうございます。お答えいたします。 　まず、その人材、一般的に男女関係なくＡＩ人材をどう増やしていくのかというところでございます。一見矛盾しているように思われるんですけれども、理系、文系という考え方があるのは世界的に見ても日本だけなんですね。理系的、サイエンスといったときに、いろいろな学問を勉強した上で自分の強みというものに、その工学であるとか理学というものを専攻するといったものが大学の勉強のところでは一般的になっています。 　ＡＩというのは、技術的なことももちろんそうなんですけれども、本当に深い、深層学習の数学のレイヤーよりも少し上の部分というのは学際的な知識というのが必要になってまいります。そういったところを理解しながらできるような人材というのが日本に欠如しているのではないかというところを思っておりまして、もちろんＡＩの研究者を増やすのと同時に、そういったその学際的なところも

ありがとうございます。 　私は、ＡＩセーフティ・インスティテュートの所長としてこの戦略本部に対して非常に期待もしておりますし、一方で、おっしゃられたような不安というものも感じているところでございます。 　ＡＩは、全てを理解しようと思うと、私のような技術者出身でも全ての技術というものを今理解しているかというと、私は残念ながら、それはお答えとしては違うというふうにお答えせざるを得ません。これ、世界広しといえど、全てのＡＩの技術を網羅して理解している方というのはいらっしゃいません。 　一方で、技術を理解しないとＡＩの施策がつくれないかというと、私はそれは違うとは思っています。ただ、やはり先端的にどういうことが懸念として起こっているのか、あるいはどういう技術ができて、今何ができようとしているのかということは、技術者を通して皆さんに理解をしていただいて戦略を作っていただくというのが大事だと思っ

ありがとうございます。 　私の民間としての立場としてこちらお答えさせていただきたいと思います。 　私は保険会社でＡＩの促進をしておりますけれども、ＡＩに限らず、技術を使った効率化というものは本当に、一〇％、二〇％ではなくて、五〇％、八〇％といった大きな効率化につながることがございます。その一つのビジネスプロセスを何かＡＩに置き換えるのではなくて、もうＡＩの時代に合わせたビジネスプロセスにする。それで、これは私の会社の例ではございませんけれども、五〇％以上の、財務会計に資するような、そういう効果を出すということがその技術力によってできる時代になってきています。 　これを使わないということになりますと、例えば私が所属している保険会社の例で申し上げますと、保険料をお支払いするときにそれだけ人件費が掛かっていると、いただく保険料の方が上がってしまうというような、市民の方に対する不利益を講じて