村上明子

ありがとうございます。 　御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導して進めていっていただくことを期待しております。 　さて、御質問でございますけれども、御指摘のように、十六条に、ＡＩの活用のところで、何か国民の不利益になるところに関しまして、きちんと分析をして対策を講ずるというところがございます

ありがとうございます。 　ＡＩ人材だけではなくて、ＡＩの利用人材におけるダイバーシティーというところでございますけれども、これは、私からの個人的な意見としては、やはり業務で今ＡＩを使うということと、あと、普通の市民生活でＡＩを使うということ、両方今進んでいます。 　正直、ちょっと、私は日本の企業におりますけれども、企業よりも皆さん生活で使われている方が進んでいるというところになります。そうなると、生活者としては、実は女性と男性は余り差分なく、あるいはいろいろなものに興味を持つという観点では、もしかしたら女性の方が積極的に使っている可能性もあるなと思います。済みません、手元にそういう分析のがございませんけれども。ただ、やはりそれがどんどんどんどん加速していくと、どんどん、企業生活で使っていった人が市民生活でも使っていくという流れが、普通は技術はその順番で来ることも多くございますので、様々

ありがとうございます。お答えいたします。 　まず、その人材、一般的に男女関係なくＡＩ人材をどう増やしていくのかというところでございます。一見矛盾しているように思われるんですけれども、理系、文系という考え方があるのは世界的に見ても日本だけなんですね。理系的、サイエンスといったときに、いろいろな学問を勉強した上で自分の強みというものに、その工学であるとか理学というものを専攻するといったものが大学の勉強のところでは一般的になっています。 　ＡＩというのは、技術的なことももちろんそうなんですけれども、本当に深い、深層学習の数学のレイヤーよりも少し上の部分というのは学際的な知識というのが必要になってまいります。そういったところを理解しながらできるような人材というのが日本に欠如しているのではないかというところを思っておりまして、もちろんＡＩの研究者を増やすのと同時に、そういったその学際的なところも

ありがとうございます。 　私は、ＡＩセーフティ・インスティテュートの所長としてこの戦略本部に対して非常に期待もしておりますし、一方で、おっしゃられたような不安というものも感じているところでございます。 　ＡＩは、全てを理解しようと思うと、私のような技術者出身でも全ての技術というものを今理解しているかというと、私は残念ながら、それはお答えとしては違うというふうにお答えせざるを得ません。これ、世界広しといえど、全てのＡＩの技術を網羅して理解している方というのはいらっしゃいません。 　一方で、技術を理解しないとＡＩの施策がつくれないかというと、私はそれは違うとは思っています。ただ、やはり先端的にどういうことが懸念として起こっているのか、あるいはどういう技術ができて、今何ができようとしているのかということは、技術者を通して皆さんに理解をしていただいて戦略を作っていただくというのが大事だと思っ

ありがとうございます。 　私の民間としての立場としてこちらお答えさせていただきたいと思います。 　私は保険会社でＡＩの促進をしておりますけれども、ＡＩに限らず、技術を使った効率化というものは本当に、一〇％、二〇％ではなくて、五〇％、八〇％といった大きな効率化につながることがございます。その一つのビジネスプロセスを何かＡＩに置き換えるのではなくて、もうＡＩの時代に合わせたビジネスプロセスにする。それで、これは私の会社の例ではございませんけれども、五〇％以上の、財務会計に資するような、そういう効果を出すということがその技術力によってできる時代になってきています。 　これを使わないということになりますと、例えば私が所属している保険会社の例で申し上げますと、保険料をお支払いするときにそれだけ人件費が掛かっていると、いただく保険料の方が上がってしまうというような、市民の方に対する不利益を講じて

ありがとうございます。 　私からは、政府の組織の立場とそれから民間の立場と、両方の立場からお答えさせていただければと思います。 　まず、民間での、その民間同士といったときに、今ＧＡＦＡの例出されましたけれども、まず一般的に、ＡＩが加速して自分たちの提供しているものが使われるために協力をし合うということが今のＡＩの会社同士でも起こっていることです。 　例えば何があるかというと、ラージ・ランゲージ・モデルという言語モデル、ＡＩのモデルを安全にするために協力して、何がそのＡＩのリスクなのかということを会社の垣根を越えて模索するということはしています。これは、個社で、自分たちでそのリスクというものを全部網羅することができないので、協力し合うと。 　ただ、それをビジネスにする場合、例えば、私、金融におりますけれども、金融のＡＩリスクというものをコンサルテーションするような、そういうリソースを

お答えいたします。 　海外と日本と比べるとＡＩに対する障壁が少ないというのは、私も肌感覚ではございますけれども、感じております。やはり、ＡＩの暴走であるとか人権侵害ということを考えるのは、日本の方よりも海外の方の方が多いという印象でございます。 　一方で、その安全に使えるのが、安全だというふうに考えているのが一〇％台、規制が必要だと考えているのが七割を超えているというこの現状でございますけれども、こちらは、やはりまずその安心と安全という言葉の定義をこちらで再定義させていただければと思うんですね。安全であるということと安心できるということには少しギャップがあります。安全であることというのは、例えば規制を行ったり、あるいはそのレギュレーションを作ったりということで、リスクが起きないように事前に用意をしておくということが安全につながるんですけれども、それが十分になされているということが周知し

お答えいたします。 　まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。 　それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のところにあるルールを持って絞り込むというようなことに利用する場合と、採用に近いところに、割と比較的採用したら活躍してくれる人をＡＩのモデルを作って選別するというような、そういう形で作るような、そういうモデルがありますけれども、今、前者の方に

ありがとうございます。 　今、既存法とガイドラインでしっかりと見ていくといったところは、まさにこの法案での指針なんですけれども、例えば人事採用であるとか、そういった人の選別にあるようなものというものに関して一定のガイドラインを設けたときに、そのガイドラインに従っているかどうか、あるいはガイドラインに従っていることを透明性高くしているかどうかということは、何らかの外に分かる形で示すということで対応ができるのではないかなというふうに思っております。 　以上です。

まず、一点目の国際協力に対してできるのかというのは、恐らく本日参加している四人の参考人が皆心配しているところというふうに思っております。 　私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。同じ人が結構代わる代わる闘っているというところで、ほかの国を見ますとかなり層が厚くなっています。なので、これはもう急務として、その国際的な議論ができる人材というのを育成しなきゃいけない。これは官民両方ですね。民間から、私のように民間から出て協力をする人だけではなくて、官の中にもそういった人材をきちんと育成することは急務だというふうに考えます。 　二つ目の国民の責務でございます。 　これ、責務という言葉の重みでございますけれども、努力目標と責務というのが、日本人にとっては、努力してくださいというのと責務というのがほぼ同じぐらい重く捉えられているというふ