内閣委員会

ありがとうございます。 　国民のいろんな不安の一つに、ＡＩによる人事採用や評価でいわゆるこのブラックボックスやバイアスの問題ということがいろいろ出ております。 　先日、私、この問題質問しますと、政府の答弁では、新たな指針で、生成ＡＩが格差、差別を助長するような出力をしないような措置をＡＩ開発者が講じることについて盛り込むことを検討していると、こういうお話で、一般的なお話だったんですけど、そういうものを出力しないようなことをＡＩ開発者が講じるというのは、具体的にどういうことになるのか。これ、村上参考人と永沼参考人、それぞれお願いします。

お答えいたします。 　まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。 　それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のところにあるルールを持って絞り込むというようなことに利用する場合と、採用に近いところに、割と比較的採用したら活躍してくれる人をＡＩのモデルを作って選別するというような、そういう形で作るような、そういうモデルがありますけれども、今、前者の方に

ありがとうございます。 　ここは、今お話にありましたように、各社のちょっと戦略というか、その中の内部の話になるところがありますが、一般的な話として考えたときに、各社の中ではやはりそのデータの扱いのところについては、以前の御質問のときにも申し上げましたが、ルールというものをやはり設けております、私どもの中でも。 　そのときに、各社の中でその入力データに関して、出力データに関して、その扱いに関してというところのやはりルールにのっとった形でどうしていくかというところが戦略になってくると思いますけれども、そういったところで実はどのくらいのことがやはり決められていかなければならないのかと、その扱いのところというのはやっぱりどうあるべきなのかといったような議論は、これは業界の中でもやはり横断的にあってしかるべきことで、そうすることでまた業界の中で少しずつ、やっていいこと悪いことというところがクリア

今の問題も含めて、大体政府はこの間、基本的には既存法とガイドラインを組み合わせて対応と、こういうことなんですが、結局その事業者任せになってしまうんじゃないかという、こういうおそれもあるわけなんですが、ヨーロッパなどでやっているような、いわゆる第三者のチェック体制というのも必要ではないかと思うんですが、これ、村上参考人と大屋参考人、それぞれお願いします。

ありがとうございます。 　今、既存法とガイドラインでしっかりと見ていくといったところは、まさにこの法案での指針なんですけれども、例えば人事採用であるとか、そういった人の選別にあるようなものというものに関して一定のガイドラインを設けたときに、そのガイドラインに従っているかどうか、あるいはガイドラインに従っていることを透明性高くしているかどうかということは、何らかの外に分かる形で示すということで対応ができるのではないかなというふうに思っております。 　以上です。

ありがとうございます。 　各事業者には、基本的には適切な人材を採用したいというインセンティブがあると思います。なので、不合理な差別については競争環境の中で淘汰されていくということが期待できようかと思います。 　他方で、ダイバーシティー・アンド・インクルージョンが最も適切な例だと思いますけれども、過去の経緯で例えば男女間に効率の差が生じてしまっているけれども、それは本来不当なのであるというケースがあり得ようかと思います。そのような場合には、逆にＡＩを利用することによって効率的な採用が行われた結果、既存の差別が拡大再生産されるということになりかねないというのは事実であります。 　これについては、結果に対する監査をやるという方向しか恐らくは対策はないわけでして、それを第三者機関でやるのか、あるいは、ある種の監査ＡＩみたいなものでやることを義務付けるとか、あるいは、そういう点に注意して採用活

どうもありがとうございました。 　時間ですので、終わります。

れいわ新選組、大島九州男でございます。四人の参考人の皆さん、ありがとうございます。 　早速ですが、二点、四人の皆さんにお聞きをしますが、基本理念の中の五に、国際的協調の下に推進することを旨として、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすと。いや、できるのかこれはという素朴な疑問に対してどうお答えになるかということ。 　それともう一つは、国の責務を決めるのは、それは当然だろうと。で、ここでまた、国民の責務で、ちゃんと何か国がやることと地方公共団体がやることに協力しなさいと、まあ、従えというふうには書いてないけれども、努めなさいと。それは必要なのかなと。この二点を、どうぞ。

まず、一点目の国際協力に対してできるのかというのは、恐らく本日参加している四人の参考人が皆心配しているところというふうに思っております。 　私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。同じ人が結構代わる代わる闘っているというところで、ほかの国を見ますとかなり層が厚くなっています。なので、これはもう急務として、その国際的な議論ができる人材というのを育成しなきゃいけない。これは官民両方ですね。民間から、私のように民間から出て協力をする人だけではなくて、官の中にもそういった人材をきちんと育成することは急務だというふうに考えます。 　二つ目の国民の責務でございます。 　これ、責務という言葉の重みでございますけれども、努力目標と責務というのが、日本人にとっては、努力してくださいというのと責務というのがほぼ同じぐらい重く捉えられているというふ

ありがとうございます。 　国際協力のところにつきまして、ルールメークというところで本日何度も私の方から申し上げておりますので繰り返しはあれなんですけど、この国際人材ですね。 　ＡＩも顕著でございますが、実はここに関しては課題がありまして、やはり民間、私も実はそういった場所に実際に出ておる人間でございます。民間のところ、それから官の方で一緒に連携をしてやっていかなければいけないところ、それから研究分野のところ、いろんな分野のところでとにかく、人数というところもありますし、リソースの人数もありますし、リーダーみたいな方、この主導していく方というものをやっぱり人材としては送り込んでいく必要がございまして、日本からそのリーダー格になるような方をどう送り込んでいくかというところがあります。ここは、今多様性のいろんな条件等々もあったりはしますが、いずれにしても、その部分が一つ大きな課題であるという