参議院

ありがとうございます。 　大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。 　たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。 　先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこういう課題があるということをちょっとお話しいただきたいということと、あと、無意識であるがゆえに、出てきたものに対してそのジェンダーロールの潜在的なものを顕在化するためにどういうことが必要であるというふうにお考えになっているか、お話しいた

ありがとうございます。お答えいたします。 　ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。 　これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなん

ありがとうございます。 　それぞれの参考人の皆さんから非常に貴重なお話を伺うことができました。 　ＡＩに使われるのではなく、あくまで人間中心で、私たちがＡＩを活用して、より私たちのこの暮らしのクオリティーを上げていくということに資するものでなければならないというふうに私も感じますので、今日いただいたお話を参考に、人間疎外にならないＡＩ技術の推進、この立法府としてどのように取り組んでいけるか、お話を参考に取り組んでいきたいと思います。 　ありがとうございました。

公明党の竹谷とし子でございます。 　四人の先生のお話を伺いまして、大変勉強になりましたし、また興味深い点が多々ありました。ありがとうございます。 　まず、村上参考人に伺いたいと思います。 　日本がイノベーション進まなかった理由として、前例踏襲、保守的な日本企業、まさにそうだなということを思いましたけれども、ＡＩの安全性を担保すれば利活用とイノベーションはできるだろうと、本当にそうだなということも思いました。 　国及び自治体、行政側でも活用していこうということでこの法案の中でうたわれておりますけれども、自治体、私、東京なんですけれども、東京の各自治体でも、様々もう既に取り入れているということでございます。一方で、まだ使っていない自治体の理由として、安全性を担保した上で使用できるか検証を重ねていきたいと。著作権侵害とか情報流出とか、そういったリスク、考慮をする必要性というものも現場で認

ありがとうございます。 　御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導して進めていっていただくことを期待しております。 　さて、御質問でございますけれども、御指摘のように、十六条に、ＡＩの活用のところで、何か国民の不利益になるところに関しまして、きちんと分析をして対策を講ずるというところがございます

ありがとうございます。 　続きまして、大屋先生に伺いたいと思います。 　　　〔理事磯崎仁彦君退席、委員長着席〕 　法哲学ということで、大変興味深く聞かせていただきました。事前に配付を、提供をいただきました先生の論文ですね、「ＡＩによる危機、ＡＩをめぐる危機」ということで、こちらももう十分そしゃくできているか分からないんですけれども、非常に深い洞察をお示しいただきました。 　この中にプロファイリングの問題ということで御紹介をいただいております。信用情報も具体の例に挙げていってくださっておりますけれども、本当にＡＩによるものじゃなくても、この信用機関というかの信用情報というのがブラックボックス化されていて、例えば不正利用されて、個人情報を不正利用されてクレジット情報を、クレジットカード作られて、それで支払が滞ったようなことも本人の信用情報になっている場合とかもあるようで、ただそれが本人

お答えいたします。ありがとうございます。 　まず、例えば信用情報につきましても、これまでに存在してきた金融機関は、例えば事故情報を基に信用を計算しておりますし、それについては情報開示のシステムがございまして、本人がひょっとしておかしいのではと思ったら確認をすることができる、あるいは訂正の申立てができるということになっております。しかし、ＡＩの発展によって、そのような統制を受けていない業者あるいは業態というものが生まれてくる。それを一つのリスクとして考えていかなければいけないというふうに考えておるということが第一であります。 　もう一つは、ＡＩというのはそれ自体技術でして、その技術なりの癖がある、あるいは特徴があるものであります。例えば、生成系ＡＩであればハルシネーションと呼ばれる全く存在しない情報をあたかも本当のものであるかのように提示するという現象が生じることは広く知られているわけで

ありがとうございます。 　ＡＩは便利なんですけれども、間違えることもあるし、いろんな問題があるというふうにも思っています。 　ある人が、国会質疑にＡＩ使う人をどう思いますかとＡＩのある製品に聞いたら、そういう国会質問に使っちゃうというのは、何というんでしょうか、ばかにして、笑っちゃうねという感じで言っていたということを言われまして、ああそうなんだなと、それぐらいのつもりで使いこなしていくというのが人間には、人間中心のＡＩなんじゃないかなというふうに感じたところでございます。ありがとうございます。 　次に、永沼参考人に伺いたいと思います。 　この制度運用に当たっての要望ということで明確にお示しいただきまして、ありがとうございます。 　この中の①番目のイノベーションとリスク対応のバランスということで、責任分担の明確化ということを言っていただいております。これについてもう少し詳しくお伺

ありがとうございます。 　開発者、それから提供者、また利用者といったところがＡＩのところには、事業のところには出てくると思うんですけれども、まず、引渡しをして、それぞれの、まずタスク部分のところで何をするかというところもありますけれども、それぞれに、この間のところがどのように線引きがされるのかというところがＡＩのときにはもう少し明確になっていく必要もございます。 　ここのところで申し上げているこの責任分担の明確化というところは、今、具体的にしてここのところをこう変えてというところではないんですけれども、今あるこの三者、特にここのところでは開発者、提供者というふうに申し上げておりますが、この部分のところの定義付けの部分とそこの役割分担のところをまず明確にしていく中で、その中で、その間のところの部分のところをどのように定義付けをしていくかというところを一応念頭として置いて考えております。

ありがとうございます。 　また、③番目の国際的整合性の確保というところで、ＡＩの国際ルール形成への関与を強化すべきということで御提案いただいております。 　本当にこれとても大事なことだというふうに思いますけれども、こちらどのような方法が考えられるか、また、それをいかに政府として後押しをしていくことができるかということについてもお考えを伺えればと思います。