内閣委員会

済みません、通告ございませんでしたので、ちょっと私の方からお答えさせていただきます。 　ちょっと細かくお答えしますと、確かにＡＩ法案、ＡＩ法という面で比べますと、日本のＡＩ法には罰則規定がないということがございます。しかし、法体系ということで比較をしますと、ＥＵが言っているその四つのランクに分けて、一番厳しいものは禁止、次は基準適合義務とか、こういう考え方ですけれども、日本も当然、刑法とか個人情報保護法に抵触するものは規制が掛かっているわけですし、それから医療機器とかであればその認証というのがありまして、そういう意味では、やっぱりリスクの高いものについては何らかの規制が掛かっているというところは、ＥＵと日本は、法律は違うんですけど、ＡＩ法ではなくて個別の業法みたいな形になりますけれども、ＥＵと同じような考え方ではあるということだと思います。 　さらに、そのＥＵの法律はいわゆる一般的な、

罰則、罰金があるというのは細かい問題ではないと私は思いますよ。この間も紹介した、今日も出されました国民の様々な不安について言っても、やはり応えるものに現状ではなっていないということを指摘しておかなければなりません。 　その上で、大臣にこのＡＩのリスクに対する対応についてお聞きしますが、このＡＩには、判断の根拠や過程がブラックボックスになる問題や、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうと、こういうバイアスの問題があります。今日も幾つか指摘をされました。 　これが就職試験とか人事評価、人間の評価、選別に活用されれば、差別や不利益をもたらす危険があるということも指摘をされてきました。アメリカのアマゾンは、ＡＩを活用した人材採用システムに女性を差別する学習効果があることが判明して運用を取りやめたということもありました。これも日本でも広く知られて

お答えいたします。 　ＡＩをめぐる問題の中には、機械学習モデルについて透明性が欠如、すなわちブラックボックスとなっていて内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性があることや、あるいは偏ったデータを学習に使用することでＡＩが下す判断も偏ってしまうと、すなわちバイアスが掛かってしまう可能性があることなどがあると認識しております。 　このブラックボックスに起因する問題としては、例えばＡＩが不適切な判断や誤った判断をした場合に、なぜそのような判断が行われたのかが説明できないと、責任の所在が不明確になったり、再発防止を図ることが困難となったりするということが考えられます。 　また、バイアスに起因する問題としては、例えば偏ったデータの学習が行われることによりまして、ＡＩが特定の人種、性別、年齢、地域などに対し不当な判断を下してしまうということも考えられます。 　以上

今様々なことを挙げられましたけど、今年三月に時事通信が行った主要企業百社の調査によれば、約三割の企業で採用活動にＡＩが導入をされています。既にボーナスなどの人事評価にＡＩを使っている企業もあるわけで、更に普及が進めばリストラツールに使われるんじゃないかという指摘もあるわけですね。 　今、様々、るるリスクについてお話がありましたが、では、この日本での従業員の採用や人事評価システムの安全性、実際に使われている、この安全性がどのように確保されているのか、それから、そういう企業がきちっとガイドライン等を守っているということを誰が確認をしているのか、どのようにチェックしているのか、どうでしょうか。

お答え申し上げます。 　ＡＩを利用しているか否かにかかわらず、雇用等の場面でそのＡＩを使って、それが偏見、差別を含んでいるというのは、これは良くないことでございまして、厚労省のガイドライン等でこういった点については一定の考え方というのは示されているところであります。 　また、総務省と経産省、先ほども御答弁ありましたけれども、作っているＡＩ事業者ガイドラインにつきましては、事業者がＡＩを使う場合に、これ当然そういった人事評価とかそういうものも含むというふうに考えておりますけれども、そういうところで使う場合にバイアスとかそういった問題にも配慮をしなきゃいけないということが書かれております。 　また、今国際的なＩＳＯとかＩＥＣで議論されているＩＳＯ４２０００シリーズという国際規格がありますけれども、これも、事業者がＡＩを使ったときのマネジメントについて国際標準というのを作っているところでご

まあいろいろ言われて、結局業者任せなんですよね、指針ちゃんとやりなさいよと。 　先ほど紹介したＥＵのＡＩ規制は、ＡＩのリスクに応じて四段階に分類して法規制をするわけですが、雇用や人事選考などでＡＩを利用することはハイリスク利用のカテゴリーに位置付けられて、第三者機関による適合性審査を義務付けて安全性を確保するということがやられてきております。 　日本でもこの第三者機関などによる外部からのチェックということが必要だと思いますけれども、いかがでしょうか。

お答えします。 　雇用や人事採用、選考の在り方につきまして、我が国におきましては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等におきまして一定の考え方が示されているところであります。また、ＡＩ事業者ガイドラインにおきましても、ＡＩの活用に当たりましては事業者が留意すべき事項等を示しているところであります。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおいて性別を理由とする差別が禁止されているなど、既存法による一定の取組も存在しております。 　御指摘のＥＵのＡＩ法では、確かに最上位から二段階目となるハイリスクなＡＩシステムに雇用や人事に係る事項が位置付けられていることは承知しておりますけれども、各国の制度体系はそれぞれの歴史あるいは文化によって異なるものでありますので、一概にはちょっと比較するのはどうかなというふうに思いますが、いずれにしましても、我が国と

指針の整備とか言われますが、やはりきちっとそれが守られているかということをチェックをしなければ、これは実効性ができないわけでありまして、第三者のチェック体制を整えることが必要だと繰り返し求めたいと思うんですが、同時に、それにとどまらず法規制そのものを強める必要があると思います。 　今年四月の大手法律事務所のニュースレターによりますと、米国では、連邦政府が業界自主規制の促進や非拘束的ガイドラインの発行といったアプローチを優先してきた一方で、州レベルですね、州レベルではＡＩ関連法案の提出が急増し、ＡＩに関わる事業者に実質的な義務を課す規制法案が顕著に増加していると、こういう報告がされております。イリノイ州やメリーランド州、ニューヨーク州、ニュージャージー州、カリフォルニア州、マサチューセッツ州などで採用や人事評価の分野でのＡＩ利用についてバイアス監査、事前通知、応募者の同意などを義務付ける法

先ほども申し上げたとおりですが、国によりまして歴史や文化の背景が異なりますことから、各国の制度や法体系、様々であると考えております。 　我が国について言いますと、安全性の審査については各種業法、いわゆるプロファイリングについては個人情報保護法といった既存法によりまして規制の対象となる場合があるものと承知しております。 　これに加えまして、本法案第十三条に基づき整備する新たな指針におきましては、ＡＩの研究開発、利用の透明性の確保を図っていくこととされております。この指針におきまして、生成ＡＩが格差、差別を助長するような出力をしないための措置をＡＩ開発者が講じることについて盛り込むことを検討しているところであります。 　いずれにしましても、今般のＡＩ法案に基づきます枠組みの中で、必要となる対応をしっかりと図ってまいります。

繰り返しになりますが、業者任せではなくて、ＡＩの発展や普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を図るということを一体で行うことが必要だということを強く求めまして、終わります。