内閣委員会

ありがとうございました。 　多分、権力の集中というのは、意図するかしないかにかかわらず、結果的にそういうふうな構造をつくってしまうということが大きな問題ではないかなと思いますので、また今後とも、そうした問題でお話をしたいと思います。 　どうもありがとうございました。

次に、塩川鉄也君。

日本共産党の塩川鉄也です。 　ＡＩ推進法案について質問します。 　今日は、まず、ＡＩによるプロファイリング、またスコアリングの問題について質問をいたします。 　二〇一九年に、リクナビを運営するリクルートキャリアが、就活生のサイト閲覧履歴などの情報をＡＩで分析し、約九万人の内定辞退率をスコア化し、本人同意なく採用企業に販売していたことが大問題となりました。企業によるＡＩを用いたプロファイリング、スコアリングの利用実態が明らかになった事件の一つであります。このことが、学生たちの就職活動、人生に不利益となる影響を与えてしまった可能性は否定しようがないと思います。 　時事通信が主要企業百社に行った調査結果によると、採用活動でＡＩを導入する企業は約三割に上っておりますが、雇用や採用選考は人生を左右するような重大な判断であり、労働者や採用希望者に不利益がもたらされることがないよう、極めて慎重な

お答え申し上げます。 　ただいまの人間中心のＡＩ社会原則は二〇一九年三月に策定されたものでございますけれども、この中では、書いてあることをそのまま申し上げますけれども、ＡＩの長所、短所をよく理解しており、とりわけＡＩの情報リソースとなるデータ、アルゴリズム、又はその双方にはバイアスが含まれること、これらを認識する能力を人々が持つことが重要とされております。 　また、データのバイアスには主として三つございまして、一つは統計的なバイアス、二つ目は社会の態様によって生じるバイアス、三つ目はＡＩ利用者の悪意によるバイアス、この三種類があることを認識していることが望ましいというふうにされております。

そのようにＡＩによるバイアスの指摘があるところです。 　実際、アメリカのアマゾンは、開発したＡＩを活用した人材採用システムに女性を差別する機械学習の結果が判明をし、運用を取りやめたという例もあります。ＡＩが学習したデータが男性が大半である過去十年間の応募者データであり、男性の応募者の方が有望、女性は低く評価すると学習してしまったために起こったと報じられています。 　また、ＡＩには、判断の過程や根拠が不透明であるブラックボックス化という問題もあります。 　お尋ねしますが、ＡＩ事業者ガイドラインでは、ブラックボックス化の事例としてどのような事例を紹介していますか。

お答え申し上げます。 　ＡＩ事業者ガイドライン、これは総務省と経済産業省が策定しているものでございますけれども、これの本体というよりは別添になりますけれども、別添に記述がございますので、読み上げをさせていただきます。 　「ＡＩの判断のブラックボックス化に起因する問題も生じている。とあるクレジットカードにおいて、同じ年収を有する男性及び女性に対して、女性の方が利用限度額が低いとの報告がＳＮＳ上で広がった。この問題に対し、金融当局が調査を実施し、クレジットカードを提供した企業に対してアルゴリズムの正当性の証明を求めた。しかし、企業はアルゴリズムの具体的な機能及び動作について説明することができなかった」という記述がございます。

説明することができなかった。ＡＩの利用には、バイアスやブラックボックス化という差別や不利益につながる深刻な問題があるということであります。 　国内でも、既にＡＩによる人事評価が問題となっています。 　その一つが日本ＩＢＭでありまして、日本ＩＢＭが人事評価と賃金決定にＡＩを導入したことに対して、同社の労働組合でありますＪＭＩＴＵ、労働組合ＩＢＭ支部が、ＡＩの学習データやＡＩが表示するアウトプットの内容などの開示と説明を求めたところ、同社はこれを拒否しました。 　労働組合は、不当労働行為である不誠実交渉だ、支配介入に当たるとして、二〇二〇年に東京都労働委員会に救済を申し立てました。四年の交渉を経て、二四年八月、ようやく事業者側がＡＩによる評価項目を全開示することなどで和解をしたということであります。 　労働組合は声明で、社会の様々な領域でＡＩの利用が進む一方、社会に残る差別をＡＩが学習

お答え申し上げます。 　本法案では、ＡＩのデータセットですとかアルゴリズム等の開示を求める規制は想定をしておりません。 　他方で、本法案に基づいて国が指針を整備していく予定でございますけれども、そのときに、広島ＡＩプロセスの国際指針等の国際規範に準拠するということを考えております。 　それによりますと、ＡＩのライフサイクル全般、このライフサイクルというのは開発から活用までの全ての段階ということでございますけれども、そこにおけるリスクを特定して軽減するため適切な措置を講じるということが指針の中には書いてございまして、その適切な措置には多様なテストというのが含まれまして、そのテストのために、ＡＩ開発者はデータセット等に関するトレーサビリティーを可能にするよう努めるべきという記述がこの国際指針の中にございます。この趣旨を、是非、私どもとしては、指針の中に反映していきたいと思います。 　指

指針でという話ですけれども、それでいいのかという問題であります。 　この日本ＩＢＭのケースでは、労働組合の皆さんが頑張って、四年間の運動を通じて和解に至ったけれども、ほかの事例もそうなるとは限りません。この日本ＩＢＭの問題でも、背景にはアメリカの本社が進める三千九百人の人員削減の計画があるんです。ＡＩがリストラツールに使われる懸念もあります。そこに法的規制がないのでは労働者の権利を守ることはできないのではないのか、このことが問われていると思います。 　大臣にお尋ねします。 　ＥＵではＡＩ法を作り、雇用や人事、採用選考などでＡＩを利用することをハイリスクと位置づけ、第三者機関による適合性審査などを義務づけております。日本企業がＥＵで活動する場合には、当然、ＡＩ法に基づきこの適合性審査などを受ける義務を負うわけで、日本ではそれがないという点でのダブルスタンダードになるわけです。ＥＵででき

お答えします。 　私も、塩川委員御指摘のとおり、こういったＡＩが巨大企業の経営者の安直なリストラツールになるようなことがあってはならないというふうに思います。 　それを踏まえてお答えしますが、ＥＵのＡＩ法では、確かに、御指摘のとおり、ＡＩをリスクに基づき四つのランクに分けまして、最上位から二段階目にハイリスクなＡＩシステムを設定いたしまして、この段階のＡＩシステムを扱う事業者には基準遵守義務が課されている状況というふうに伺っております。 　先ほどの今井委員からの御指摘も踏まえて御答弁したことと重なりますけれども、雇用や人事、採用選考の在り方につきましては、我が国においては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等において一定の考え方が示されております。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおきまして性別を理由とする差別が禁止されているなど、