総務委員会

○徳増政府参考人　本年三月に、ＥＵのＡＩ法案が欧州議会で賛成多数で承認をされております。 　本法案は、イノベーションを促進しつつ、安全性や基本的人権の遵守を確保することを目的としたものであります。具体的には、リスクベースのアプローチを採用しておりまして、四段階のリスク、具体的に申し上げますと禁止されるＡＩ、ハイリスクなＡＩシステム、限定リスクのＡＩシステム、最小リスクのＡＩシステムの四つでありますけれども、これらのリスクに応じてＡＩの義務を設定している次第であります。 　また、罰則としまして、違反企業の前会計年度の年間売上高に対する一定割合又はあらかじめ定められた金額のいずれか高い方が罰則として科されることになっております。 　本法案の成立には今後ＥＵ理事会において承認される必要がありまして、引き続きその動向を注視してまいりたく存じます。

○奥野（総）委員　成立目前と言っていいと思うんですが、結構厳しいんですね。 　許容できないリスクのあるＡＩというのは禁止、ハイリスクのものについては規制というのは分かります。規制のところは後ほどちょっと伺いますが。禁止は四つの類型があって、サブリミナルな技法とか、あとは公的機関のソーシャルスコアリングということで、自然人に害や不利な取扱いなどをＡＩはしてしまう、こういったところは禁止になっている、非常に厳しい、ある意味一歩進んだもの、どこまでこれを日本に適用するかというのはありますが、しかし、これは走り出したら少なくともＧＤＰＲと同じように、ＥＵ域内においてはこういう規制はかかるわけです、日本にも波及してくるんじゃないかというように思うので、日本はこのままでいいのかという問題が提起されていると思います。 　もう一つ、米国はどうなっていますか。

○徳増政府参考人　米国でありますけれども、昨年七月にバイデン大統領はグーグルやマイクロソフト等の大手ＡＩ開発者とともに、安全性やセキュリティー、信頼性の確保などを内容とする自主的コミットメントを発表したところであります。 　また、昨年の十月に発出しました大統領令では、各省庁に対して、既存の法令、予算を活用し、イノベーションの促進とリスクへの対応を指示し、デュアルユース基盤モデルの開発企業等に報告義務を課すなどの安全、安心で信頼のできるＡＩの実現に向けた取組を行っているところです。 　こうした米国の対応を含め、海外の動向については引き続き注視をしてまいりたいと存じております。

○奥野（総）委員　米国はなかなか立法化まで進むには時間がかかると思いますが、大統領令が出ているということなんですね。ＯＥＣＤの話はあくまでガイドラインだと思うんですが、そこからどうやって駒を進めていくかということでありまして、ＥＵは一歩進んでいる、アメリカもそこを考えているということであります。 　さっき規制の一例というのを申し上げたんですが、顔認証、日本は結構そこが緩くて、カメラがあちこちに置いてあって、顔認証のシステムなんかが配置されているやに聞いています。ＥＵの規制法だと、自然人の生体識別・分類とここにありますが、ハイリスクＡＩに分類されています。そこの例として、民間企業による自然人の遠隔生体識別と。これは規制の対象にＥＵでは法案が成立したらなるということなんですが、では我が国では、今ちょっと申し上げましたけれども、例えば街頭のカメラを使って顔認証システムを使ってデータ収集すること

○徳増政府参考人　ＥＵの法案では、民間企業による自然人の遠隔生体識別はハイリスクＡＩに分類をされておりまして、規制対象となっており、リスク管理システムや品質管理システムの担保、適合性評価などが求められているところです。 　なお、何でもかんでも対象となるというわけではなくて、ハイリスクＡＩとして規定されているものであっても、自然人の健康、安全又は基本的権利に重大な危害を及ぼすリスクがなければハイリスクＡＩシステムとはみなされないといった旨が具体的な要件とともに同時に規定されているところであります。 　他方、我が国においては、委員御指摘のような事例について、ＡＩに特化したものとして現時点で特段の規制はないものと認識をしています。

○奥野（総）委員　それは、例えば犯罪の捜査とかそういうもの、あるいは、どうなのかな、感染症のときに体温とか、特定の場合には許される場合もＥＵだってあると思うんですが、日本は恐らく全く今のところは考えられていないんですね。だから、民間企業が街頭にカメラをいっぱい設置して、顔認証で、例えばお買物の様子を全部撮って感情を分析して、この人はこれを買おうとしているとか次は何を買うのかというのをデータ収集したとしても、恐らくそれ自体は直ちに違法とはならない、自由にできるということだと思います。それをよしとするかどうかということなんですね。 　さらに、ＥＵの方はＧＤＰＲの話がありますが、顔面画像等の生体データ、これは個人情報にＥＵではそもそも当たるんですね、個人情報なんですよ。特別なカテゴリーの個人データに当たって原則として取扱いが禁止されるということなんですが、では我が国は、カメラが設置されて撮られ

○山澄政府参考人　お答え申し上げます。 　ＡＩとの絡みということで限定はしておりませんけれども、我が国の個人情報保護法上も、例えばですが、顔の部位の位置及び形状から抽出した特徴情報を本人を認証することを目的としたソフトウェア等によって認証できるようにしたものにつきましては、個人識別符号といいまして、個人情報の一類型といたしまして個人情報保護法上の規律がかかります。 　規律の具体的な中身といたしましては、例えばですが、利用目的をできる限り特定して、それを本人に通知又は公表しなければならないですとか、不正の手段によってそれを取得してはならない、あるいは違法、不当な行為を助長するような方法によって利用してはならないというような規制がかかっているところでございます。 　いずれにいたしましても、こういうような規律をしっかり遵守していただくべく、我々として日々やっているところでございます。

○奥野（総）委員　容易照合性という概念があって、ただいっぱい撮影して、匿名性を持って、ＡＩを使って分析するような場合というのは個人情報に当たらないんじゃないですかね。

○山澄政府参考人　お答え申し上げます。 　繰り返しませんけれども、先ほど申しました一定の要件に該当します顔の部位等々の情報につきましては、個人識別符号ということでございまして、定義上個人情報になるということでございます。

○奥野（総）委員　その上で、更に第三者への提供があるかないかで変わってくるんですが、例えば、どこかの町で企業が公開実験を行いますといって公表した上でカメラをいっぱい設置して、それを自社で使う、第三者に提供しない、一応形式的な通知もされているし第三者には渡さないといった場合に、これは特段、個別の本人への通知というのはなくて大丈夫なんでしたっけ。