総務委員会

○松本国務大臣　今委員からも御指摘がありましたとおり、ＡＩ原則に関しましては、二〇一六年のＧ７高松会合での我が国の提案を契機としてＯＥＣＤが二〇一九年に公表していただいたものでありますが、この時点から我が国としては、やはりＯＥＣＤとの連携、特にＡＩに関しては国境を越えた連携もということでＯＥＣＤとの連携を進めてきたところでありますが、これも今御指摘があったとおりでありまして、それ以降も、生成ＡＩが急速に普及する、また偽・誤情報への対処が大変大きな課題となる、そして各国地域間のＡＩガバナンスの相互運用性の確保も取り組まなければならない、こういった課題が出てきたところであります。 　これも今御指摘をいただきましたけれども、昨年我が国はＧ７議長国として広島ＡＩプロセスを立ち上げたところでありまして、この成果も踏まえて我が国からＡＩ原則の改定について、ただいま申し上げましたような偽・誤情報への対

○奥野（総）委員　本当に我が国としてはいいことだと思うんですが、しかし、更に世界は一歩ずつ進んでいまして、ＯＥＣＤはあくまで強制力のない勧告でありますから、ある種世界に規範を示すということでありまして、決して縛りではないんですね。そういう意味で、ではどうやって強制力を持たせるかという話がこれから出てくるんです。 　ＥＵは一歩進んでおりまして、この三月にＡＩ規則がＥＵ議会で可決されたということであります。規則というのは勧告と違って、直接ＥＵ全土に対して規制がかかる、直接縛りがかかるというものでありますから、それが既に可決されたということでありますが、このＥＵのＡＩ規則の内容について伺いたいと思います。

○徳増政府参考人　本年三月に、ＥＵのＡＩ法案が欧州議会で賛成多数で承認をされております。 　本法案は、イノベーションを促進しつつ、安全性や基本的人権の遵守を確保することを目的としたものであります。具体的には、リスクベースのアプローチを採用しておりまして、四段階のリスク、具体的に申し上げますと禁止されるＡＩ、ハイリスクなＡＩシステム、限定リスクのＡＩシステム、最小リスクのＡＩシステムの四つでありますけれども、これらのリスクに応じてＡＩの義務を設定している次第であります。 　また、罰則としまして、違反企業の前会計年度の年間売上高に対する一定割合又はあらかじめ定められた金額のいずれか高い方が罰則として科されることになっております。 　本法案の成立には今後ＥＵ理事会において承認される必要がありまして、引き続きその動向を注視してまいりたく存じます。

○奥野（総）委員　成立目前と言っていいと思うんですが、結構厳しいんですね。 　許容できないリスクのあるＡＩというのは禁止、ハイリスクのものについては規制というのは分かります。規制のところは後ほどちょっと伺いますが。禁止は四つの類型があって、サブリミナルな技法とか、あとは公的機関のソーシャルスコアリングということで、自然人に害や不利な取扱いなどをＡＩはしてしまう、こういったところは禁止になっている、非常に厳しい、ある意味一歩進んだもの、どこまでこれを日本に適用するかというのはありますが、しかし、これは走り出したら少なくともＧＤＰＲと同じように、ＥＵ域内においてはこういう規制はかかるわけです、日本にも波及してくるんじゃないかというように思うので、日本はこのままでいいのかという問題が提起されていると思います。 　もう一つ、米国はどうなっていますか。

○徳増政府参考人　米国でありますけれども、昨年七月にバイデン大統領はグーグルやマイクロソフト等の大手ＡＩ開発者とともに、安全性やセキュリティー、信頼性の確保などを内容とする自主的コミットメントを発表したところであります。 　また、昨年の十月に発出しました大統領令では、各省庁に対して、既存の法令、予算を活用し、イノベーションの促進とリスクへの対応を指示し、デュアルユース基盤モデルの開発企業等に報告義務を課すなどの安全、安心で信頼のできるＡＩの実現に向けた取組を行っているところです。 　こうした米国の対応を含め、海外の動向については引き続き注視をしてまいりたいと存じております。

○奥野（総）委員　米国はなかなか立法化まで進むには時間がかかると思いますが、大統領令が出ているということなんですね。ＯＥＣＤの話はあくまでガイドラインだと思うんですが、そこからどうやって駒を進めていくかということでありまして、ＥＵは一歩進んでいる、アメリカもそこを考えているということであります。 　さっき規制の一例というのを申し上げたんですが、顔認証、日本は結構そこが緩くて、カメラがあちこちに置いてあって、顔認証のシステムなんかが配置されているやに聞いています。ＥＵの規制法だと、自然人の生体識別・分類とここにありますが、ハイリスクＡＩに分類されています。そこの例として、民間企業による自然人の遠隔生体識別と。これは規制の対象にＥＵでは法案が成立したらなるということなんですが、では我が国では、今ちょっと申し上げましたけれども、例えば街頭のカメラを使って顔認証システムを使ってデータ収集すること

○徳増政府参考人　ＥＵの法案では、民間企業による自然人の遠隔生体識別はハイリスクＡＩに分類をされておりまして、規制対象となっており、リスク管理システムや品質管理システムの担保、適合性評価などが求められているところです。 　なお、何でもかんでも対象となるというわけではなくて、ハイリスクＡＩとして規定されているものであっても、自然人の健康、安全又は基本的権利に重大な危害を及ぼすリスクがなければハイリスクＡＩシステムとはみなされないといった旨が具体的な要件とともに同時に規定されているところであります。 　他方、我が国においては、委員御指摘のような事例について、ＡＩに特化したものとして現時点で特段の規制はないものと認識をしています。

○奥野（総）委員　それは、例えば犯罪の捜査とかそういうもの、あるいは、どうなのかな、感染症のときに体温とか、特定の場合には許される場合もＥＵだってあると思うんですが、日本は恐らく全く今のところは考えられていないんですね。だから、民間企業が街頭にカメラをいっぱい設置して、顔認証で、例えばお買物の様子を全部撮って感情を分析して、この人はこれを買おうとしているとか次は何を買うのかというのをデータ収集したとしても、恐らくそれ自体は直ちに違法とはならない、自由にできるということだと思います。それをよしとするかどうかということなんですね。 　さらに、ＥＵの方はＧＤＰＲの話がありますが、顔面画像等の生体データ、これは個人情報にＥＵではそもそも当たるんですね、個人情報なんですよ。特別なカテゴリーの個人データに当たって原則として取扱いが禁止されるということなんですが、では我が国は、カメラが設置されて撮られ

○山澄政府参考人　お答え申し上げます。 　ＡＩとの絡みということで限定はしておりませんけれども、我が国の個人情報保護法上も、例えばですが、顔の部位の位置及び形状から抽出した特徴情報を本人を認証することを目的としたソフトウェア等によって認証できるようにしたものにつきましては、個人識別符号といいまして、個人情報の一類型といたしまして個人情報保護法上の規律がかかります。 　規律の具体的な中身といたしましては、例えばですが、利用目的をできる限り特定して、それを本人に通知又は公表しなければならないですとか、不正の手段によってそれを取得してはならない、あるいは違法、不当な行為を助長するような方法によって利用してはならないというような規制がかかっているところでございます。 　いずれにいたしましても、こういうような規律をしっかり遵守していただくべく、我々として日々やっているところでございます。

○奥野（総）委員　容易照合性という概念があって、ただいっぱい撮影して、匿名性を持って、ＡＩを使って分析するような場合というのは個人情報に当たらないんじゃないですかね。