デジタル社会の形成及び人工知能の活用等に関する特別委員会

少なくとも、監視カメラについては、顔認証ですから、監視カメラを例に出すとなるとちょっと話は変わってくると思います。あくまでも顔認証をするためのときに周知をするということでございますので、そこは確認をしておきたいんですけれども。 　今の御質問については、本人が顔特徴データの利用停止を請求した場合、事業者は、請求に対応する過程で本人の顔特徴データを抽出し、把握しなければなりません。最終的に、その特徴データは利用が停止されて消去されることになります。 　事業者は、利用停止請求に応じるために抽出、把握したデータを、それを使って他の目的に利用することは当然できませんから。消してくれと言われて、その顔の状況というのを利用者が確認しても、それをもって、それが分からなきゃ消せませんから、それで消すと。それは、そのことがもし、誰がどんな顔をしているかというのが分かったことをほかに使うということはそもそも

悪用するかどうかじゃなくて、自分の情報を誰かに把握されたくないと思って申請をするのにもかかわらず、その業者がそれを、作業をすることによって、それは最終的に個人情報を、より、あっ、この人こういう行動をしているんだということが分かるような状況になってしまいますよねということを申し上げているんです。悪用するかどうかの話ではありません。 　あと、監視カメラだとお話が別になるということでしたけど、もちろん監視カメラ、先ほどちょっと確認しましたけれども、映っているものがその本人であるという認証ができればそれは個人情報にはなり得るというお話でありましたから、それの利用に関してどういうふうにするかということの問題は生じるんじゃないんでしょうか。 　このように、せっかく設けられているオプトアウトだったり利用停止請求の要件緩和でありますけれども、実効性が乏しいというか、使えないのではないかということが今の

開発された後のＡＩモデルに個人情報が残る事態というのは、完全に個人の状態、データ等排斥された後のことでございますから、基本的に想定していないものと承知しておりますけれども、仮に違反が疑われた場合にあっては、個人情報保護委員会において、データの内容とか開発の手法、復元防止のどんな措置を講じていたか、あるいは開発されたＡＩモデルの挙動、総合的に判断して調査と認定をしていくということになります。 　これは事後でやることになりますけれども、違反が疑われなくても定期的にモニタリングをするということは我々としても常々言っているところでございますので、そういったモニタリングを通して適切にデータが扱われるかどうかということはチェックを掛けていくということになります。

それ、まず、いわゆる公示されているというか、示されている、表示されているものからの確認という話を伺いました。そこの契約上に特に問題がなければ、そこから更に踏み込んで、どのように具体的に積極的に個人情報保護委員会が、触ってみなきゃ分からないわけですよね、そこまでまず踏み込むことができるのかどうなのか、この点における疑問もあります。 　そもそも、ＡＩモデルで学習された個人情報について、当該情報が学習済みモデルに残っていないということを確認する一般的な技術的方法というのは存在するのでしょうか。

お答えします。 　ＡＩモデルに係る学習手法には様々なものが存在しておりまして、個人情報が存在していないことを画一的に常に証明できる一般的な技術はありません。ＡＩ開発に用いられたデータの内容、具体的な開発の手法、復元防止のための措置など、考慮して判断する必要がこれはあろうかというふうに思っております。 　先ほど申し述べましたけど、ＡＩ開発である限り、開発されたＡＩモデルに個人情報が残る事態というのは基本的に我々は想定していないと承知をしておりますが、仮に違反が疑われた場合は、当然しっかりと対応することは言うまでもございません。

問題が起きてからじゃないと。疑わしい事例というのは、まずそもそもどうやって把握するかという問題はあると思うんですね。で、問題が起きてからじゃないと対応しないと。 　問題が起きたというのはどういうときかといったら、その要配慮個人情報を含む重大な機微に触れる情報が外に漏れるなりなんなり、何らかの被害が出ている状況という、深刻な状況になっているような場合が想定されます。このこと自体も問題ですし、そもそも、そのＡＩに読み込ませた情報から個人情報が全く消えているということが確認できる、確立された、今おっしゃいましたけれども、いつどんな度合いにおいても確認できる方法はないということでありますから、個人の権利利益が侵害されない範囲で対応していますというのは、余りにも安易な無責任な御発言ではないかと私は思います。 　この学習済みモデルから生成された派生モデル又はファインチューニングモデルについても、統

派生モデル等については、これは新しく別のＡＩモデルを開発する場合も当然含まれるんですけれども、大量の個人情報を扱う場合ですから、この個人に関する情報に当たらない状態、要は個人の情報が排斥された状態まで加工をするということが求められることは当然でございますし、そのほか特例にいろいろな縛りが掛かっていますが、それが適用されることも同様でございます。

ということで、どんどん広がっていくわけですよね。最初、提供しました、こういうＡＩモデルを作ります、一つできました。で、そこで終わりじゃなくて、またそれを活用して何らかの統計目的という名前のＡＩが作られていく。その先、どんどんどんどん広がっていったときに、どこまで個人情報保護委員会はちゃんとチェックができるんですか。問題が起きなければ結局分からないですよね、把握すら、入口ちゃんとチェックしないわけですから。本当に無責任だと思うんですね。 　このように、本当に悪用されないのか、目的外利用されていないのか、安全に管理されているのか分からない状況で、センシティブな生情報を扱う統計特例の適用条件、適切に守られているのか。いろんな条件付していますとおっしゃいますけれども、技術的に確認することも困難であるにもかかわらず、統計特例の利用に当たって個人情報保護委員会による事前審査もない、事前認証制度も設け

統計作成等を行う事業者の各種の義務を課すことを前提にして、事前の審査、認証制度は求めないということにいたしました。理由は、これは保護と適正な利活用、個人情報の保護と適正な利活用の両立を図ることが旨とする改正であるからにほかなりません。 　先ほど、私、一番最初の御質問に答えたように、車運転するのにアクセルとブレーキ踏まないと運転できませんけれども、ある意味、事故を起こすのは怖いからといってアクセルをいつまでも踏まなければ前には進めませんから、今回の特例というのは、入口でハードルを設けるか、出口でハードルを設けるかの問題からすれば、出口のハードルを高くして、入口のハードルを低くして、このＡＩの開発競争に負けないようにしようというところはあるというふうに思います。 　これを、もし国民の皆さん全体で、いやいや、日本はそういった競争に参加しなくていいんだということで御判断いただけるのであればこう

何か随分違う点から御答弁されたと思うんですけど、別にＡＩの活用をするなとも言っていませんし、日本が遅れている状況においてできる分野からきちんと発展をさせていくことも重要だと思いますし、様々な個人情報も含めて利活用することによってより多くの利益を生んでいくということは非常に重要だと思います。そういう可能性を秘めているということは十二分に承知しています。 　しかし、だからといって、要配慮個人情報を含む個人情報が、本人の承認なしに余りにもずさんな管理の下に活用されていくというか搾取されていくような状態であるのは、それはまた違う話であります。適正な利活用とおっしゃっていますけれども、不適切なこれは利活用になっているのではないかという問題提起なんですね。 　アクセルを全く踏まなくていいか、ブレーキを全く踏まなくていいかという話ではもちろんありませんが、両方同時に踏みながらは何もできないわけですよ