片山大介

だから、それで今回書いていないと。 　そうなると、今回のこの法ができた後に、だから、基本計画、それからやっぱり指針、ガイドラインを作る、このやっぱりガイドラインがすごく大切になってくるんだと思います。そこには生成ＡＩも入れるんだとかとおっしゃっていましたけれども、そうすると、じゃ、このガイドラインをどのようなレベルまで詳しく作って、そしてそれをいつ頃までにやるのか、それで生成ＡＩについてはどのようなことまで落とし込むのか、これを併せて教えていただきたいんですが。

そうすると、その生成ＡＩの部分はどんなふうに書き込むのか、ちょっとここをもう少し教えてもらえると有り難いんですが。

是非それはしっかりやっていただきたいというふうに思います。 　それで、あと、その次に、今回の法案の審議でもやっぱり一番議論にもなったかなと思うのが、これ第十六条の調査研究の部分なんですよね。それで、これ条文見ると分かるんですが、ここの条文だけ物すごく長くなっているんですよ。妙に長くなっている。 　それで、ちょっとこれ皆さんに紹介したいなと思って読むんですが、これでも略して読むことになるんですけど、ＡＩの開発、活用の動向に関する情報収集のほか、不正な目的などによって国民の権利利益の侵害が起きた場合の分析や、それに基づく対策の検討、それにＡＩの推進に資する調査研究を行い、それらの結果に基づき、事業者に指導や助言や情報の提供その他の必要な措置を講じるとなっている。 　これ読むと、やっぱり何言っているか正直言ってよく分からなかった、最初に。それで、これ全部一つの文章ですからね。一つの文章の中

それで、この条文の中で一つの、何というのか、焦点になったのが、情報の提供というところなんですね。これ、新聞とかでは国民への公表みたいな形で書いてあるんですけど、これ条文なので、情報の提供と分かりづらい書き方しているんですが。 　じゃ、この公表というのは、例えば悪質な事業者に対してその事業者名を公表するかどうかというやつなんですけど。それで、新聞によっては事業者名公表すると書いているのあれば、これきちんと、これも内閣府に事前に聞いたら、いや、公表するかどうかは決まっていないんだと、ケース・バイ・ケースで個別の案件については対処していくんだというふうに言ったんですけど、私はその個別案件によって決めていくという方が危険じゃないのかなというふうに思った。その方が、公表する際の、その何というか、基準だとか、そうした何か線引きというのをこれ明確にしなきゃいけないから、それはできるのかなと。 　しか

是非それはしっかりと検討をしていただかないと、かえって動けなくなっちゃうというか、できなくなっちゃう可能性を感じます。 　それと、あと、それで今回基本的に罰則もこれ設けていないから、総じて規制の面から見るとこの法律緩くなってしまっているんです。それで、ただ一つちょっと気になったのが、私が本会議で質問したときの大臣の答弁で、罰則を設けなくても悪質な事案に対しては現行法令に基づく措置で対処可能というふうに述べているんですよね。これ気になったところで。 　そうすると、そのＡＩ対策としては、今の現行の法令で、法令で全て対処は可能なのかという話になってしまうんですけど、いや、現行の法令で対処できないグレー部分があるからこそ、今回のこの法律であって第十六条のはずなんですけど、そこの答弁はどういうことなのか、そこの整合性は合っているのか、教えてもらえますか。

大臣、いま一つ分からない、もう一回整理して聞きたいんですが。 　そうすると、今の現行法令で全て対応できるというわけではなくて、より悪質な事案に対しては適用できるものもあるけど、そうじゃないものはこの法案できちんとカバーすると、こういう立て付けということでよろしいんでしょうか。

分かりました。 　それで、いずれにしても、総じてこれ規制は緩くなっているのが今回の法律のこの特徴だと思います。一方、海外を見ると、ＥＵだとか中国だとかというのはもう罰則付きの規制法をきちんと作っている。それから、アメリカでは、連邦法ではないけれども、州法ではそういった規制をきちんと入れているものがあるんですよね。 　じゃ、そうするとどうなるかというと、これグローバル的な動きとしてはやっぱり例えば、何でしたっけ、個人データの保護に関する規則でＧＤＰＲというのがあったように、そのときも、ＥＵが導入をしたら結構グローバルプレーヤーはそっちに流れていって、そっちが世界標準になったというケースがあったんですよね。だから、今回もやっぱりそういうふうになっていくんじゃないかというふうに思う。 　でも、そうじゃなくて、いや、そうじゃなくて、やっぱり日本の場合はそれでも緩い方にしていくというんだったら

国によって違うといっても、基本的にこれＡＩとかはもうグローバルな、一緒なので、ちょっと国によっての違い方というのが、どういうふうに関わってくるのかが分からないと思いますし、それからもう一つ、今回は総じて、今言われたのは、今回のＡＩ法とそれから既存法の何か全体でリスクの対応をしていくと言っていますけど、じゃ、そもそもＡＩに対するリスク評価というものを今回の法を作るに当たってきちんとできているのかどうかというのが疑問になっちゃう。だから、ＡＩのどちらかというと振興の方が目的になっちゃって、ＡＩリスクの評価の議論というものは何かちょっと置いてきぼりになっちゃったような気がするんです。それで法の枠を作ったように見えるのが今回の法案なんだと思うんです。 　基本的に、その技術において、やっぱりリスクのある技術というのは社会で受け入れられないわけです。だから、その技術における規制というのはリスクを低減

おっしゃるとおりかなと思います。ですから、今回は、そのガイドラインを作って、そこにリスク評価の手法というのも考えてやって、ただ、それがもう絶えず変化していくと思うから、絶えずＰＤＣＡを掛けていかなきゃいけないというのはあると思います。 　それで、リスクの一例を、じゃ、挙げると、これ実は、こども家庭庁さんにちょっと来てもらったんですけど、三月に導入を見送ることにした児童虐待の判定のＡＩシステムというのがあるんですね。 　それ具体的にどういうものかというと、これ、虐待が疑われる子供の一時保護の必要性というものをＡＩに判定させようというものなんですよね。具体的には、虐待が疑われる子供のそのけがの有無だとか、けがの部位だとか、あとは過去の虐待歴だとか、そういう大体九十項目ぐらいの情報を入力すると、それに応じて零点から百点の間で判定をするということになっているんです。 　それで、これ、じゃ、実

これもっと言うと、あれ、学習量がすごく少なかったんですよね。五千ケースでしたっけ。やっぱりこれＡＩはもう膨大な量を、何というか、学習させなきゃいけないので、やっぱり五千で判定というのは難しいと思いますよ、基本的に。というのがまず一つある。 　それから、あともう一つ言えば、ＡＩは、もう万能、魔法のつえでも何でもなくて、やっぱり本当に、まず、その開発するんだったら、事前に本当に実現可能なのかどうかというのはきちんと検証するというか、吟味する。その上で緻密に制度設計やっていかないと、これ、ＡＩというのはなかなか実は本当に機能しないというか、機能できない。今回は、そういう意味では、事前にそのリスクを発見して一応導入を見送ったというのでは、まあ良いケースなのかなというふうに、良いケースと言えるのかどうか分からないですけど。 　ただ、怖いのは、こういう精度の悪いＡＩがどんどん世の中に出てくるのがや