内閣委員会

お答えします。 　多くの生成ＡＩは英語や日本語での複数の言語に対応した開発が行われておりまして、言語の違いに起因する大きな技術的な課題はないものと認識しておりますが、他方で、日本語の場合は同音異義語が多いというような特徴もございます。他方、世界的に広く使われている英語と比較すると、やはり日本語のデータ量は圧倒的に少ないわけでございまして、ＡＩの学習がそういった面で難しい側面はございます。 　このため、日本の生成ＡＩの開発に当たっては、こうした日本語の特性もしっかり踏まえて進めていくことが重要であるというふうに考えております。

まさに、御答弁をいただきまして、日本語のデータが少ないということだと思います。 　生成ＡＩでは、大量のデータを学習させてモデルの規模を巨大化するほどその予測精度も向上することから、大規模言語モデル、ラージランゲージモデル、ＬＬＭと呼ばれたり、この開発が、モデルの大規模化を目指して熾烈な競争が繰り広げられていると認識をしております。 　この言語モデルというのは、人間が話したり書いたりする言葉や文章を基に単語の出現確率をモデル化する技術だと認識しています。 　具体的には、大量のテキストデータから学習をして、ある単語の後に続く単語がどのくらいの確率で出現するのかを予測するものです。例えば、私の職業は、というような文章の後に続く単語として、教師ですとかエンジニアですとか保育士ですというような、それは確率として高いなという判断が働き、ここにある机とか黒色とかスーツとかという言葉は可能性としては

ＡＩの学習用データにつきましてお答えを申し上げます。 　委員御指摘のとおり、ＡＩの性能を定めるものは幾つかございます、データセンターとかアルゴリズムとかいろいろございますけれども、その中でもこの学習データというのは非常に重要なものでございます。 　これは、例えば、日本語の学習データに関して申し上げますと、内容が正しいということも必要ですし、日本語としても正しい、文法も正しい、そういう必要性がございます。 　一般的に、ＡＩにもいろいろなものがありますので、汎用の生成ＡＩに関してお答えを申し上げますと、基本的には、まず官公庁が出している、公的機関等のウェブサイトのテキストデータですとか、あるいは法令のデータベースですとか、あるいはまさにこの国会の議事録とか、私が答弁しているので余りちょっと自信がないところもありますけれども、でも、正しいデータベースですね、そういったものを学習している。

御答弁をいただきました。 　官公庁のページでありますとか、この国会とかの、政府、行政の、ちょっとがちがちになり過ぎて、余りにもちょっとつまらないような生成ＡＩというか、データが収集されるんじゃないかなという懸念はちょっと感じますが。 　先ほど御答弁の中でも触れていただいたウィキペディア、広く国民はこのウィキペディアというのを使ったことがあると思います。その中で、確かに比較的信頼できる大量の情報が集まっているとは思いますが、悪意のある者が書き込んだ偽情報というのも学習データとして用いられる可能性もあると思います。それを、生成ＡＩに偽の情報を出力させられるということをデータポイズニングと言うようですけれども、これについての事例や対策についてお答えいただけますか。

お答えいたします。 　データポイズニングは、御指摘のとおり、悪意を持った攻撃者がＡＩの学習データに不正確又は有害なデータを組み込むことにより、ＡＩが誤った応答や偏った情報を生成するように誘導する攻撃手法であります。 　過去には、利用者との会話データを基に自ら学習するチャットボットサービスにおいて、極端な主張を繰り返し学習、訓練されたことで差別的な出力を行うようになったという具体的な事案がございました。その際は、サービス事業者が利用者が入力したデータをＡＩの学習に利用しないといった対策を講じたというふうに承知しております。 　なお、国立研究開発法人産業技術総合研究所、いわゆる産総研におきましては、ＡＩ開発者向けに、データポイズニングへの対策も含めました機械学習品質マネジメントガイドライン、これを公開して、随時改定しているところでございます。 　その中で、具体的な対策として申し上げます

御答弁をいただきました。確かに、そういった差別的な出力がされるようになるとか、本当にこれから防いでいかないといけないこともたくさんあると思います。これから議論が進んでいくと思います。 　済みません、一つ飛ばさせていただいて、ＡＩが抱えるリスクへの対応ということで移らせていただいてもいいですかね。先ほどの御答弁の中でもありましたので、こちらの方が有機的につながってくる質問かなと思うんですが。 　ＡＩは、過去のデータを機械的に学習して現在及び将来の予測に役立てるものであるという性質上、過去の学習データ自体に含まれているバイアス、偏見ですね、この影響を完全に排除することはできない、そして、結果的に人の意思決定自体がゆがめられてしまうこともあるんじゃないかなという、そんな懸念を持っています。 　平成三十一年三月に取りまとめられた、人間中心のＡＩ社会原則においては、ＡＩの情報リソースとなるデー

お答えいたします。 　行政サービスの質の維持向上、こういった観点から、業務における生成ＡＩの利活用を進めることは非常に重要でございます。他方で、委員御指摘のように、生成ＡＩのリスク管理、こちらも一体的に進める必要がございますことから、政府機関などにおきます業務活用、これにおける注意事項をまとめたものを関係省庁間で申合せを行っているというところでございます。 　さらに、今後、政府における生成ＡＩの利活用を拡大するものと見込まれておりますので、具体的なリスクに関する対応事項などにつきまして、生成ＡＩの調達、利活用に関するガイドライン、これを新たに定めることとしておりまして、来月を目途に策定したいというふうに考えております。 　このガイドラインが、まさに本日までパブリックコメントの募集を行っているところでございますけれども、このガイドラインにおきましては、各府省において生成ＡＩを利用する際

御答弁を丁寧にいただきました。調達チェックシートを定めるとか、いろいろな手法で適正な利用に向けて取り組まれると思いますが、本当にこの公的部門がしっかりと信頼性を維持していくためにもそういった取組は重要だと思いますので、是非今後もよろしくお願いします。 　そして、中間取りまとめにおきましては、ＡＩに関する意識調査の結果によると、日本では、現在の規則や法律でＡＩを安全に利用できると思う回答者は一三％と低く、逆に、七七％の人がＡＩには規制が必要だと考えていると記載されています。また、品質の不安定さとか、プロセスのブラックボックス化、見えないですね、そういった状況等についてリスクを感じているほか、政府に求めることとして、ＡＩの悪用や犯罪に対する法的対策の強化というのが挙げられています。 　これに対して、本法律案においては、リスクへの対応に係る措置に関する勧告、命令等の規定がございません。「不正

勧告、命令等の規定につきましては、これを設けない理由につきましては、罰則を設けない理由と共通する部分があると思っておりまして、答弁を申し上げます。 　まず、現在顕在化しているリスクにつきましては、これは実際に事例もあるわけですけれども、現行法令に基づいて対処をしているというところでございます。 　その上で、ＡＩは、技術の変化が速くて、また、どういうリスクが生じるか予測が難しいというところがございます。そういう中で、命令ということになりますと、これは非常に重い処分ということになりますので、命令の前提になります禁止行為ですとか基準を不公平なく明確に定めていく必要がございます。これが現時点では難しく、むしろ臨機応変に予想外の問題に対応していくためには、今回の法案の中で提案させていただいているような、様々な事案に対して国が臨機応変に情報収集、調査をして、分析、検討していくということが望ましいと

臨機応変に対応するためにもというお話がありましたが、やはり、我々は推進をしっかりしていく立場ではありますが、それと同時に、そういったリスクへの対応というのを国民に対してもしっかりと周知していく必要があると考えています。 　例えばＥＵのＡＩ法におきましては、ＡＩのリスクに応じて規制内容を変えるリスクベースアプローチという方針に基づいて、規制対象を四段階のリスクレベルのＡＩアプリケーション及びシステムというものに分類をして、それぞれに対して異なる規制を課すこととされていると思います。これに対して、本法案では、やはり、リスク対応に係る措置に関する勧告、命令等の規定が置かれていないなと、比較をして感じるところです。 　ＡＩのリスクは多様であるため、ハイリスクのＡＩについてのみ厳しい規制を課した上で、そうではないＡＩについては積極的に利活用を進めるといった硬軟織り交ぜた対策も必要じゃないかなと思