内閣委員会

○松野国務大臣　中谷先生にお答えをさせていただきます。 　御指摘のチャットＧＰＴで作成した答弁に関しましては、今拝見をしたばかりでございますので、内容に関してコメントすることは差し控えたいと思いますが、自然な日本語になっていますし、様々な可能性がある技術であると感じております。

○中谷（一）委員　また後ほどでもいいので御高覧をいただければと思いますが、日本語自体は非常にきれいにというか出ていて、やはりある程度の情報が蓄積されているからこういう文章になるんだろうということを思っています。 　その中で、立法府、行政府のみならず、生成ＡＩの進化は社会のあらゆる環境を大きく変えると思います。今後も進化するＡＩに対して私たち人類がどのように向き合って関わっていくのか、ＡＩをどのように活用していくのか、そういったことが必要になると思っていますので、今日は、幾つかの分野に関する懸念について質問、提言をさせていただきたいと思います。 　まず、生成ＡＩ及びＳＮＳと教育の関わり方について伺わせていただきます。 　チャットＧＰＴが登場して、教育機関の対応も様々であります。学生がチャットＧＰＴを使ってレポートなどの宿題を作成する可能性があるなど、便利なチャットボットに子供たちが依存

○松野国務大臣　お答えをさせていただきます。 　中谷先生から先ほど来御指摘をいただいているとおり、こういった先端の技術というのは、これは政治のありようとは関係なく発展していくものでありますし、こういった技術は、これも先生からお話をいただいたとおり、社会に大きく貢献する分野と、また、そのことによって問題が生じる、懸念材料にもなるという、これは両面を抱えているものであろうかと思います。その問題点というのをしっかり把握しながら、どういった形で社会に有用に活用していけるか、そのことをしっかりと検討してまいりたいと思います。 　教育分野等々に関しましては、専門的な各国の事例等もございますので、政府委員の方から答弁をさせていただきます。

○森友政府参考人　お答え申し上げます。 　ＡＩを活用した様々なサービスが生まれる中で、海外において、先生御指摘の、様々な取扱いや議論があるものと承知をしております。 　教育におけます新たな技術の活用に当たりましては、そのメリットとデメリットの両方に留意することが重要であると考えております。 　このため、文部科学省におきましては、学習指導要領の中で、情報及び情報技術を適切かつ効果的に活用して問題を発見、解決したり自分の考えを形成したりしていくために必要な資質、能力として情報活用能力を育成することを定めております。あわせて、情報には誤ったものや危険なものがあること、情報を利用する際に他者の権利を侵害しないようにすることを考えさせる学習活動などを通じまして、情報モラルを確実に身につけさせることとしております。 　子供たちが自ら学び、自ら考えることは重要でございます。新たな技術の有効性や活

○中谷（一）委員　是非、ＡＩを活用した教育保障の在り方について政府全体で検討していただければと思います。 　その上でなんですけれども、例えば歴史問題だったり領土問題、こうした認識に相違のある国が作ったＡＩだったりＳＮＳ、これを活用すると、日本の主張とは反するような内容が表記をされて、判断力が十分でない子供たちに影響を与える懸念があるんじゃないかということを述べる方が一定数いらっしゃいます。 　そうした中で、中国政府がチャットＧＰＴについて、アリババなどの中国国内の主要ＩＴ企業にサービスを提供しないように指示をしました。これは、西側諸国のデータを学習しているチャットＧＰＴが習近平指導部に対する批判的な回答をしかねないという懸念からこうしたことをされたんじゃないかということが報じられているわけでありますが、旧来型のプロパガンダから、ＳＮＳや生成ＡＩの誕生で、無意識、不可視に人々の認知、行動

○奈須野政府参考人　お答え申し上げます。 　ＡＩに関する規制の在り方については、国際的にも様々な議論が行われているところでございます。その利用についても、こうした議論の動向を見極めながら、今議論になっているような利便性とそれからリスク、それと我が国としての事情、こういったことを踏まえてその必要性を判断していきたいと思っています。 　こういったことから、今、中国企業が開発したアーニーボットの事例を御紹介いただきましたが、こういった事例を含めて、個別のケースについて、今、利用規制の可能性ということをお答えできるのは早いのかなというふうに思っております。

○中谷（一）委員　今の奈須野さんの答弁を踏まえると、官房長官、今のところは可能性はないという認識でよろしいですか。

○松野国務大臣　先ほど政府委員の方から答弁させていただきましたけれども、お尋ねのような事例も含めて、個別のケースについては規制の可能性をお答えできる段階には至っていないということでございます。

○中谷（一）委員　今後検討を始められるということで理解をしました。 　そうした中でなんですけれども、生成ＡＩと制脳権、この問題についても触れさせていただきたいと思うんです。 　政治リスク専門のコンサルティング会社ユーラシア・グループが二〇二三年の十大リスクで生成ＡＩを三位に挙げました。ユーラシア・グループは、大混乱生成兵器と題し、ＡＩの技術的な進歩がデマゴーグを生んだり権威主義者に力を与えたりして、ビジネスや市場を混乱させる危険性があることを示しました。 　チャットＧＰＴなどの利用によってコンテンツの作成に参入障壁がなくなると、コンテンツ量は指数関数的に増加していき、市民の多くが事実とフィクションを区別できなくなる懸念があります。偽情報が横行し、社会的な連帯や民主主義の基盤である信頼が損なわれる可能性があり、政府としてもこのリスクに対応していかなければなりません。 　今まで日本は、

○田部井政府参考人　お答えいたします。 　戦後最も厳しく複雑な安全保障環境や、ＩＴ技術を含む技術革新の急速な進展等に伴い、我が国防衛を全うする観点からは、認知領域を含めて、これまでの戦い方の抜本的変化に対応していくことがますます重要となっていると考えられます。特に国際社会におきまして、有事に至る前の段階から、偽情報の流布により他国の意思決定に影響を及ぼすといった情報戦に重点が置かれているものと承知しております。 　生成ＡＩ技術の悪用によりまして、極めて精巧な文章や画像により偽情報の大量生成が容易になるなど、人の認知に直接働きかける手段が高度化、多様化している状況でございます。我が国としても、こうした状況を踏まえまして、認知領域を含む情報戦対応として、人工知能、ＡＩを活用した分析機能の整備を始め、偽情報の見破りや分析、そして迅速かつ適切な情報発信等に政府全体としてしっかりと取り組んでまい