外務委員会

まず、ウクライナの戦闘を見ても、ドローンであったりとか無人機であったりとか、新しい戦い方を既存の兵器と組み合わせる、こういった形の、今まで想定されなかったような戦いというのが行われているのは事実でありまして、そのために、例えば今、三週間ぐらいの単位でシステムを更新したり、様々な形で、ＡＩ等も導入しながら新しい戦い方というのが進んでいるのは、現実として受け止めなければいけないと思っております。 　その上で、御指摘の自律型致死兵器システム、ＬＡＷＳにつきましては、現在、御指摘の特定通常兵器使用禁止制限条約、ＣＣＷの政府専門家会合、ＧＧＥにおきまして、その定義、特徴、国際人道法上の課題、規制の在り方等について議論が行われているところであります。こうした主要論点について、各国の間ではいまだ考えの隔たり、立場の隔たりというものがあることから、主要国が参加をする形で粘り強く議論を継続することが重要で

積極的、建設的に議論に関わっていくと、前向きな御答弁をいただきました。 　加えて、ここで大事なのは、今、ＬＡＷＳについてお伺いをしましたけれども、その議論をＬＡＷＳだけに限ってよいのかというのも大事な点であると思います。現実に問題となるのは、完全に自律した兵器だけではありません。 　お手元のまた資料で、今度はＡＷＳ、またＡＩ―ＤＳＳについて少し御説明を、御紹介をしたいと思います。 　ＡＷＳというのは、ＬＡＷＳよりももう少し広い概念で、致死性が必ずしも伴わなかったとしても、ボタン一つで、起動した後には人間の介入なしに標的を選択し、攻撃をできるようなシステムであります。 　また、ＡＩ―ＤＳＳ、これはＡＩを用いた意思決定の支援システムであります。人工衛星またドローンによる監視、通信傍受など、こうしたことから得た情報を基に、ＡＩが攻撃標的の候補や潜伏場所の抽出、脅威の順位づけ、攻撃の可否判

お答え申し上げます。 　軍事領域におけるＡＩ活用について、我が国は、ＡＩ技術の開発利用などを通じて生じる問題に対して、国際人道法を含む既存の国際法が適用されるという見解を支持してきております。 　我が国は、軍事領域におけるＡＩ活用について、人道的考慮、そして安全保障上の観点を勘案したバランスの取れた議論を通じて、国際社会において共通認識が得られるよう、国際的な議論にも、今後とも積極的かつ建設的に参加していく所存でございます。

技術的な問題については、今、参考人の方から答弁があったとおりでありますけれども、ＡＩも判断ミスを犯します。しかし、人間も判断ミスを犯す。こういったことを考えて、いかに紛争を起こさないか、戦争を起こさないか、事前の段階で話合いによって問題を解決していく、こういう姿勢を取ることが極めて私は重要だと思っております。 　確かに、ＡＩによって戦い方が変わってくる、こういうお話をしましたけれども、そういう戦いを起こさないということに力点を置くことが極めて重要なんじゃないかなと考えております。

大臣が今おっしゃったことは、私も完全に同意であります。ＡＩの軍事利用のことについて本日は質問しておりますけれども、そもそも、様々な紛争は、武力ではなくて対話によって国際紛争を解決すべきだという前提は、私も同意をいたします。 　その上で、ＡＩの軍事利用について、ここからもう少し具体的な、技術的なことについても質問をさせていただきたいと思います。 　ＡＩ規制の議論で、よく、人間の関与を確保するということが非常に大きな論点になってまいります。しかし、私は、人間が関与するということだけではなく、曖昧にしてはならず、人間の関与というのは具体的には一体何を意味するのか、最後に形式的に人間が承認をすればよいのか、それとも、標的の妥当性、情報の信頼性、民間人被害のおそれ、こうしたことを人間が実質的に理解し、判断し、必要なら止められる、そうした状態であるのか、この差は非常に大きいと思います。 　そこで

お答えいたします。 　科学技術の急速な発展が、安全保障の在り方を根本的に変化させております。ＡＩを活用した高度なデータ処理、分析を背景とした戦い方も顕在化しております。我が国としても、これに適切に対応していくことが重要でございます。 　また、人口減少下にある我が国におきましては、自衛隊員の命を守って人的被害を局限することは極めて重要な課題でありまして、自衛隊における無人化、省人化も図っていく必要がございます。 　このような考え方の下、令和六年に策定いたしました防衛省ＡＩ活用推進基本方針におきましては、情報収集・分析、指揮統制、無人アセットといった七つの分野におきまして、ＡＩを重点的に導入していく方針をお示ししたところでございます。 　また、令和七年には、ＡＩのリスクを軽減しながらその効果を最大化できるよう、責任あるＡＩ装備品等の研究開発を進める指針といたしまして、装備品等の研究開発

外務省の立場でお答えいたします。 　ＬＡＷＳに関する議論につきましては、先生御指摘のＧＧＥにおいて、国際的に議論が行われておるところでございます。その中で、人間の関与につきましては、兵器システムの性能、それから使用の場面等を考慮する必要性、こういったものを多くの国が様々主張しておるところでございまして、具体的な態様や必要とされる程度につきましては、現時点で各国の立場は収れんしていないというところでございます。また、ＡＩを活用した軍事システムについて、責任は人間が負うべきとの認識はおおむね共有されておると考えておりますけれども、現在もその具体的な議論については継続が行われている。 　したがいまして、我が国としましては、こうした議論を踏まえながら、ＡＩの軍事利用が人間中心の原則を維持し、信頼性、予見可能性を確保し、責任ある形で行われるということを重視して、引き続き、国際的な議論に積極的に参

御説明ありがとうございました。 　今、御答弁の中でも、責任は人間が負うべきという原則について言及がございました。大事なのは責任の所在の問題、これがもう一つ大事な論点であると思います。 　ＡＩが関わった軍事行動で民間人の被害が起きた、そのときに、なぜその標的が選ばれたのか、誰が判断したのか、どこに問題があったのか、こうしたことが後から分からなければ、御遺族に対して説明もできませんし、再発防止策を取ることもできません。つまり、ＡＩの問題は、性能や技術的な問題だけではなく、説明責任、そして検証可能性の問題でもあります。 　そこで、政府参考人にお伺いをいたします。 　ＡＩを活用した軍事システムによって民間人の被害が発生した場合、判断過程の記録保存、事後検証、責任の所在の明確化について、先ほどと同じですけれども、まずは日本政府としてどのような基準で考えているのか、防衛省の政府参考人に伺います

お答えいたします。 　防衛省といたしまして、先ほど御紹介いたしました防衛省ＡＩ活用推進基本方針にも記載しておるとおり、ＡＩが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると考えてございます。 　人間の関与の在り方に関しましては、委員からも御指摘ありましたとおり、国際的にも様々な議論があると承知しておりますが、最も重要な点は、指揮官や操作者が意図した形で兵器システムを運用できるような状態を確保することであると考えてございます。そのためには、使用する兵器システムに関する情報を十分把握すること、また、責任ある指揮命令系統の下で適切な判断ができるようにすることが必要と考えてございます。 　先ほど申し上げた防衛省のＡＩ活用基本方針に記載した考え方につきましては、以上のような基本的な考え方に基づいて策定したものでございまして、防衛省としては、これを踏まえ

お答え申し上げます。 　ＡＩを活用しました軍事システムにおけるＡＩの判断に関する追跡可能性、あるいは透明性といったことにつきましても、同じくＧＧＥの中でも様々な議論が行われておるところでございます。 　先ほどの繰り返しになりますけれども、ＡＩを利用した軍事システムについて、責任は人間が負うべきとの認識についてはおおむね共有されておるところでございますけれども、具体的なＡＩの判断の検証をどのように行うのか、技術的に可能なのか、判断過程の記録保全とか事後検証の在り方、これらにつきましては、日々進化するＡＩの技術も踏まえながら様々な議論が行われておりますところですので、まだ我が国として具体的にこうあるべきという判断を申し上げられる段階にはございません。 　引き続き、我々としても、ＧＧＥの中で、適切な技術の進展を踏まえた規制の在り方につきまして、積極的に参加をしてまいりたいと思っております。