参議院

ＡＩを含む科学技術の急速な発展が安全保障の在り方を根本的に変化をさせ、従来の戦闘様相が大きく変化する中におきまして、我が国にとって新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題となっております。 　このような認識の下、防衛省では、ＡＩ等の先端技術を取り扱う企業、中でもスタートアップ企業との連携を重視しておりまして、具体的な施策といたしましては、経済産業省の支援を得て、防衛産業へのスタートアップ活用に向けた合同推進会等において防衛省・自衛隊とスタートアップのマッチングを推進すること、また、早期装備化事業のための取組においては、自衛隊の装備品への活用を念頭に優れたスタートアップの技術の活用を図ること、さらには、安全保障技術研究推進制度において、防衛分野での将来における研究開発に資することを期待してスタートアップの先進的な基礎研究を支援すること、また、政府全体の取組に倣

今お伺いして、かなり前のめりなのではないかなというふうに不安に思います。 　令和六年七月のこの防衛省作成の防衛省ＡＩ活用推進基本指針について副大臣からも御説明がありましたけれども、新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題であるですとか、人員の効率的な活用など、ＡＩの意義をも強調しまして、これ、ＡＩを軍事利用を際限なくすることの危険性というのは非常にあるんじゃないかというふうに思っております。 　平和国家日本として許されない一線というのはこれどういうふうに捉えておるんでしょうか。

防衛省は、意思決定の迅速化や情報収集・分析能力の向上などの効果を狙いとして、各種の分野においてＡＩの活用を重点的に推進することとし、様々な事業を進めているところであります。 　そして、この際、昨年七月に策定した防衛省ＡＩ活用推進基本方針においても、ＡＩが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると記載されているとおり、ＡＩ活用推進に当たっては人間中心の考え方の下で進めることが不可欠であると認識しています。 　防衛省といたしましては、ＡＩ事業者ガイドラインも参考としつつ、人間の関与に係る議論を含め、政府内、国際社会などの議論にも注意を払い、ＡＩの活用に取り組んでまいる、そのような考え方で進めております。

昨日の防衛省さんとの打合せの中でも、国際規約を守るとか、あと、先ほどからお話しになっている人間中心の考え方というようなお話が出ているんですが、ここから先はもうやれないと、平和国家としてここはやらないんだというようなお話は最後まで出ませんでした。 　例えば、ＡＩが独自に判断をして相手を攻撃するような自律型のそういった防衛装備品というんですかね、そういったものは、これはさすがに駄目だと、そういうようなことはあるんでしょうか。

近年、急速な技術の発展を背景にしまして、ＡＩの軍事的な利用に関する議論が活発化しております。我が国としましても、関連する議論及び国際的なルール作りに積極的かつ建設的に参加してきたところでございます。 　我が国としては、国際人道法の原則は、新興技術を活用するものを含めましてあらゆる兵器に適用されるべきであるとの立場でございます。防衛省・自衛隊においても、当然のことながら、国際法や国内法により使用が認められていない装備品の研究開発を行うことはございません。

まあある意味それは当たり前のことで、この指針を見ますと、最後のところにはこう書いてあります。我々は今、ＡＩの活用により効率的で将来を自らつくり出す組織となるのか、後れを取って非効率で旧態依然の組織となるのかの分岐点であると、どちらを選び取るかは今後の我々の努力に懸かっているというふうに書いてあって、ＡＩを活用することが効率的で、将来を自らつくり出す組織ですばらしいんだと、後れを取ると非効率で旧態依然の組織となるというふうに、これ果たして、ＡＩというものを、行け行けどんどんで、バスに乗り遅れるなと言わんばかりに活用することがいいのかということをしっかりやっぱり憲法の原則、平和国家としての原則に基づいて見極めをしっかりしていくことが大切だと思いますが、いかがですか。

防衛省におきましては、装備品も含めてですけれども、一般行政事務から装備の技術、部隊の運用、広範多岐にわたる分野でＡＩの活用を推進していこうと考えているところでありまして、おっしゃったとおり、その平和国家である日本の憲法、これに反する、又は国際議論に反する形でのＡＩの活用を考えているわけではありません。

先ほど、五十年後、百年後の方々が今日の議論を聞いたときに、あのときＡＩ使うというふうに言ったからこうなっちゃったんだになるのか、あるいは、あのときＡＩをしっかり使うというふうに方針を定めたからこのいい未来になったんだというふうになるのかはまだ分からないというふうに思うわけです。 　そういった意味では、私たちの先人の知恵であるところの平和憲法や基本的人権の尊重など、憲法との整合性、そういったものをしっかりと、その場その場でしっかり判断をしていただき、しっかりと、憲法をこれ超えているんじゃないかというものがあるようであればしっかりと立ち止まるということ、あるいは戻ってくるということも非常に大切だということを御指摘をさせていただきたいと思います。 　次の質問に移ります。 　ここで、防衛副大臣、本田副大臣は、これ以降の答弁ございませんので、御配慮をお願いいたします。

本田副大臣は退席なさって結構です。

そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。 　ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということで、差別や偏見というものがより強化されてしまうという問題があるということです。 　このバイアスの確認、修正について、城内大臣はＡＩ開発者が必要な措置を講じるよう方針に盛り込むと答弁されていますが、そのバイアスにどうやって気付くかというと