第213回国会の発言まとめ

○参考人（小笠原一郎君）　ありがとうございます。 　ＬＡＷＳの定義に関しましては、一つ大きな考え方としまして、その自律性を備えた兵器の自律の程度、これが完全に自律型のものに関してはこれは禁止しようという一つの考え方がございまして、これは多くの国、フランスですとかあるいはドイツといったもの、国々が提案をしている中にも含まれております。したがって、その自律の程度によって定義をするというアプローチ、もう一つは、実は自律の程度だけでは定義しづらいのではないかというふうに考えている国々もおりまして、例えば、これアメリカ、日本もそれに近い部分がございますけれども、むしろ国際人道法の遵守可能性、可能性の程度いかんによって、その定義を、カテゴリーを決めていこうという考え方もございます。 　ただ、いずれの国も完全自律型の兵器システムを開発するつもりは自分のところはございませんとほぼ全ての国が言っています

○串田誠一君　岩本参考人に、今の小笠原参考人の御答弁の続きなんですが、「アイ，ロボット」も出てきたんですけど、「アイ，ロボット」は、映画を見ていただくと分かるんですが、人間のために働いているんですね。ところが、だから人間のコントロールが及んでいるんですけど、ある一時、ある一点で急に謀反を起こす映画なんですよ。ＡＩがどんどん進んでいくことによって、ロボットが人間のコントロール下でありながらいつしか自律していくんではないかという映画だったと思うんですけど、科学が発展していくと、そのロボット自身が最善の方法を選択するようなシステムが続くことによって、ついには人間のコントロールを遮断していくということもあり得るのではないかという危惧を私は思うんですが、岩本参考人、その点はいかがでしょうか。

○参考人（岩本誠吾君）　御質問ありがとうございます。 　先ほど最初に御説明しましたように、テクニカルシンギュラリティー、技術的特異点、人間と人工知能が同じになる地点が大体四〇年から五〇年の間、二〇四五年ぐらいと言われておりまして、それ以上になりますと、あと三十年ぐらいたつと、スーパーインテリジェンス、超機能ということで、超知能ということで、人間をだましてしまう、人間の情に訴えて、例えば、ロボットであれば切るスイッチというのを付ける必要があると思うんですけれども、切るスイッチを押さないようにさせるとか、そういう意味で人間を凌駕するようなものが出てくるというその予測があります。 　最近のコンピューターの科学者たちは、そういった超知能というものの出現も、十年前倒しということですから、二〇七〇年の十年前、二〇六〇年ぐらいにはそういった人間を凌駕してしまうような人工知能ができるであろう、だからそ

○串田誠一君　小笠原参考人に同じような質問なんですが、私、将棋が大好きで将棋議連にも入っているんですけれど、まさかコンピューターが人間を超えるとは思わなかったのがあっという間にもう超えてしまっている状況ですけれど、人間を凌駕するようなＡＩが作られるときにそれを抑えることというのが人間にできると小笠原参考人はお思いでしょうか。

○参考人（小笠原一郎君）　ありがとうございます。 　まさに今、そこの部分がこのＬＡＷＳの議論の中でも一番重要な部分の一つとなっておりまして、このＬＡＷＳの、先ほど申しましたけれども、自律の程度というものが非常に重要だというふうに申し上げましたが、特にその中でもマシンラーニング、機械が自分で考えてしまう、特に機械が自分で考えて、自分に与えられたマンデートというか命令を自分で書き換えてしまう、これが非常に恐ろしいと。そういう状況になったらば、本当に機械がその軍事利用されている場合に指揮、軍隊の指揮命令系統から逸脱してしまうと、そういうおそれが出てくると。そういったものはしたがって設計すべきでもないし、開発の、マシンラーニングを備えたような高い自律性を備えたものについては一定の規制を考えるべきであるという多くの意見がございます。 　それに対してどういうふうに対応していくかという手段なんですけ

○串田誠一君　ありがとうございます。 　次に、清水参考人にお聞きしたいんですが、先ほど、オタワ条約でいかなる状況でも対人地雷は使用しないというのは非常にそのとおりかなと思うんですけど、今、ロシアとウクライナのときに、大国がその条約に入っていなくて、小国だけが条約に入って、そしてその小国が大国が利用しているのも利用してはいけないというのは、いかなるというところで分からなくはないんですけれど、何かすごく、何か平等ではないなというちょっと感じもするんですけれども、じゃ、使っていいかというのとはまた違うとは思うんですが、このいかなるという文言を入れるときに、そういう大戦が起きて、その条約に加入していない大国が使用したときにもこのいかなるというものになるんだということを、条約、その作成時において議論がなされていたものなんでしょうか。

○参考人（清水俊弘君）　そこに関しては、私自身、記憶に定かではないので正確なお答えはできないんですけれども、やっぱり、その地雷の使用に関しては、例えば、今のロシアとウクライナの状況を、じゃ、もうこういうときはしようがないよねという形で、もし締約国というか、このオタワ条約の締約国がそういう状況を認めていくような形になっていくと、やっぱりそもそも条約の持つ規範力の弱体化につながるということと、例えば、じゃ、イスラエルとパレスチナの問題を考えても、パレスチナは加盟国、イスラエルは未加盟国と、こういう、まあパレスチナは国、まだ国ではないですけれども一応批准しているんですけれども、じゃ、イスラエルは使う、でもパレスチナには使うな、ハマスには使うなというようなまた同じような話が出るとしたときに、やっぱりそのときには、やっぱり大事なことは、その加盟国には自制を促しながら、やっぱり利用している国に対しても

○串田誠一君　大変参考になりました。どうもありがとうございました。

○会長（猪口邦子君）　それでは、浜口誠君。

○浜口誠君　国民民主党・新緑風会の浜口誠です。 　今日は、三人の参考人の皆様、ありがとうございました。いろんな、ＬＡＷＳについて、あるいは対人地雷の条約の履行状況についてお話しいただきました。ありがとうございました。 　まず最初に、小笠原参考人にお伺いしたいと思います。 　今日配付された資料の中に、ＬＡＷＳの規制に関する各国の立場という資料がございます。この資料を拝見しますと、中国の立ち位置が結構微妙というか、文書規制に対して積極派の辺りに位置しているんですけれども、中国としてこういう立ち位置を取っている理由とか背景、この辺りを解説をしていただければというふうに思います。