外交・安全保障に関する調査会

○串田誠一君　岩本参考人に、今の小笠原参考人の御答弁の続きなんですが、「アイ，ロボット」も出てきたんですけど、「アイ，ロボット」は、映画を見ていただくと分かるんですが、人間のために働いているんですね。ところが、だから人間のコントロールが及んでいるんですけど、ある一時、ある一点で急に謀反を起こす映画なんですよ。ＡＩがどんどん進んでいくことによって、ロボットが人間のコントロール下でありながらいつしか自律していくんではないかという映画だったと思うんですけど、科学が発展していくと、そのロボット自身が最善の方法を選択するようなシステムが続くことによって、ついには人間のコントロールを遮断していくということもあり得るのではないかという危惧を私は思うんですが、岩本参考人、その点はいかがでしょうか。

○参考人（岩本誠吾君）　御質問ありがとうございます。 　先ほど最初に御説明しましたように、テクニカルシンギュラリティー、技術的特異点、人間と人工知能が同じになる地点が大体四〇年から五〇年の間、二〇四五年ぐらいと言われておりまして、それ以上になりますと、あと三十年ぐらいたつと、スーパーインテリジェンス、超機能ということで、超知能ということで、人間をだましてしまう、人間の情に訴えて、例えば、ロボットであれば切るスイッチというのを付ける必要があると思うんですけれども、切るスイッチを押さないようにさせるとか、そういう意味で人間を凌駕するようなものが出てくるというその予測があります。 　最近のコンピューターの科学者たちは、そういった超知能というものの出現も、十年前倒しということですから、二〇七〇年の十年前、二〇六〇年ぐらいにはそういった人間を凌駕してしまうような人工知能ができるであろう、だからそ

○串田誠一君　小笠原参考人に同じような質問なんですが、私、将棋が大好きで将棋議連にも入っているんですけれど、まさかコンピューターが人間を超えるとは思わなかったのがあっという間にもう超えてしまっている状況ですけれど、人間を凌駕するようなＡＩが作られるときにそれを抑えることというのが人間にできると小笠原参考人はお思いでしょうか。

○参考人（小笠原一郎君）　ありがとうございます。 　まさに今、そこの部分がこのＬＡＷＳの議論の中でも一番重要な部分の一つとなっておりまして、このＬＡＷＳの、先ほど申しましたけれども、自律の程度というものが非常に重要だというふうに申し上げましたが、特にその中でもマシンラーニング、機械が自分で考えてしまう、特に機械が自分で考えて、自分に与えられたマンデートというか命令を自分で書き換えてしまう、これが非常に恐ろしいと。そういう状況になったらば、本当に機械がその軍事利用されている場合に指揮、軍隊の指揮命令系統から逸脱してしまうと、そういうおそれが出てくると。そういったものはしたがって設計すべきでもないし、開発の、マシンラーニングを備えたような高い自律性を備えたものについては一定の規制を考えるべきであるという多くの意見がございます。 　それに対してどういうふうに対応していくかという手段なんですけ

○串田誠一君　ありがとうございます。 　次に、清水参考人にお聞きしたいんですが、先ほど、オタワ条約でいかなる状況でも対人地雷は使用しないというのは非常にそのとおりかなと思うんですけど、今、ロシアとウクライナのときに、大国がその条約に入っていなくて、小国だけが条約に入って、そしてその小国が大国が利用しているのも利用してはいけないというのは、いかなるというところで分からなくはないんですけれど、何かすごく、何か平等ではないなというちょっと感じもするんですけれども、じゃ、使っていいかというのとはまた違うとは思うんですが、このいかなるという文言を入れるときに、そういう大戦が起きて、その条約に加入していない大国が使用したときにもこのいかなるというものになるんだということを、条約、その作成時において議論がなされていたものなんでしょうか。

○参考人（清水俊弘君）　そこに関しては、私自身、記憶に定かではないので正確なお答えはできないんですけれども、やっぱり、その地雷の使用に関しては、例えば、今のロシアとウクライナの状況を、じゃ、もうこういうときはしようがないよねという形で、もし締約国というか、このオタワ条約の締約国がそういう状況を認めていくような形になっていくと、やっぱりそもそも条約の持つ規範力の弱体化につながるということと、例えば、じゃ、イスラエルとパレスチナの問題を考えても、パレスチナは加盟国、イスラエルは未加盟国と、こういう、まあパレスチナは国、まだ国ではないですけれども一応批准しているんですけれども、じゃ、イスラエルは使う、でもパレスチナには使うな、ハマスには使うなというようなまた同じような話が出るとしたときに、やっぱりそのときには、やっぱり大事なことは、その加盟国には自制を促しながら、やっぱり利用している国に対しても

○串田誠一君　大変参考になりました。どうもありがとうございました。

○会長（猪口邦子君）　それでは、浜口誠君。

○浜口誠君　国民民主党・新緑風会の浜口誠です。 　今日は、三人の参考人の皆様、ありがとうございました。いろんな、ＬＡＷＳについて、あるいは対人地雷の条約の履行状況についてお話しいただきました。ありがとうございました。 　まず最初に、小笠原参考人にお伺いしたいと思います。 　今日配付された資料の中に、ＬＡＷＳの規制に関する各国の立場という資料がございます。この資料を拝見しますと、中国の立ち位置が結構微妙というか、文書規制に対して積極派の辺りに位置しているんですけれども、中国としてこういう立ち位置を取っている理由とか背景、この辺りを解説をしていただければというふうに思います。

○参考人（小笠原一郎君）　中国の立場に関する御質問でございますが、これ非常に独特のものがございまして、実はこの一元的な右から左に広がるスペクトラムの中できちんと位置付けること、必ずしもできないような立場であります。 　中国は中国の独自のＬＡＷＳに関する提案をしていまして、実は中国自身、非常に高い自律性兵器の能力を持っていると言われています。したがって、この持っている者と持っていない国々との間の綱引きでは、どちらかというと持っている国の立場に立っておかしくないというふうに考えられるんですが、中国は元々途上国の代表ということで外交場裏では振る舞ってきているということもございまして、非常にプレゼンテーションはそういったところにも配慮をした形になっています。 　中国の提案というのは非常に厳密に、その禁止すべきＬＡＷＳ、彼らは受け入れられるものと受け入れられないものということで二分しようとしてい