内閣委員会

半自律も含めてＡＩの軍事利用は禁止をすべきだということをはっきりとさせることを求めて、質問を終わります。

次に、伊東信久君。

日本維新の会の伊東信久でございます。 　今回の法案に対して城内大臣に御質問させていただくんですけれども、今回の法案、欧米諸国にＡＩ技術においてキャッチアップしていく、そして、逆に日本がＡＩの大国になるべくこの法案ができたということは承知しておりまして、午前中、平井議員がおっしゃっていたように、おおむね、これに対して後押しをするというのは与野党共通したことだとは思うんです。 　先ほど立憲の梅谷議員からも御質問あったんですけれども、じゃ、ＡＩに関して、これからというよりも、もう既に実用化されておりまして、もう今既にある課題について御質問させていただきたいんですけれども。 　まずは、自動運転若しくは生成ＡＩによる偽情報など、ＡＩによる事故、自動運転による事故若しくはＡＩによる名誉毀損、損害などが発生した場合、これは責任の所在はどこにあるかということをまず聞きたいわけですね。 　例えば、自

お答えします。 　ＡＩが事故を起こした場合の責任の所在につきましては、例えば、ＡＩが活用されている自動運転車が事故等起こした場合につきましては、責任制度や社会的ルールの在り方等の検討が進められております。 　今後、あらゆる分野におきましてＡＩが活用されることが想定されますので、ＡＩの活用方法は分野によって大きく異なっております。したがいまして、事故が発生した場合の対応につきましては、それぞれの分野において、各種のガイドライン等も勘案しつつ、産学官の関係者において検討していく必要があるというふうに考えております。 　内閣府といたしましては、今後、ＡＩ法案に基づきまして設置するＡＩ戦略本部の下、関係省庁と緊密に連携しながら、ＡＩが事故を起こした場合の責任の考え方について、伊東委員の御指摘もしっかり踏まえて検討していく考えであります。

大臣から分野においてということをおっしゃっていただきまして、非常によく分かります。ただ、分野においても、やはり進んでいるところ進んでいないところ、濃淡があると思いますので。 　私は外科医でありますので、ちょっとそれに関連して資料を出しているんですけれども、私は、消化器外科は専門じゃありません。椎間板ヘルニアのレーザー治療というのをやっていまして、レーザー機器自体にももうＡＩがあって、ある程度の出力が来るとストップがかかるようになっております。 　診断学において、今ＡＩというのは非常に発達しておりまして、例えば内視鏡の、胃カメラとか直腸鏡とかのカメラにおきまして見ていくわけですよね。体の中というのは真っ暗ですから、明かりが要るわけですね。明かりをつけて人間の目で見ていくと、それが反射して、今度は診断がしにくいということもあったりもします。それを、ＡＩがいろいろデータを蓄積していって、腫瘍

大変難しい質問だと思いますが。 　まず、医療現場で発生する諸事案への対応につきましては、実はこれは私の担務ではありませんが、一般論で申しますと、医療の現場においては、まず医師が患者さんに対しまして事前にリスクを説明し、ある程度両者が合意した上で治療を行うことが基本であると認識しておりますが、ＡＩにおいても恐らく同様でありまして、ＡＩの提供者が利用者に対してリスクについてしっかりと説明をし、利用者側もＡＩのリスクを十分理解した上で、当事者間の責任の下で活用されるべきものと考えております。 　それでもなお不意の事故が発生した場合には、やはりケース・バイ・ケースでその事案ごとに、前例やガイドライン等を勘案し、判断していくということになるのではないかと思います。

ありがとうございます。 　ただ、やはり、かなりこれは進んでいるし、既にもう開発もしてあるんですね。今、大阪・関西万博をやっていますけれども、自動的にいろいろ調べたりするような、そういった展示もされているんですけれども、もしかしたら、医者がいなくても診断できるような、ＡＩが診断できるような、そんなシステムを開発されるかもしれません。 　そういったところも、厚労省としてはもう既に予測されているんですね。ですので、もう平成三十年にそういったガイドラインができているとお聞きしているんですけれども、厚労省からそれを説明していただいていいですか。

ＡＩを用いた診断等に関する関係ですけれども、先ほど御指摘のとおり、平成三十年十二月の厚労省からの通知で、ＡＩを用いて患者に対する診断や治療を行う場合についても、診断、治療等を行う主体は医師であり、医師がその最終的な判断の責任を負うこととなり、当該医療は医師法に基づく医業として行われるものである旨の通知をしているところでございます。 　実際に、先ほどおっしゃられた、点線で丸が出てくるようなケースについても、それを実際に医師が確認して、本当にがんの病変であるかどうかも含めて判断していただくことになるのが今の時点での基本的な医師の責任という形になっておりますので、こうした形の通知を発出しているところでございます。

ありがとうございます。 　これは本当に、ベースとして医師法十七条というのがありまして、あくまでも、今日というか今までの議論の中にもありましたけれども、やはり人間が中心であると。 　そして、人間が使うデバイスとしての、道具としてのＡＩというところを改めて認識しなければいけないんですけれども、ただ、やはり今後のＡＩの発達によって、本当に、今日も興味深くほかの議員の皆さんの質問を聞いていたんですけれども、ＡＩというのはやはり蓄積である、インプットとアウトプットによって、確率論によってというのはなかなか興味深いですけれども。アンドロイドを作っている阪大の石黒教授が、あの方はアンドロイドを作っているのでそうおっしゃるのかもしれないですけれども、いや、もうそれが人間を超える時代は来るよ、伊東さんと言われたことがあって、何となく、人間が作るＡＩであるけれども、それが、まさしくＳＦの世界になっちゃいま

お答えします。 　例えば医療画像についていえば、ＭＲＩで撮影した過去の脳画像をＡＩに学習させて、将来の脳画像を予測し自動生成するＡＩが開発されるなど、民間企業でそういった研究開発の取組が進んでいる、実際にそれが応用されて使われているというふうに伺っておりますが、いずれにしましても、例えば医療分野におけますと、我が国は良質なデータを大量に持っておりますので、今後この分野で世界をリードしていけるんじゃないかなと思います。 　実は、内閣府としても、戦略的イノベーション創造プログラム、ＳＩＰというのがございまして、このプログラムで患者の健康状態をデジタル空間で再現することのできる医療デジタルツインの構築に向けて、今開発に取り組んでいるところでございます。 　いずれにしましても、内閣府が司令塔機能を持って、委員御指摘のとおり、縦割りではなくて、各省庁と協力しながら、医療分野はもちろんのこと、様