参議院

基本的にはそのようなことでいいと思います。 　囲碁の場合のＡＩがまさにそうだったのですが、ルールを与えているわけですね。こういうルールで勝ち負けを判定しますよと。それはＡＩにトライアル・アンド・エラーを自動的に何度も何度もやらせたわけであります。そうすると、これまでの人間のいわゆる定石では発見されていない手法というのが発見されたというようなことがございました。この場合は、基準を与えていて、基準に対して最適化しなさいよという人間の意図は伝わっているわけですね。ただ、それはきっとこういう動作になるであろうなという我々の予想とは違う結果が出ていたわけであります。 　このような形でのずれというのが起きていて、なぜこうなったかが分からない。良いのは良いんです。良いことは分かるんだけど、何でなのか分からないというのが今ＡＩについて言われているブラックボックス化と呼ばれることの実態であります。

引き続きあれなんですが、ＡＩを使って今軍事目的でドローンで飛ばして攻撃していると、当然そのプログラムはこの目標に向かって行きなさいといって出すわけですけど、それを何らかの形で違う方向へ持っていくということもできるわけですよね。じゃ、それがブラックボックス化されて、今言うように勝手に、インプットは、我が国のために、平和を守るために君たちは頑張るんだぞというインプットであったと、ところが、それが何か違う意図せぬ国のところに例えば飛んでいったと。でも、それはＡＩからすると、いやいや、自分たちの国を守るためにそこを攻撃したんだみたいなことも起こり得るという、そういう理解でもいいですか。

二つの事案があろうかと思います。 　一つは、おっしゃった例の一つは、サイバー攻撃があったようなケースで、本来学習させたもの、あるいは利活用者が意図していたのとは違う目的が勝手に注入されたと、こういう形でのアタックを受けることによってシステムが乗っ取られる危険というのは当然ございます。これについては、したがって、結果をちゃんと検証して、ドローンの場合であれば、多分違った方向に行ったのが目に見えますので、その時点でシステムをシャットダウンして、安全回復、安全確保措置を講じるみたいなことが要請されることになります。 　それとは別に、先ほどのバグと同じなのですが、一定の評価基準は伝えましたと。ところが、その評価基準が言葉足らずであった、我々からするとですね、というようなことがよく起きるわけであります。先ほど申し上げたＨＡＬ９０００の例というのは実はそのケースだったはずで、要するに、安全を確保し

ということは、まとめますと、生命を危険に冒すような機械というかそういうものにＡＩを今使ってやっていくというのは時期尚早であるし、安全性がまだ確保されていないので、それは慎重というよりはやめた方がいいですよという、そういう認識でいいですか。

安全確保措置が十分に講じられていれば大丈夫だし、そうでなければいけないというのがお答えになろうかと思います。 　一例として申し上げますと、医療に用いられるＡＩ診断ですね、診断機器にＡＩを組み込んだ場合に、それがちゃんと動作しているし期待どおりだよなということは常に医師が点検して、その上でないと実際の医療行為につながらないようになっております。 　このような形で、能力のある人がちゃんと監査した上でということであれば生命のようなものについても利用可能だと思いますし、何かインターネット上でいきなりＡＩ病気診断システムが動き始めるというような事態は避けた方がよろしかろうと思うところでございます。

どうもありがとうございました。

以上をもちまして参考人に対する質疑は終了いたしました。 　参考人の皆様に一言御礼を申し上げます。 　参考人の皆様には、長時間にわたり貴重な御意見をお述べいただきまして、誠にありがとうございました。委員会を代表いたしまして厚く御礼を申し上げます。（拍手） 　本日はこれにて散会いたします。 　　　午後四時二十一分散会

　　午前十時開会 　　　　───────────── 　　　委員の異動 　五月二十日 　　　　辞任　　　　　　　　　補欠選任 　　　　　臼井　正一君　　　　　宮崎　雅夫君 　五月二十二日 　　　　辞任　　　　　　　　　補欠選任 　　　　佐々木さやか君　　　　　高橋　次郎君 　　　　　青島　健太君　　　　　嘉田由紀子君 　　　　───────────── 　　出席者は左のとおり。 　　　　委員長　　　　　　　　　小西　洋之君 　　　　理　事 　　　　　　　　　　　　　　　　朝日健太郎君 　　　　　　　　　　　　　　　　佐藤　信秋君 　　　　　　　　　　　　　　　　森屋　　隆君 　　　　　　　　　　　　　　　　安江　伸夫君 　　　　　　　　　　　　　　　　青島　健太君 　　　　委　員 　　　　　　　　　　　　　　　　江島　　潔君 　　　　　　　　　　　

ただいまから国土交通委員会を開会いたします。 　委員の異動について御報告いたします。 　昨日までに、臼井正一君が委員を辞任され、その補欠として宮崎雅夫君が選任されました。 　　　　─────────────

政府参考人の出席要求に関する件についてお諮りいたします。 　老朽化マンション等の管理及び再生の円滑化等を図るための建物の区分所有等に関する法律等の一部を改正する法律案の審査のため、本日の委員会に、理事会協議のとおり、国土交通省住宅局長楠田幹人君外三名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。 　　　〔「異議なし」と呼ぶ者あり〕