内閣委員会

御指摘のとおり、ＮＥＤＯから委託された産業技術総合研究所におきまして、ＡＩを活用した児童虐待対応支援システムの開発が行われていたということ、これは承知をしております。 　このＮＥＤＯのシステムは、ＡＩの基礎開発とその社会実装を目指すという目的の下、児童虐待対応支援を対象としたＡＩシステムを開発する中で、実用化に向けた実証を行うという観点から、特定の都道府県、三重県が用いるデータと業務フロー、アセスメント項目等に基づき開発されたものと承知をしております。 　他方、国といたしましては、児童相談所の事務負担の軽減も含め、全国の児童虐待事案に迅速かつ的確に対応するため、全国の児童相談所で統一的に活用できるツールの開発、実装を目指し、各自治体間の運用実態の違い等も踏まえつつ、都道府県の業務フローやアセスメント項目に対応できるシステムを開発してきたところでございます。 　このため、こども家庭庁の

広く見れば含まれていたのではないかということなんですけれども、厚労省、現こども家庭庁が新たな虐待対応支援ＡＩシステムを開発する上で、この産総研の既存のＡＩで例えば不足しているところであるとか、こういうのを改善する一つの、まあ一つの何でしょうかね、土台というか、反面教師的なところも含めまして、これ参考にすることはできたのではないかと思います。 　例えば、もう端的に言うと、ＡＩに学習させている実例の件数ですよね。産総研の方は、既に五年以上前の研究ではありますけれども、およそ六千件のケースを学習していると。こども家庭庁の方は今回およそ五千件だということでございます。 　この数字については少な過ぎるのではないかという批判の声も上がっていますが、ＡＩのことを調べていくと、必要なデータ量を測るのは非常に難しいようではあるんですけれども、実用化されているものというのは数十万件のデータを学習しているも

委員御指摘のとおり、この必要な学習データ量というものは、いろいろな学習モデルですとか活用場面ですとか、そういう質、収集、この難易度というものによって総合的に設定されるものであるというふうに承知をしております。 　本システムは、いわゆるオープンデータを用いるようなＡＩとは異なり、児童相談所において実際に対応した事案に関する情報を学習データとして用いたものであること等から、今般のＡＩツールの開発に当たって学習に用いるデータ数は五千件としております。 　この点、検討会委員であるＡＩ領域の有識者からも、この学習データの量が不足しているとかという指摘はございませんでして、実用化にまで結び付かなかった理由としては、事前に定められた一定の項目に該当するか否かのみで一時保護の判断をすることの難しさにあることなどとされたため、この開発当初の学習データ量として五千件が少ないという御指摘は当たらないというふ

でも、今から一つの事例がありますけど、二〇二三年五月に三重県の津市におきまして、四歳の児童が一時保護されずに虐待死するという痛ましい事件がありました。このケースでは、先ほどの産総研が開発したＡＩによる保護率三九％だと出たと報道されております。 　この事件の報告書も読みましたけれども、素人目にもこれ保護が必要なケースと言わざるを得ないと思いました。それでもＡＩが判定した保護率三九％であったということなんです。一部報道では、このＡＩが出した保護率三九％、参考にしたというふうにも伝えられています。これ資料三で、まあテレビなどの報道でもそのように伝えられているんですが、報告書を読みますと、この保護率を見る前に保護の見送りを決めていたということなんです。 　このシステム、先ほども申し上げましたように、現在も自治体で使用されています。こども家庭庁のデータは、あくまでも学習データ五千件、入力項目九十

今回、国が児童相談所における一時保護判断に資するＡＩツールのリリースを延期したのは、全国に提供し一律に用いられる可能性のあるツールとしては、現在の判定精度では十分ではなく、更なる改良が必要と判断したことによるものでございます。 　迅速かつ的確に児童虐待対応を行うためには、児童相談所の業務効率化等、重要でありまして、自治体が別途構築したＡＩシステムを活用すること、これを否定するものではございません。 　今年度の調査研究において、自治体におけるデジタル技術の利活用の状況、これを調査しておりまして、その中でＡＩの活用状況も把握することといたしております。

その項目の中にしっかりと、この虐待対応でＡＩを活用しているのであれば、しっかりと把握をしていただきたいということでございます。 　あくまでも、各自治体の判断で使用しているものを否定してくださいということではなくて、実態をきちんと把握して、適切に使われているかということに関しては、こども家庭庁としてこの視点を持って、必要があれば数字などをもって使い方をしっかりと見定めていくということが必要なのではないだろうかということが、起こった事件の事例などからも言えるのではないかと思います。 　今回、十億円掛けて開発したＡＩツールが残念ながら使えなかったということで、一時中断の判断がなされたわけであります。これは、いろんな批判ももちろんこれ否めないところではあると思うんですけれども、この六割で判定ミスが生じた段階で止めるという判断をしたのは、私としてはこれ賢明な判断だというふうに思います。 　ＡＩ

委員おっしゃるように、この一時保護の判断というのは子供の命に直結するものでありますので、この児童相談所における一時保護判断に資するＡＩツール、これは、職員による迅速な判断が過去の事例に照らして的確なものとなるよう支援するためのツールとして用いることを想定をしてございます。こうした重要な役割を期待されるものであり、全国に提供するツールであることも踏まえると、現在の判定精度では十分ではなく、更なる改良が必要だと判断し、現時点でのリリースを延期したものでございます。 　今回は、事前に定められた一定の項目に該当するか否かのみで一時保護の判断をすることの難しさゆえに精度が十分でなかったものと考えておりますが、開発を開始した数年前と比較してＡＩ技術の大幅な進化もあります。今後、児童記録票に記載されている文字情報等、非定型的な情報を学習できるＡＩ技術が確立されることも期待されているところでございます。

ありがとうございます。 　面談の音声を文字化するツールとかというのもあると思うんですけれども、全国様々な地域の言葉がございますので、こういうところも全て把握してきちんと分かるような状況で読み込ませるには、相当やっぱり学習、ディープラーニングを含めてやっていかなきゃいけないと思いますけれども、今後もしっかりと検討して、ＡＩの使い方というのを間違わないようにしていただきたいというふうに思います。 　三原大臣、ありがとうございました。 　では、続きまして、大阪・関西万博の質問に移りたいと思います。 　まずは、資料の四ですね。資料にあるとおり、万博のリングの下の護岸が波で浸食されるという事案が発生しました。 　これ、いつ、なぜこのような浸食が起きたのか、ちょっと端的に説明していただけますか。

お答え申し上げます。 　博覧会協会から聞いておりますのは、このリングの内側のウォータープラザ、ここに注水始められたのが二月の十七日、それからリングの外側のつながりの海というところが二月の十八日、それぞれ注水を開始いたしまして、その後、護岸の一部で浸食を確認したのは二月の十九日ということでございます。 　この護岸浸食でございますけれども、ウォータープラザ、つながりの海というところに注水をした後に、風の影響で水面の波の高さが想定以上に高くなってしまったということ、それから、先行してウォータープラザに注水を開始したということでございますけれども、つながりの海とウォータープラザの水面のこの水位差、これが生じたことによってつながりの海への水の流れができてしまったということ、これが原因であると考えられるというふうに報告を受けているところでございます。

その設計上、水の流れができることがまず想定できていなかったのかという問題、あと、波がここまで立つと思わなかった、風が強かったということですけれども、大阪市の気象データを確認したところ、これ、大阪市のものなので埋立地の万博予定地は海に近いのでもっと強かったと思うんですけれども、この水を注入した二月の十七日、最大瞬間風速十二・二メートル、最大風速六・六メートル、十八日は、最大瞬間風速九・八メートル、最大風速が五・四メートル、浸食が確認された十九日、最大瞬間風速九・二メートル、最大風速五・四メートル。 　これ、風が吹いて波が立つことというのは本当に予測できなかったんですか。