恒藤晃

お答えいたします。 　一般論として申し上げますと、生成ＡＩにおきましては、誤った情報や倫理上好ましくない回答など、不適切な出力をする場合があると承知をしてございます。 　その主な要因といたしましては、生成ＡＩは、あらかじめ大量のデータを学習し、前後の文脈を踏まえて統計的に確からしい単語をつなげて文章を生成するといった仕組みであることから、事実と異なる情報をもっともらしく出力する、あるいは不適切な情報を出力するといった場合があること、また、学習データに含まれる不正確な情報や偏りが出力結果に影響を及ぼすことなどが挙げられます。 　以上でございます。

内閣府といたしましては、ＡＩ法に基づき昨年十二月に作成いたしましたＡＩの適正性確保に関する指針に基づきまして、不適切な出力の抑制に向けて最新の技術と知見を活用して取り組むよう促しているところでございます。こうしたことも踏まえまして、ＡＩを開発、提供する多くの事業者におきましては、不適切な出力をできるだけ抑制するよう対策を講じてきているものと承知をしてございます。 　とはいえ、生成ＡＩの不適切な出力を完全に防ぐということは現在の技術では困難であるというのが一般的な理解であると認識してございます。

我が国はフュージョンエネルギーの国際プロジェクトでございますＩＴＥＲ計画におきまして多くの重要な機器の製造を担っておりまして、これを通じて、多くの日本企業が様々な技術を開発、蓄積してきているところでございますが、委員御指摘の、現地の建設工事などにつきましては、現状、日本企業は選定されておりません。 　これは、そもそも日本企業がその入札に参加していないためでございまして、その理由としては、昨今の人手不足の中で、フランスに多くの社員を送って建設作業をするというのが、日本企業にとってはリスクが大きい割にメリットが小さいということが一つの原因というふうに認識してございます。 　フュージョンプラントの建設、組立てについては、我が国企業は実は、現時点で世界最大のトカマク実験装置でございます我が国のＪＴ60ＳＡの設計、施工を通じ、ある程度の経験を積んできているところでございますが、やはり、ＩＴＥＲへ

お答えいたします。 　第六期の科学技術・イノベーション基本計画におきましては、官民合わせた研究開発投資の目標について、二〇二一年度から二五年度までの五年間で百二十兆円、すなわち、一年当たりにいたしますと二十四兆円という目標を設定しておりました。 　最終年度でございます二五年度の実績がまだ公表されておりませんので、現時点で五年間の目標を達成できたかどうかを評価することは困難でございますが、初年度から四年度までの実績は四年連続で増加をしておりまして、二一年度は十九・七兆、二二年度は二十・七兆、二三年度は二十二兆、二四年度は過去最高の二十三・八兆円となっておりまして、年平均では、先ほど申し上げた目標の二十四兆円というのに対しまして、最初の四年間の年平均は二十一・六兆円となってございます。 　本年三月に閣議決定をいたしました第七期の基本計画におきましては、研究開発税制などの科学技術イノベーシ

お答えいたします。 　大規模言語モデルなどの汎用ＡＩの性能が急速に向上している中で、多くの産業などの現場では、より使い勝手がよく、現場の課題解決を可能とするＡＩが求められておりまして、こうした観点から、領域に特化することで正確性と専門性を高めたいわゆるバーティカルＡＩの開発、活用が今後拡大すると見込まれてございます。 　こうしたバーティカルＡＩの開発には、現場データの活用が鍵でございまして、暗黙知を含めた現場データを豊富に有する日本は、この分野で世界をリードできる可能性は十分にあると考えてございます。すなわち、国内のみならず、世界各国の現場の課題解決にも有効なものを開発することで、その輸出も期待できるところでございます。 　こうしたことを踏まえまして、バーティカルＡＩは日本の勝ち筋の一つであると考えておりまして、日本成長戦略の議論の中で、まさにこの分野の官民投資ロードマップを検討し、

委員御指摘のとおり、我が国のＡＩＳＩが自ら個別のＡＩモデルを評価する技術的能力を備えることは非常に重要であると考えておりまして、現在、ＡＩ基本計画に基づきまして、ＡＩＳＩの抜本的強化に向け体制の強化を進めているところでございます。 　具体的には、技術的専門性を有する民間からの人材の採用を進めるとともに、政府からの出向者を増やすということで体制強化を図っております。その一環として、ＡＩＳＩがより技術的能力の高い民間人材を確保できるよう、給与規程の見直しを行い、能力に見合った処遇を受けられるような体制を整備したところでございます。 　諸外国のＡＩＳＩ等の状況も参考にしながら、引き続きＡＩＳＩの機能強化にスピード感を持って取り組んでまいります。

今御指摘いただきましたように、新たに開発された高性能のＡＩモデルにつきまして、リリースされる前に我が国のＡＩＳＩが先行的にアクセス権を得まして、サイバー攻撃に悪用できるかどうかなど安全性を評価できるようにするということは非常に重要であると考えてございます。 　そのためには、その我が国のＡＩＳＩに先行的に評価をしてもらうということが先方のいわゆる高性能なＡＩモデルを開発する企業にとって意味があると思ってもらう状況をつくるということが重要でございまして、そのためにはＡＩＳＩが実力と実績を高めていくということがまず重要であると考えてございます。 　こうしたことから、ＡＩＳＩにおきましては、体制を強化をしＡＩモデルを評価する手法やツールの開発を進めるとともに、実際に自ら高性能ＡＩモデルの安全性を評価をし、その結果をそれを開発した企業と意見交換を行うといったようなことで、そういった企業を、進めて

まず、そういった企業の信頼を勝ち得ていくという観点では、当然、情報の管理はしっかりしていかなきゃいけないとは考えてございます。 　また、ＡＩＳＩが今後自らＡＩモデルを評価するようになったという際には、それがサイバー攻撃に悪用される可能性などに関する情報を自らその評価によって得るということも想定され、適切に情報管理することは重要でございます。 　それについては、今委員御指摘のとおり、ＡＩＳＩは独立行政法人情報処理推進機構に設置された組織であり、この機構におきましては、情報処理の促進に関する法律に基づき、職員の守秘義務というのがございまして、就業規則上も業務上知り得た秘密への守秘義務を職員に課すことにより情報管理を行っているところでございます。 　こういった仕組みをしっかり運用することで、引き続き適切に情報管理を行ってまいります。

お答え申し上げます。 　ＡＩセーフティ・インスティテュート、ＡＩＳＩと呼んでございますが、におきましても、この件への対応の重要性は認識をしておりまして、情報収集等を積極的に行っているところでございます。 　具体的に何をやっているか、詳細をつまびらかにすることは差し控えたいと思いますけれども、例えば、日本のＡＩＳＩは、このクロード・ミュトスの評価に関しまして、イギリスのＡＩＳＩとの情報交換を進めてきているところでございます。 　今後とも、国家サイバー統括室を始めといたします関係省庁と密接に連携しながら、本件に係る対応を適切かつ迅速に進めてまいりたいと考えてございます。

お答え申し上げます。 　委員御指摘のとおり、これは外国製かどうかに限らず、ＡＩにおきましては、いわゆるハルシネーションなどによりまして不適切な出力がなされるといったリスクや、入力したデータや情報がＡＩの学習に使われてしまう、あるいはそれが流出してしまうというリスクがございます。 　政府といたしましては、我が国の戦略として、信頼できるＡＩを追求し、イノベーションの促進とリスク対応の両立を徹底していくということにしてございまして、ＡＩの安全性あるいはセキュリティーの確保についても、昨年末に閣議決定いたしましたＡＩ基本計画に基づき、様々な施策を講じているところでございます。 　具体的には、昨年末にＡＩの研究開発及び活用の適正性確保に関する指針というのを策定、周知をいたしまして、ＡＩ基盤モデルを活用してアプリを開発する、あるいは提供する事業者などが、リスク管理をするための適切な措置を自主的に