ギジログ

発言者	肩書	院	日付	会議名
石垣のりこ	所属政党：立憲民主・社民・無所属	参議院	2025-05-22	内閣委員会
四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。　それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。　市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかというところも非常に分かりづらいと。ＡＩ技術に対してリスクベースアプローチにより効果的に法規制を行うためには、その社会的リスクの特定が不可欠であるが、そもそも、ＡＩなどの新興技術がもたらす社会的リスクについては、その普及が進展する前に事前に全文表示
村上明子	役職　　：独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長役割　　：参考人	参議院	2025-05-22	内閣委員会
ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。　今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術というものでそれを実現していくということが大事なのかなと思っております。　以上でございます。
永沼美保	役職　　：一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ　Ｏｆｆｉｃｅ主席プロフェッショナル役割　　：参考人	参議院	2025-05-22	内閣委員会
ありがとうございます。　イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。　今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉えるべきは何なのか、そのタイミングは何なのかというところは、これから日本のモデルの中で、それの適正な部分というのはこの官民連携の中でやはり模索をしていくものであろうというふうに考えております。そのときの、どうやってそれを判断するかとかそ全文表示
大屋雄裕	役職　　：慶應義塾大学法学部法律学科教授役割　　：参考人	参議院	2025-05-22	内閣委員会
ありがとうございます。　我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。　そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない分野として注目すべきだと思っておりますのは、それは私がこの業界にいるからでもありますが、教育であります。　教育現場にＡＩが着々と進出しつつありますが、それに対する規制ないし、あるいはリスク評価自体も極めて乏しいという状況にありますの全文表示
市川類	役職　　：一橋大学イノベーション研究センター特任教授／東京科学大学データサイエンス・ＡＩ全学教育機構特任教授役割　　：参考人	参議院	2025-05-22	内閣委員会
御質問ありがとうございます。　今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。　以上です。
石垣のりこ	所属政党：立憲民主・社民・無所属	参議院	2025-05-22	内閣委員会
度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。　今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。　一方で、これまでの議論を振り返ってみますと、結局、じゃ、現状起きているリスクに対してどの程度対応できているのかという疑問に対しても、個々のケース、その都度ケース・バイ・ケースで対応している。どこまでそういうリスクに対応できるかは、それを見てみないと分からないというよう全文表示
大屋雄裕	役職　　：慶應義塾大学法学部法律学科教授役割　　：参考人	参議院	2025-05-22	内閣委員会
ありがとうございます。　おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。　これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。　ただ、この技術の方向性は、私自身の評価としては余り明るくなく、それよりは監査ＡＩのような、おっしゃったような、その結論がなぜ出たのかを監査する別のＡＩと組み合わせるであるとか、あるいは、それぞれ別の作り方をした三系統のＡＩを同時に走らせて多数決で決めるというような仕組みを考えていかない全文表示
永沼美保	役職　　：一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ　Ｏｆｆｉｃｅ主席プロフェッショナル役割　　：参考人	参議院	2025-05-22	内閣委員会
ありがとうございます。　こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。　これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩のところで自動的にというところになってくると、今、大屋先生のおっしゃったような、参考人のおっしゃったようなことを考えていくこと。　それから監査の部分、出力していくこのデータの部分をどう検証しますかというところにはなってまいりますが、や全文表示
石垣のりこ	所属政党：立憲民主・社民・無所属	参議院	2025-05-22	内閣委員会
ありがとうございます。　大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。　たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。　先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこういう課題があるということをちょっとお話しいただきたいということと、あと、無意識であるがゆえに、出てきたものに対してそのジェンダーロールの潜在的なものを顕在化するためにどういうことが必要であるというふうにお考えになっているか、お話しいた全文表示
村上明子	役職　　：独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長役割　　：参考人	参議院	2025-05-22	内閣委員会
ありがとうございます。お答えいたします。　ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。　これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなん全文表示