参議院

このオープンＡＩに限らず生成ＡＩは、大手のＩＴ企業あるいはスタートアップと言われる民間企業が手掛けることが中心となっていると認識しているんですけれども、この営利目的とする民間企業が生成ＡＩを手掛けることは安全上のリスクが生じ得るのかという点で、政府の見解を聞きたいと思います。

お答え申し上げます。 　いわゆるネットワークビジネスにおいて起こる現象でございますけれども、一般的には非常に技術的にブラックボックスになりやすい、そういうものを扱っているデジタルプラットフォーマーと言われている人たちなので、一般の人のチェックが入りにくいという説もあるんですけど、逆に多くの利用者がそれを利用して、日々使っているので、何かおかしいことがあればそれは発覚しやすいという面もあれば、また一回そういうことが起こりますと使われなくなってしまうということで、事業者側もリスクを感じていますので、利用者の多いＩＴシステムといいますかＡＩも含めて、民間企業がやっているから駄目なんだということはないというふうに考えております。

ちょっとまた後ほど似たような質問をするんですけど、私非常に関心が、興味深かったのは、このＡＩを我が国の産業の発展につなげていくんだとするならば、やはり民間企業にそれを担ってもらうということが当然必要になってくると思うんですね。ですけど、このオープンＡＩは営利目的とするという組織改編をやっぱりやめますと言ったことは何かとても興味深くて、でも、民間企業というのは普通営利を追求するのが民間企業ですので、その民間企業に頑張っていただくことが日本のＡＩの進展にもなるけれども、でも、余り営利を追求し過ぎると実は肝腎なリスクが脅かされる可能性もあるというような、私、そういうふうにこのニュースを読んで大変興味深いということを思いましたので、ちょっと先にお尋ねさせていただきました。 　私は、日本が、このＡＩというのが出てきてまだ世界的に余りＡＩということ、動きが広く出回っていなかった二〇一〇年代の後半に、

お答え申し上げます。 　二〇一〇年代にＡＩの技術がだんだん進化して国際的にも利用されるようになってきて、ちょうど二〇一六年に、Ｇ７の、高松ですね、香川・高松情報通信大臣会合がございまして、そのときに、その当時の高市総務大臣がこのＡＩに関して何らかの原則が必要なんではないかということを表明されたと。ある意味、これが一つの出発点だったんではないかというふうに思います。 　その後、二〇一七年に、総務省の方で、ＡＩ開発者が研究開発等の際に留意する指針、原則としてＡＩ開発原則という今御指摘のものを作りまして、その解説文書としてＡＩ開発ガイドラインというのもできました。 　その後、二〇一九年に、今度はそのサービス提供側、先ほどＡＩを作る側だったんですけど、今度はＡＩを使ってサービスをするとかＡＩを利用する側の原則といいますか、ＡＩ利活用原則というのができまして、やはり同じくガイドラインでその解説

今、最後の方に、世界のルールをむしろ先進的に作ってきたんではないかということで、ちょっとその続きなんですけれども、ＯＥＣＤが二〇一九年に人工知能に関する理事会勧告というのを出しております。その時点では、このグローバルスタンダードが日本の提案をベースに作成されたということでございましたけれども、この二〇一九年のＯＥＣＤの理事会勧告は日本の提案がベースとなっているというふうに考えてよいのか、そしてこの概要についても併せて御説明いただきたいと思います。

お答え申し上げます。 　ＯＥＣＤのデジタル経済政策委員会におきましては、二〇一六年のＧ７香川・高松情報通信大臣会合をきっかけにＡＩに関する原則の検討、策定に着手をし、二〇一九年五月に委員御指摘のＯＥＣＤ理事会勧告として取りまとめを行いました。 　この理事会勧告でございますけれども、ＡＩに関する初めての多国間合意であり、ＡＩの責任ある管理、運用、法の支配と人権の尊重、透明性、安全性の確保、アカウンタビリティーの責務など、人間中心の考え方に基づく指針として策定されております。 　日本政府としましては、ＯＥＣＤデジタル経済政策委員会において、先ほどの答弁でも言及のありましたＡＩ開発原則、ＡＩ利活用原則及び人間中心のＡＩ社会原則の概念を当該勧告に盛り込むように提案を行い、この提案がベースになって理事会勧告が取りまとめられたところでございます。

御説明ありがとうございました。 　私は、今の御説明もそうだったんですけど、こういった二〇一〇年代からの背景を見ると、私はむしろ、ルール作りはとても早く作ろうとしていて、とても慎重に作ってきたんじゃないかと思っているんですね。でも一方で、何というんでしょう、慎重であるがゆえに開発が遅れていったということもあるんじゃないかと思っていて、むしろ丁寧にやってきた、でもその開発というかそれは遅れて、利用の方も遅れているというような状況が今の状況なんじゃないかなと思って、いろんなものを、資料を読んだり、今の御答弁も聞いてそういうふうに思っているんです。 　この人間中心のＡＩ社会原則というのが、先ほど、二〇一九年に作られたということで、ヨーロッパもヒューマンセントリックという言葉を使って日本と同じようなことを言っておりました。あくまでも人間が中心ですと、ＡＩが人間を支配するような社会であってはならな

竹詰委員御指摘の人間中心の考え方につきましては、例を挙げますと、例えば、我が国とＥＵが共に策定に関わっておりますＯＥＣＤの人工知能に関する理事会勧告、いわゆるＯＥＣＤ・ＡＩ原則なんですけれども、これとか、あるいは広島ＡＩプロセスの国際行動規範などにおいても示されているところでありまして、こうした考え方は、御指摘のとおり、我が国とＥＵ双方において共有されているものと認識しております。 　今後、ＡＩ戦略本部の下で策定いたしますＡＩ基本計画や国が整備するＡＩの適正性を確保するための指針におきましても、この人間中心の考え方をしっかり示していくことを予定しております。

大臣、御見解教えていただきましたけれども、ちょっともう一回、繰り返すところあるんですけれども、この二〇一九年のこのときの動きが第一ラウンドだとすれば、先ほど御説明もいただいたんですけど、広島、Ｇ７の広島があって、広島ＡＩプロセスというのが今度始まっていって、それが第二ラウンドというふうに呼ばれたりしていて、それのじゃ何が違うかというと、やはり生成ＡＩというのが二〇二二年にチャットＧＰＴを始め出てきて、そこから私、このルール変更というか少しモードが変わったというか、そういうふうになったのではないかと思っております。 　この広島ＡＩプロセスということを実行するに至ったというか、それに移行しなきゃいけなくなったといったこの背景と概要について改めて教えていただきたいと思います。

お答え申し上げます。 　二〇二二年末にチャットＧＰＴが一般向けに公開されたことを踏まえ、二〇二三年五月に我が国が議長国となって開催されたＧ７サミットにおいて、生成ＡＩの機会と課題を早急に把握する必要性が認識され、我が国の主導により広島ＡＩプロセスが創設されました。 　広島ＡＩプロセスは、生成ＡＩによる新たな機会と課題に対応し、安心、安全で信頼できるＡＩを実現するための国際的なルールの検討を行うものでございます。我が国は、このルール作りを引き続き主導していきたいと考えております。