内閣府科学技術・イノベーション推進事務局統括官

お答え申し上げます。 　ただいま御指摘のございました件は、生成ＡＩを提供する非営利団体が、ロシアと中国とイランとイスラエルに関係する五つのグループがこの団体の生成ＡＩを利用して世論操作ですとかプロパガンダの活動を行っていたと、これ特定をいたしましてこの活動を阻止したというふうに、オープンＡＩですけどね、発表されているところでございます。二〇二四年の五月三十日ということでございます。 　こういった事例がやはり増えていくということが大変懸念されると、それから巧妙化して多様化していくということがまず懸念材料の一つとしてはございます。 　もう一つは、これ教訓といいますか、この団体がＡＩの悪用を防ぐために実はＡＩを使っているんですね。つまり、ＡＩを使ってその悪質なものを探したということを言っておりまして、そういう意味では、その悪質な、これ参考人質疑でもございましたけれども、ＡＩに対してＡＩとい

お答え申し上げます。 　まず、今ＳＮＳ上で誹謗中傷をするような口論、まあＡＩなので口論と言うかどうかはちょっとあれなんですけど、そういうものが実際に行われていまして、ＡＩを使ってＳＮＳ上で誹謗中傷し合うというようなことがあります。ＳＮＳのメンバーがＡＩに限定されていて、ＡＩ同士でバトルしてそれを人間が観察するという、そういうようなＳＮＳもあるというふうに伺っています。 　こういう事案に対してどのように対応していくかということなんですけど、大変難しい課題ではあるんですが、まずは、ネット上に流通している情報というのは、ＡＩで作られたもの、あるいは不適切なものがたくさん流通しているということを、これを周知徹底すると、国民に対して広報していくということが重要なのではないかというふうに、これは非常に深刻な問題ですので、非常に重要ではないかというふうに思います。 　そしてまた、この法案では、指針

お答え申し上げます。 　今、主要なガイドラインとしましては、事業者向けのガイドライン、あるいは初等中等教育向けのガイドライン等がございます。そのほかにもガイドライン以外の文書も含めてたくさんあるわけですけど、これ政府の中で十幾つかあるんですけど、それぞれどういう文書であって、誰に対してどういうことを求めているかということを、まず鳥瞰図みたいなものを、全体を俯瞰するようなものを作って、それを全体を束ねて、今回整備する指針を見ていただくと、こういうことをやる人はこれを見ればいいみたいなことが明確になるようにしたいというふうに考えております。

お答え申し上げます。 　定義につきましてこれ広めに取ったのは、広めに書いておけば頻繁に法律を改正しなくていいとか、まあそれも、そういう思いを持っている職員もいるかもしれませんけれども、私は決してそういうことではなくて、やはり技術の進化が速い中で、限定的な定義をするのがむしろ難しいというか現実的ではないということだと思います。 　定義につきましては、ほかの法令でも定義はございますし、またＩＳＯとかでも人工知能については定義をしているところであります。そういう中で、そちらの定義もやはり広めには書いておりまして、人工知能技術が大きく変化したとしても、それは適用できる定義というのを使っていると思います。 　くれぐれもあれなんですけれども、決して人間以外のものが全部人工知能とか、そういうことを申し上げるつもりはございませんで、人間のその知的な能力を模倣したといいますか、代替できるような、そうい

まず、大変鋭い御質問でお答えが大変難しいんですけれども、海外では生成ＡＩを含むアドバンストＡＩシステム、先進ＡＩシステムみたいな言い方をすることが多くて、やっぱり生成ＡＩを含むんだけど、もうちょっと広めに取っているというのが一般的ではないかと思います。 　要は、生成ＡＩというのは、質問に対して情報を作り出すみたいなそういうことなんですけれども、人間が質問しなくても情報を作り出すようなＡＩというのもあり得ると思いますので、そういうものも含めて、その高度なＡＩというのを割と法律の、そういうルールの対象にしていこうという動きが、海外でもそういう動きがあるんではないかなというふうに思います。 　しかしながら、御指摘のとおり、今これだけリスクが多様化して問題化しているのはやはりこの大規模汎用生成ＡＩが出てきたからでありますので、この法案を作るに際しては、当然その生成ＡＩがあることを意識をして当然

済みません、先ほどちょっと具体性がないということでお叱りを受けましたので、ちょっと具体的に申し上げます。ちょっと五つぐらいのことを申し上げます、ガイドラインに盛り込みたいということで。 　一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。 　二つ目は、そのＡＩを、製品を市場に出した後もインシデントとか問題がないかのその情報を集めて、それで必要に応じて改善をしていくということであります。この改善の方法というのもいろいろございまして、いわゆるチェックツールみたいなものを使って、ソフトウェアでその安全性がないかどうかをチェックするとか、レッドチームみたいなものをつくって、会社の中で敵対的に攻撃するチームをつくってチェックするとか、あるいはＡＩ同士で戦わせて安全かどうかをチェックするとかいろんな方法が提案

現時点では、生成ＡＩが出てきたことを念頭に作るガイドラインになると思いますので、生成ＡＩとそうじゃないものを書き分けるということは今の時点では想定していないんですけれども、これから指針の策定作業に入っていって、その間に例えばＡＧＩがかなりもう具体化してきたとか、それから、生成ＡＩ以外のＡＩでも、過去のというか、以前の一般的なＡＩもいろいろ問題が起きているよということであれば、それは何かその指針の中でちょっと別のセクションを作って注釈を付けるとか、そういう方法もあり得るかなと思っていまして、まさに今後有識者の意見等も聞きながら検討させていただきたいというふうに思います。

お答え申し上げます。 　今御指摘ございましたように、十六条には複数のことが書いてあるんですけど、四つの、大きく分けて四つのことが書いてございます。一つは、例えばビッグテック等からの情報を収集するという、ＡＩの開発とか活用に関する情報収集です。二つ目は、例えば悪質な、いわゆる悪質事案といいますか、そういったものに対応する分析、あるいはその対策の検討ということでございます。そして三つ目は、その他のもっと一般的な、例えば重要な産業でどういうふうにＡＩが使われているかとか、あるいは新しい技術でどういうものがあるかという、そういう調査ということになります。最後に四つ目に、そういう調査の結果を踏まえて、事業者に対する指導ですとか助言とか国民に対する情報提供とか、そういうことが盛り込まれているところでございます。 　これがなぜ四つもあるのにこれを全部一つの条文でくるんでいるかというと、このいずれも目

お答え申し上げます。 　ＥＵのＧＤＰＲにつきましては、確かにＥＵで個人情報に関するルールを作ったときにグローバルなプレーヤーはそれに従うようになりまして、そうすると、グローバルなプレーヤーはほかの国でも同じ方法でやるということでＥＵのＧＤＰＲが広がっていったという評価、そういうことをおっしゃる学識経験者の方もいらっしゃいます。 　ただ、一つは、これは少し個人的な解釈にもなりますけれども、個人情報の保護というのは割と、国が変わっても、ほかの国であってもそれはやっぱり保護された方がいいよねと思う方は多いと思うんですね。ただ、じゃ、ＡＩはどうかというと、どういうＡＩが良くて、どういうＡＩが良くないかみたいなところは、やはり文化的にというか、国によってもかなり差異があると思っておりまして、ＥＵで何かルールを作ったらそれが広がっていくかどうかというと、そこはまだ分からない部分だと思います。実際に

お答え申し上げます。 　リスクにつきましては、明確に規制の目標が描けて、かつそれをクリアするための技術がある程度めどが付いているということであれば、これはその規制を作ることによって技術開発を誘導するということは可能ではないかと思います。 　ただ、ＡＩにつきましては、まだその明確な目標というのが、まず作りにくいという問題もありますし、それを作ったとして、それをクリアする技術があるかどうかというところも難しい部分があろうかと思います。 　ただ、だからといって何もしないというわけにもいきませんので、今回の法案のような、ある種のその指針、こういうものを作ってそれを、自主的な取組を尊重して対応していくということでございます。自主的取組ということの意味は、事業者が自発的に新しい技術をどんどんチャレンジできるということでもございますので、そういう形でございます。従来のちょっと規制とは違う形の考え方