第５１８回：ＡＩ本部やこども家庭庁の資料の記載と性的ディープフェイクに関する今後の調査

　私が注目している事の１つにＡＩを巡る政策動向があり、知財とは離れるが、中でも性的ディープフェイク問題について最近話題に上る事が多くなっていると思うので、政府の資料でこの問題についてどの様な事が書かれているのかをここでまとめておく。

　去年までの段階でも、ＡＩ法に基づく新ＡＩ本部の前の旧ＡＩ戦略会議などで多少ディープフェイクについて触れられていた事はあったが（ＡＩ法については第５１０回参照、例えば、知財との関係で知財本部で検討されていた事について第４９５回参照）、性的ディープフェイクに関する事が政府レベルで取沙汰される様になったのは、より最近の事である。

　まず、こども家庭庁に設けられている検討会の１つ、青少年インターネット利用基本計画や青少年の生成ＡＩ利用の一般論などについて議論している、青少年インターネット環境の整備等に関する検討会の下に設置された、インターネットの利用を巡る青少年の保護の在り方に関するワーキンググループが、今年に入ってから、急に性的ディープフェイクの事を取り上げ出し、結果として２０２５年８月７日に取りまとめられた課題と論点の整理(pdf)の基本的な方針に関する部分の第１１ページに以下の項目が入った。（なお、他の部分についても言いたい事が全くない訳ではないが、ここではひとまずおく。）

（青少年被害に対する厳正な対処）
・「現に青少年が直面している新しい課題、例えば、闇バイト、セクスティングを含む性被害、いじめ、誹謗中傷、ヘイト、偽・誤情報、生成ＡＩ技術の悪用等への対応については、青少年を守るためしっかりと対策を講ずることが不可欠である。特に、生成ＡＩ技術を悪用した児童の性的ディープフェイクについては、関係府省庁が緊密に連携して厳正な取締り、被害者の保護及びサイト管理者等への違法な情報の削除依頼の強化等を講ずる。

　また、その後の課題と論点に関する部分の第１７ページで、さらに以下の事も書かれている。

⑥横断的リスクへの対応について（生成ＡＩ等）
（課題）
〇生成ＡＩやＶＲ等の先進的技術を利用した問題については、現状の把握ができていないか、現状の把握が出来たとしても、対応ができていない場合が多い。
〇特に、生成ＡＩ技術を悪用した児童の性的ディープフェイクについては、「卒アル問題」とも言われているように、誰でも簡単に被害者にも加害者にもなってしまう。また、現実に被害者がいるにも関わらず、規制の実効性が不明瞭である。

（論点）
・例えば、生成ＡＩ技術を悪用した実在する児童の性的被害等、ディープフェイクに係るリスクや被害について、政策的なレベルでの認知が不十分である中、状況把握を実施することをどう考えるか。
（◎こども家庭庁、警察庁、文部科学省）

・「人工知能関連技術の研究開発及び活用の推進に関する法律案」の附帯決議に対する対応についてどう考えるか。
（人工知能関連技術の研究開発及び活用の推進に関する法律案に対する附帯決議）
〇衆議院内閣委員会
四　ＡＩ技術を悪用したディープフェイクポルノ、とりわけ児童の画像等を使用したものへの対策については、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼を強化すること。また、同対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な措置を講ずること。
〇参議院内閣委員会
五　ＡＩ技術を悪用したディープフェイクポルノ、取り分け児童の画像等を使用したものについての対策として、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼の強化に加え、被害者による告訴等の負担軽減、被害発生防止に向けた教育啓発等の措置を講ずること。また、対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な対応を図ること。
（◎内閣府、警察庁、こども家庭庁、総務省、法務省、経済産業省）

　ここに明記されている事から見ても、このこども家庭庁の検討はこの衆参の附帯決議を受けたものであり、政府として現時点で考えられることをまとめたものと思われる。加えて、８月７日に開催されたワーキング会合の第８回では生成ＡＩによる青少年のディープフェイクを取り締まろうとする青少年条例に基づく鳥取県の要望書(pdf)も参考資料としてつけられており、この様な地方の動きも影響を与えたのだろう。

　そして、そのすぐ次の日の８月８日には上の検討会の第６５回でワーキングの検討結果が報告され、同日設置されたインターネットの利用を巡る青少年の保護の在り方に関する関係府省庁連絡会議でその工程表の作成が開始され、９月２９日の関係府省庁連絡会議の第２回で、上の「⑥横断的リスクへの対応について（生成ＡＩ等）」に関する調査検討について、２０２６年７～９月で中間とりまとめ、来年度末の２０２７年３月にとりまとめという予定が書かれた工程表(pdf)が公表された。

　時間的には若干前後するが、９月１２日に開催された新ＡＩ本部（正式名称は「人工知能戦略本部」）の第１回でＡＩ基本計画の骨子(pdf)とともに公表されたＡＩ法に基づく調査研究等について【報告】(pdf)という資料で、性的なディープフェイクを生成するＡＩに関する現段階での調査結果の報告として、

・ＡＩ技術の進歩により、性的ディープフェイクが容易に生成可能な状況
・関連ＮＰＯ法人による被害認知件数の増加などを踏まえると、更なる拡大が懸念
・関係省庁と連携し、引き続き実態把握に努めるとともに、必要な対策を検討

という、当たり前と言えば当たり前の方向性が書かれている。

　９月１７日には、新ＡＩ本部の下、旧ＡＩ戦略会議のメンバーを拡大する形で新たに立ち上げられた有識者会議のＡＩ専門調査会（正式名称は「人工知能戦略専門調査会」）の第１回が開かれて同じ資料が紹介されており、１０月１７日には、各省庁の官僚がメンバーとなっているＡＩ戦略推進会議の第１回が開かれている。知財本部と同様だろうが、ＡＩが絡む問題についてこういったより下位の会議でより詳細な検討がされて行くという事になるのだろう。

　今後、性的ディープフェイク問題について、主にこども家庭庁の検討会で議論が進むのか、それともＡＩ本部中心で議論がなされて行くのか、また、政策の具体的な方向性も不明だが、公明党との連立解消後に日本維新の会とともに発足した高市政権もやはり自民党中心の政権であって、活用との間でバランスを取ろうとする今のＡＩ関連政策について大きな方針変更があるとは考えがたく、また、問題の性質から多くの関係省庁が絡んで来るのは間違いないので、そこまで偏った検討は行われないものと期待している。

　社会問題化していることから見ても、この段階で政府レベルで検討する事自体間違ったこととは思わないが、この様な性的ディープフェイクが（一般的なディープフェイクまで広げて考えてもよいが）、児童ポルノ規制や、一般的な猥褻物規制や、知財法の文脈で検討されるべきものでない事は十分に認識して検討を進めてもらいたいと私は思っている。私は現行のこれらの規制すべてに問題があると思っているが、そのことをひとまずおくとしても、性的ディープフェイクの問題は、児童に限られるものではないし、今現在猥褻と考えられるものを取り締まればよいという話でも、知財権の一種とも考えられているパブリシティ権によって著名性に対するフリーライドを止めればよいという話でもない筈である。

　昔からあったコラージュなどとの比較とともに、生成ＡＩ技術の発展によって具体的にどのような問題が新たに生じているのかを正しく把握した上で、性的ディープフェイクと言われるものの頒布や譲渡を広く誹謗中傷や肖像権侵害の様な人格権侵害の類型として位置づけて対策を考えるのはあり得る事と私にも思える。ただし、如何なる政府検討においても過度な規制とならないよう細心の注意が払われなくてはならないのは当然の事であり、この様な問題も含めＡＩ政策に関する動向は十分注視して行くべきだろう。