AIポルノ画像は現在の法律で取り締まれる？現行法の問題点も解説

AI技術の普及によって、ビジネスや日常生活などのさまざまな場面で利便性が向上している反面、AIシステムが悪用されて児童ポルノやディープフェイク動画像が生成される事案が急増しています。

ところが、被写体が実在している児童なら「児童ポルノ禁止法」が適用されるものの、AIシステムで架空の児童のポルノを生成した場合、児童ポルノ禁止法に抵触することはないと解されています。

これは、児童ポルノ禁止法が、実在する児童を被写体とする描写を規制対象としていると解されているからです。

もっとも、「実際の人を被写体にしたポルノ」「AI技術で生成されたポルノ」も、どちらも社会風俗に与える悪影響に大きな差はないと考えられます。

特に生成AI技術は日々凄まじいスピードで向上しており、AIで生成されたか実際の人を被写体にしているかの区別がつかなくなりつつあるのが実情です。

そこで本記事では、AIで生成されたポルノ画像やディープフェイクポルノに適用される可能性がある法律や、現在の法規制の問題点、今後想定される法改正などの動向についてわかりやすく解説します。

AIで生成されたポルノ画像は現在の法律で取り締まれる？

ここでは、AIシステムでポルノ画像を生成したときに、どのような法律が適用される可能性があるかについて解説します。

児童ポルノ禁止法の対象は実在する児童

児童ポルノに対しては、「児童ポルノ禁止法（児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律）」で厳しいルールが定められています。

この法律では、児童買春や児童ポルノの所持・製造・販売などの行為が規制されています。

児童ポルノ禁止法における「児童ポルノ」とは、「写真、電磁的記録に係る記録媒体その他の物であって、同項各号のいずれかに掲げる児童の姿態を視覚により認識することができる方法により描写したもの」のことを指します（児童ポルノ禁止法第2条第3項）。

そして、最高裁判例では、「児童ポルノ」には、実在しない児童の姿態を描写したものは含まれないと判示されています（最決令和2年1月27日）。

つまり、「リアルな動画・画像か否か」ではなく、「被写体が実在するか否か」という基準で、児童ポルノへの該当性が判断されるということがいえます。

ですから、仮にAIシステムでポルノ画像・動画を生成したとしても、被写体が架空の人物である場合は、児童ポルノ禁止法が適用されることはないと考えられます。

なお、児童ポルノ禁止法の適用範囲を「実在しない人物、アニメキャラクター、実在しないイラスト」まで拡大するべきか否かについては、表現の自由との関係で、国会などでも議論が繰り返されており、今後どのような法改正・法解釈がおこなわれるのか注意を払う必要があるでしょう。

わいせつ物頒布等罪が適用される可能性はある

AIでポルノを生成した場合、わいせつ物頒布等罪が適用される可能性があります。

わいせつ物頒布等罪とは、「わいせつな文書、図画、電磁的記録に係る記録媒体その他の物と頒布し、または、公然と陳列したとき」「電気通信の送信によりわいせつな電磁的記録その他の記録を頒布したとき」に成立する犯罪類型のことです（刑法第175条第1項）。

また、「有償で頒布する目的で、わいせつな文書などを所持し、又は電磁的記録を保管したとき」は、わいせつ物販売目的所持罪が成立する可能性があります（刑法第175条第2項）。

わいせつ物頒布等罪の法定刑は「2年以下の懲役もしくは250万円以下の罰金もしくは科料（併科あり）」です。

わいせつ物頒布等罪における「わいせつ」とは、「いたずらに性欲を興奮または刺激させ、かつ、普通人の正常な性的羞恥心を害し、善良な性的道義観念に反するもの」と理解されています（最判昭和26年5月10日（サンデー娯楽事件）、最大判昭和32年3月13日（チャタレー事件）、最判昭和55年11月28日（四畳半襖の下張り事件））。

そして、わいせつ物頒布等罪の「わいせつ」に該当するか否かは、画像や文書などの個別具体的な特徴などを総合的に考慮して判断されます。

たとえば、AIシステムで少女の性器が写っているような画像や性行為中の動画を生成し、これをインターネット上で公開した場合、わいせつ物頒布罪が成立する可能性があります。

ディープフェイクポルノは現行の法律で取り締まりの対象となりうる

生成AI技術の発展により「ディープフェイク」の技術も発展しています。

ディープフェイクとは「ディープラーニング」「フェイク」から成る造語で、アルゴリズムによって複数の画像・動画を簡単に合成する技術です。

そして、女性タレントの顔をポルノ画像と合成して、まるで当該女性タレントがヌード写真を公開しているかのように悪用されるケースが少なくありません。

ここでは、AIでディープフェイクポルノを生成した場合、どのような法的責任を追求される可能性があるのかについて解説します。

名誉毀損罪｜相手の社会的評価を下げた場合

AIでディープフェイクポルノを生成した場合、名誉毀損罪が適用されて刑事責任を問われる可能性があります。

名誉毀損罪とは、「公然と事実を摘示し、人の名誉を毀損したとき」に成立する犯罪類型のことです（刑法第230条第1項）。

名誉毀損罪の法定刑は、「3年以下の懲役もしくは禁錮または50万円以下の罰金」と定められています。

名誉毀損罪の構成要件は以下のとおりです。

• 公然性：不特定または多数の人が認識できる状態
• 事実の摘示：人の社会的評価を低下させるような具体的事実を示すこと
• 名誉の毀損：名誉侵害の抽象的危険が生じたこと

具体例として、特定の人物の顔と第三者の裸体と組み合わせた精巧なディープフェイクポルノを生成して、この画像をインターネット上に公開したケースについて考えてみましょう。

まず、生成したディープフェイクポルノを誰でも自由に閲覧できるインターネット上に公開しているため、「公然性」は認められると考えられます。

次に、ある人物の顔写真と他人の裸体を組み合わせた精巧なディープフェイクポルノ画像を公開することによって「当該人物がヌード写真を撮影した」と世間に受け取られてしまうおそれがあるとして、社会的評価が低下する危険性が認められる可能性が高いでしょう。

以上の理由から、この事案においてAIで精巧なディープフェイクポルノを生成して公開する行為には、名誉毀損罪が成立する可能性が高いといえるでしょう。

なお、名誉毀損罪が成立するには、「実在する特定の人物」の社会的評価が低下するような具体的な事実が摘示される必要があります。

ですから、ディープフェイクポルノから特定の人物を想起できない場合（架空の人物など）には、名誉毀損罪が成立することはありません。

また、インターネット上で無制限に公開する場合だけではなく、例えばSNSの非公開アカウントにディープフェイクポルノをアップロードしたケースでも、閲覧した特定少数人を通じて不特定多数人へと伝播する可能性を否定できない場合は、「公然性」の要件を満たすと判断される可能性が高いと考えられます。

さらに、名誉毀損が成立するケースでは、人格権を侵害したことを理由に損害賠償請求・慰謝料請求がなされるリスクも否定できません。

著作権法違反｜コンテンツ制作会社の著作権を侵害した場合

AIシステムでディープフェイクポルノを生成するケースでは、「ある特定の人物の顔を既存のアダルトビデオで合成する」という手法が採られることがあります。

この場合、既存のアダルトビデオの著作権者（コンテンツ制作会社）ないし実演家（出演者）の権利を侵害していると判断される可能性が高いでしょう。

たとえば、上記手法によりディープフェイクポルノを生成してインターネット上などで公開した場合、「10年以下の懲役刑もしくは1,000万円以下の罰金刑（併科あり）」が科される可能性があります（著作権法第119条第1項）。

また、ディープフェイクポルノを生成した場合ではなくても、自身が運営するサイト上やSNSアカウントにおいて他人が制作したディープフェイクポルノへアクセスできるURLを掲載したに過ぎないだけでも、「3年以下の懲役刑もしくは300万円以下の罰金刑（併科あり）」が適用される可能性があります（著作権法第120条の2第3号）。

さらに、自分でアダルトサイトやまとめサイトを運営するなどの方法によって、ディープフェイクポルノにアクセスしやすい環境を用意したときには、「5年以下の懲役刑もしくは500万円以下の罰金刑（併科あり）」が科される可能性があります（著作権法第119条第2項第4号）。

これを踏まえると、単にディープフェイクポルノをSNS上で拡散しただけでも、著作権侵害を理由に法的責任を問われる可能性があるといえるでしょう。

わいせつ物頒布罪｜作成した動画をネット上で公開した場合

ディープフェイクポルノをインターネット上で公開した場合、販売した場合、有償で頒布する目的で所持・保管した場合には、わいせつ物頒布等罪が適用さる可能性があります（刑法第175条各項）。

先ほど紹介したように、わいせつ物頒布等罪の法定刑は「2年以下の懲役もしくは250万円以下の罰金もしくは科料（併科あり）」です。

ディープフェイクポルノを公開するケースでも、わいせつ物頒布等罪における「わいせつ性」が認められるかが問われます。

一般的に、わいせつ物頒布等罪における「わいせつ」とは「いたずらに性欲を興奮または刺激させ、かつ、普通人の正常な性的羞恥心を害し、善良な性的道義観念に反するもの」と解釈されています。

ディープフェイクポルノの場合、性器にモザイク処理が施されていればわいせつ性は否定される一方で、無修正の状態であればわいせつ性が肯定されるのが一般的です。

もっとも、モザイク処理が施されていたとしてもその他の表現・描写が過激なものであったり、モザイク処理が杜撰で簡単に元データを復元できたりする場合には、わいせつ性が肯定される可能性も否定できません。

なお、わいせつ物頒布等罪は、他人が生成したディープフェイクポルノを頒布しただけでも成立する可能性があります。

ディープフェイクポルノを生成し逮捕された事例

ここでは、ディープフェイクポルノ関連で実際に犯人が逮捕された事例を紹介します。

女子選手のディープフェイク画像をSNSに投稿

2023年11月6日、女子陸上選手のディープフェイクポルノ画像をSNSに投稿した愛知県内在住の大学4年生の男が、名誉毀損罪の容疑で書類送検されました。

本件では、東海地方の大学陸上部に所属する20歳代の女性選手の顔写真と別人の裸を合成した虚偽画像や、卑猥なコメントをつけた20歳代の女性選手の画像を、X（旧Twitter）に投稿したことが名誉毀損に該当すると判断されました。

犯人の男性は、本件以外にもディープフェイクポルノを含む女性約70人の画像を無断で投稿をしています。

芸能人に限らず、一般人のディープフェイクポルノを生成・公開した場合でも、特定の人物の社会的評価を低下させている以上、名誉毀損罪での刑事訴追を免れることは極めて難しいでしょう。

AVの出演者の顔を芸能人に変えた動画をネット上で公開

2020年10月2日、アダルトビデオの出演者の顔を芸能人とすり替えたディープフェイクポルノ動画を生成してインターネット上にアップロードしたことを理由に、熊本在住の大学生Aと兵庫県在住のシステムエンジニアBの男2人が逮捕されました。

まずAは、AV出演者の顔を2人の女性芸能人とすり替えた動画を自分が管理・運営する有料サイトに掲載しました。

不特定多数人の人に当該2人の女性芸能人がアダルトビデオに出演しているかのような印象を植え付けた点が名誉毀損罪に、アダルト作品を勝手に編集した点は著作権侵害にあたると判断されました。

次にBは、ディープフェイクポルノ動画を海外サイトに掲載したため、名誉毀損罪及び著作権法違反を理由に逮捕されました。

ディープフェイクポルノを生成・公開した場合、被写体に対する名誉毀損だけではなく、制作会社の著作権侵害にも該当するので、相当重い刑事責任を問われる可能性があります。

また、名誉毀損を理由とする慰謝料請求、制作会社側からの損害賠償請求によって、高額の金銭賠償責任を追及されかねない点にも注意が必要です。

生成AIと児童ポルノ禁止法の問題と今後の見通し

さいごに、生成AIとの関係で現在の児童ポルノ禁止法が抱える問題点と今後の展望について解説します。

現行では実在する児童の被害が埋没するリスクがある

AIシステムで生身の人間そっくりな児童ポルノを生成したとしても、被写体が架空の人物である限り、児童ポルノ禁止法が適用されることはありません。

なぜなら、児童ポルノ禁止法が保護の対象にしているのは「実在する人間、児童」に限られると解されているからです。

もっとも、AIシステム技術が向上した現在、インターネット上などで公開されているポルノ画像がAIによって生成されたのか、はたまた実際の児童が被写体にされているのかを区別するのが困難になりつつあります。

すると、「児童ポルノを撮影されてインターネット上で公開されて困っている」という被害者の声が捜査機関やサイト管理人に届きにくくなり、削除要請や発信者情報開示請求などの法的手続きが困難になりかねません。

つまり、現在の法規制を前提とすると、児童ポルノ禁止法が目指す「性的被害から児童を保護する」という目的が達せられなくなるということです。

このような問題点を踏まえて現在、国会では児童ポルノ禁止法の改正や運用方法の変更などについて議論が重ねられています。

自主的なガイドライン策定や法規制を求める声があがっている

AIシステムが生成するポルノに対して法的な規制を及ぼすべきかについて、NPO法人がおこなった調査によると、以下のような結果が出されています。

項目	割合
規制対象とするべきである	44.8%
どちらかといえば規制対象とするべきである	27.2%
どちらかといえば規制対象とするべきではない	4.0%
規制するべきではない	3.1%
わからない	20.3%

AIが生成する性的コンテンツを規制すべき理由	割合
児童ポルノの流通が助長されてしまうから	62.1%
小児性愛者を刺激してしまうから	56.0%
児童の権利侵害につながるから	52.6%
AIが不適切な表現を学習してしまうから	39.0%
外国では規制対象だから	8.8%
その他	4.4%

AIが生成する性的コンテンツを規制対象にすることに肯定的な意見の割合は、「規制対象とするべきである（44.8%）」「どちらかといえば規制対象とするべきである（27.2%）」を合わせると、約7割を超えます。

これに対して、AIが生成する性的コンテンツの規制に否定的な意見は、全体の1割にも満たないのが実情です。

以上の意識調査の結果や、児童ポルノ禁止法の問題点によって悪影響が生じている現状を踏まえて、サイト管理人や通信業界などに対して自主的なガイドラインの策定を求める声が高まっていることがうかがえます。

また、インターネット業界の自主規制やユーザーの意識向上だけではAI生成ポルノの被害者がなくならない現実に対応するために、児童ポルノ禁止法の改正やAI新法の制定に向けた動きも強まっています。

AIシステムを使ってポルノ動画像の生成・公開を考えているのなら、今後の法改正の動向を踏まえて慎重に判断をするべきでしょう。

さいごに

AIシステムで生成したポルノに対しても現行法が適用されるので、インターネット上で公開したり販売したりするときには刑事責任・民事責任を問われないように注意が必要です。

また、児童ポルノ禁止法の問題点も次第に浮き彫りになっており、生成AIポルノに対する法規制は今後さらに厳しくなることが予想されます。

安易にディープフェイクポルノや児童ポルノに手を染めると、どこかのタイミングで違法状態におちいって法的責任を問われるリスクもあり得ます。