AI生成の児ポ画像がばらまかれ、本物の児ポの取り締まりが困難になっていると判明。

リアルな生成ＡＩ性的画像が氾濫、実在の被害児童と区別困難…削除要請や捜査にも支障

https://news.yahoo.co.jp/articles/60b62568794d760d8d0021213dc4702eded8f250

読売新聞オンライン
違法画像の削除要請を行う「セーファーインターネット協会」（１１月、東京都渋谷区で）＝青木久雄撮影

　画像生成ＡＩで作られたとみられる児童の性的画像が国内サイトに大量に投稿されている問題で、被害者が実在する児童ポルノ対策への支障が出始めている。ＡＩによる児童の性的画像は児童買春・児童ポルノ禁止法の原則対象外。ネット上で拡散すれば、そのリアルさゆえに被害児童が実在する画像と区別がつかなくなり、削除要請や捜査などが困難になるという。（桑原卓志）

【図解】一目でわかる…生成ＡＩを利用して画像を作る仕組み

　「これは実在する児童だろうか」。「ＬＩＮＥヤフー」などプラットフォーム事業者らでつくる「セーファーインターネット協会」（東京）の担当者が、戸惑ったのは今年９月のことだ。

　同協会は、ネット利用者からの通報などを基に、児童ポルノや違法薬物の売買、詐欺行為などに関する投稿を確認し、サイト運営者などに削除を要請している。警察に通報することもある。

　しかし、その時は連絡を受けた画像に不自然な部分があり、複数の担当者で検証する必要に迫られた。結局、ＡＩで作られた可能性が高いと判断し、削除要請しなかったという。