最近、ユーチューブ（YouTube）チャンネルやインスタグラム（Instagram）、ティックトック（TikTok）などオンライン上にAIで合成された「偽物の警察出動映像」が広がり、議論を呼んでいる。 問題となった映像を見ると、警察が全身にタトゥーを入れた学生を叱りつけたり、制服を着てたばこを吸う学生を指導しようとしたり、さらには僧侶と牧師が争っているところに仲裁に入る様子などが収められている。 特に、ある女性BJ（配信者）が路上で配信しているところを制止する過程では、力を使って制圧する場面が映り、暴力を振るったのではないかという論争も起きた。だが、これらの映像はすべてAIで作られた偽物だ。 今年10月に作られたYouTubeチャンネルAは、チャンネル登録者数が4000人を超えている。 このチャンネルの説明欄には、「警察の視点で事件現場を見る。警察ボディカム、出動映像、逮捕現場、飲酒取り締まり、通報対応など、大韓民国警察の現場をAIでリアルに記録する」と書かれている。 ただし、その説明欄の最後には「実際の警察ではなく、実話を基にしたフィクション」と記されている。 しかし、このチャンネルが載せている動画を見ると、まるで本物の警察ボディカム映像を編集して投稿したかのような構図になっている。 6日前に公開された「ホームプラス試食コーナー ‘カスハラ（カスタマーハラスメント）’動画」では、ある女性が試食を続ける子どもを注意した店員に対して「なぜ他人の子どもに対して文句を言うのか」と食ってかかる場面が映っている。 この動画は、まるで警察のボディカムで撮影したかのように、警察官の手や胸元がフレームに入り、カスハラを続ける女性の顔にはモザイクが施されている。画面左上には撮影日と思われる数字まで入っている。 AIで作られた映像はユーチューブだけでなくインスタグラムなど他のソーシャルメディアにも拡散し、人気の動画は再生回数が1000万回を超えている。ティックトックチャンネルのフォロワー数も9000人を超えた。 多くのネットユーザーは、これらの映像がAIだと気づかないまま、あるいは実際に起きた出来事だと勘違いしたままコメントを残している。 警察庁も、このチャンネルの深刻さを認識し、AI動画による被害の拡大を防ぐため、内部調査に乗り出した状態だという。 警察はチャンネル運営者について、まずは電気通信基本法違反容疑の適用を検討する方針で、投稿の削除や遮断措置も並行して行う計画だ。