人間はなぜ、生成AIによる偽動画に騙されるのか。『嘘で満ちていく社会 データで読み解くフェイク時代の構造』(朝日新書)を出した情報経済学者の山口真一さんは「私たちは、映像や声を前にしたとき、頭で考える前に『本当だ』と感じてしまう」という――。 ■本物と見分けがつかない“上司”の映像 ある日、あなたのスマホに上司からのビデオ通話が入る。画面の中のその人は笑い、頷き、声の調子もいつも通りだ。だが、その相手は本物ではない――。 2024年、英国の大手エンジニアリング企業の香港支社で、まさにそんな事件が起きた。社員がAIで作られた上司の映像と音声を信じ込み、約26億円を送金してしまったのだ。 顔の筋肉の動きも、まばたきのタイミングも完璧だったという。誰だって信じる。私たちは「見て」「聞けば」信じるようにできているからだ。 狙われるのは企業だけではない。 米国では2024年頃から、ある女性が「米ドラマ俳優」を名乗る相手からSNSで連絡を受けた。最初は冗談半分だったやり取りが、いつしか継続的なやり取りに変わる。彼は優しく、落ち着いた声で将来の話までした。 だが、それはAIで合成された映像と音声だった。信頼が積み上がった頃、相手は新生活を始めるなどと持ちかけて送金を求め、女性は家を売るところまで追い込まれてしまった。 この種の詐欺は、すでに日本にも忍び寄っている。親の声を真似た電話で金を騙し取る、企業名を騙(かた)る音声で個人情報を聞き出す――。AIが合成した声は、わずかな雑音や息づかいを混ぜることで、かえって「本物らしさ」を増す。 ■卒アル写真が悪用されるわいせつ画像 ディープフェイク詐欺の特徴は、人の「信じたい」という気持ちを狙うことにある。 完璧な偽物ではなくても、わずかに“それらしく”見えれば十分なのだ。ほんの数秒で心をつかまれ、理性が後回しになる。私たちは、映像や声を前にしたとき、頭で考える前に「本当だ」と感じてしまう。 そこにAIの精巧さが重なれば、信じないほうが難しい。 さらに陰湿なのが、性的な画像への悪用である。2025年には、日本で生成AIを使って作られたわいせつ画像をインターネット上で販売したとして、複数の男女が摘発された。報道によれば、画像は実在の人物ではなく、AIがそれらしく作り出した架空の被写体だったという。実在の被害者がいないようにも見えるが、こうした行為が違法と判断されたこと自体、生成AIの利用がすでに新たな犯罪領域に踏み込んでいることを示している。 しかし、より深刻なのは別の形で広がる被害である。卒業アルバムや学校行事などで撮影された児童・生徒の写真をもとに、顔を合成したり、性的な文脈に加工したりした画像や動画が、SNSやメッセージアプリを通じて拡散される事案が相次いでいる。 被写体となった子どもたちは、ただ記念写真に写っていただけにすぎない。それが、知らないうちに他人の欲望を投影する素材へと変えられてしまうのである。