政策一覧にもどるデジタル・IT
デジタル・IT法改正・取締り強化を検討中---
偽動画・音声（ディープフェイク・ボイスクローン）悪用による特殊詐欺等への罰則強化
家族の声で騙す「オレオレ詐欺2.0」を阻止！AIボイスクローン詐欺の厳罰化と生成プラットフォーム規制
施行時期: 刑法・通信関連法制の見直し議論中
3
これだけ押さえる！3つのポイント
- 1ボイスクローン詐欺の脅威➔ SNSに投稿されたわずか数秒〜数十秒の肉声からAIで声を完全に複製し、息子や孫、上司になりすまして緊急送金を要求する新型特殊詐欺が急増
- 2刑法詐欺罪の量刑引き上げと組織的犯罪処罰法適用➔ AI技術を悪用して他人になりすます詐欺行為に対し、従来の詐欺罪（懲役10年以下）に加え、量刑加重や指示役の厳罰化を法制化
- 3声紋・AI音声検知技術の電話網導入➔ 大手通信キャリアや金融機関と連携し、通話中の音声がAI合成である可能性を自動検知してアラートを出すシステムの開発・導入支援
政策の背景とねらい
生成AI技術の爆発的進化により、数ドルのアプリで誰でも本物と聞き分けがつかない音声クローンを作成できるようになりました。海外では企業の財務担当者が上司のクローン音声に騙されて数十億円を不正送金する事件が多発しており、警察庁と法務省は特殊詐欺対策の最重点項目として法規制と技術的対策の強化に着手しました。
4つの主な注目ポイント
ひと目でわかる重要ポイントAI悪用詐欺の法定刑引き上げ検討
AIなりすまし詐欺への法定刑
AI悪用詐欺の法定刑引き上げ検討
これまで: 通常の刑法詐欺罪（懲役10年以下）として一括処理
AI偽装・ディープフェイク悪用の組織詐欺に対する法定刑上限引き上げを検討
合成音声を自動検知して警告
通信キャリアでのAI音声検知
合成音声を自動検知して警告
これまで: 電話回線の音声は暗号化・無加工でそのまま受話器へ伝達
通信キャリア網内で合成音声特有の周波数歪みをAIが検知し警告表示
音声合成ツールへの本人確認義務化
音声合成AIツールの提供元規制
音声合成ツールへの本人確認義務化
これまで: 誰でも匿名・無料で他人の声をクローンできるツールがウェブに放置
商用音声クローン事業者にユーザーの公的身元確認（KYC）と同意ログ保持を義務化
AI音声への電子透かし義務付け
AI生成音声への透かし埋め込み
AI音声への電子透かし義務付け
これまで: 生成された音声データが本物かAI製かを判別する手立てがない
耳には聞こえない電子透かし（不可視ウォーターマーク）の埋め込みを義務化
両論の整理（メリットと検討課題）
どちらか一方を正解と決めつけず、どんな意見や論点があるのかを市民目線でまとめました。
期待・推進側の主な視点2つの視点
詐欺被害防止
「「息子の声そっくりだから信じてしまった」という悲惨な詐欺被害を、技術的ブロックと重罰による抑止力で防ぎます。」
声の権利保護
「電話の相手が本物か常に疑わなければならない極度の不信社会を食い止め、安心して会話できる環境を維持します。」
期待される主な効果期待されている効果・メリット（賛成側の視点）
慎重・検討課題の主な視点2つの視点
通信の秘密
「電話会社が通話音声をリアルタイムで解析・検知することが、憲法が保障する『通信の秘密』を侵害する恐れがあります。」
イノベーション阻害
「規制が厳しすぎると、病気で声を失った人への声の復元や、映画の外国語吹き替え、ゲーム音声などの有益なAI活用が阻害されます。」
主な検討課題・論点検討されている課題・懸念点（慎重側の視点）
制度変更の詳細、海外主要国のルール、根拠法、一次情報を確認したいですか？
新旧対照（ビフォーアフター）、海外主要国のルール比較、国会での決定経緯タイムライン、根拠法、官公庁の公式一次資料をご覧いただけます。
議論・専門知識・補足情報スレッド
この政策に関する背景知識、一次資料のURL、最新の制度変更、現場の実情などをご自由にお寄せください（GitHubアカウントで投稿可能）。
知見の公式採用について：スレッドに寄せられた有益な情報や前提知識・法改正の動きは、中立性とファクトチェックを確認の上、政策の公式本文（図鑑データ）に正式に反映・加筆させていただきます。 荒らしやデマのない信頼できる情報基盤をコミュニティと共に作っていきます。