政策一覧にもどる情報通信・AI
情報通信・AIAIセーフティ基準策定・法制化協議中---
AI基本法とフロンティアAIモデル規制（生成AI安全性評価機関創設）
急速に進化するフロンティアAI。イノベーション促進と偽情報・サイバー攻撃・暴走リスク防止の法規制
施行時期: 2024年AIセーフティ・インスティテュート（AISI）設立、AI法制化検討中
3
これだけ押さえる！3つのポイント
- 1ChatGPT等の生成AIおよび高度な推論能力を持つ「フロンティアAIモデル」の急速な普及に伴い、国家安全保障や人権への脅威に対処する包括的なAI法制（AI基本法）の検討が本格化
- 2内閣府・経産省が設置した「AIセーフティ・インスティテュート（AISI）」による安全性評価手法の確立や、大規模モデル開発企業に対する透明性確保・リスク評価の義務付けを議論
- 3日本のAI開発競争力維持のための「イノベーション阻害を避ける柔軟なソフトロー」重視の姿勢と、欧州AI法（EU AI Act）のような厳格な事前規制を求める立場の調和が課題
政策の背景とねらい
2023年のG7広島サミットで主導した「広島AIプロセス」を経て、日本政府はAI事業者のガイドラインを策定しました。しかし欧州連合（EU）が世界初の包括的罰則付き「EU AI法」を可決・成立させたことを受け、日本でもガイドライン（自主規制）だけでは悪意ある事業者や海外の巨大テック企業を統制できないとの懸念が浮上。2024年2月に設立されたAIセーフティ・インスティテュート（AISI）での安全性評価基準をもとに、特にリスクの高いフロンティアAIを対象とした法的規制の枠組み作りが議論されています。
4つの主な注目ポイント
ひと目でわかる重要ポイント公的評価機関
公的AI安全性評価機関
AISI設立
各AI企業の自主検査・内部基準のみ
AIセーフティ・インスティテュートによる評価
重点規制
規制対象モデルの基準
フロンティアAI
全てのAIを一律ガイドラインで指導
超大規模パラメータを持つ最先端モデルを特定
事前安全性試験
安全性テスト（事前検査）
レッドチーミング
リリース後の事後的なバグ報告頼み
生物兵器やサイバー攻撃への悪用リスクを検証
国際規制調和
欧州AI法の制裁金水準
最大3,500万ユーロまたは7%
罰則のない紳士協定中心だった
世界的な罰則付き法規制への日本対応協議
両論の整理（メリットと検討課題）
どちらか一方を正解と決めつけず、どんな意見や論点があるのかを市民目線でまとめました。
期待・推進側の主な視点2つの視点
安全保障・暴走防止
「フロンティアAIが悪意ある攻撃者に危険物質の調合や脆弱性攻撃を指南するリスクを防止」
社会的信頼・DX推進
「「国の安全評価に合格したAI」という認証により、医療・金融・行政での導入が加速」
期待される主な効果AI法制化・安全性評価制度の推進メリット
慎重・検討課題の主な視点2つの視点
イノベーション阻害・拠点流出
「厳しい安全性テストや報告義務の負担に耐え切れず、AI開発者が規制の緩い海外へ脱出」
技術進化と法の陳腐化
「法律を作った瞬間に技術が進化し、規制が形骸化するか逆に有用な技術を縛る弊害」
主な検討課題・論点AI規制に対する懸念と開発現場の壁
制度変更の詳細、海外主要国のルール、根拠法、一次情報を確認したいですか？
新旧対照（ビフォーアフター）、海外主要国のルール比較、国会での決定経緯タイムライン、根拠法、官公庁の公式一次資料をご覧いただけます。
議論・専門知識・補足情報スレッド
この政策に関する背景知識、一次資料のURL、最新の制度変更、現場の実情などをご自由にお寄せください（GitHubアカウントで投稿可能）。
知見の公式採用について：スレッドに寄せられた有益な情報や前提知識・法改正の動きは、中立性とファクトチェックを確認の上、政策の公式本文（図鑑データ）に正式に反映・加筆させていただきます。 荒らしやデマのない信頼できる情報基盤をコミュニティと共に作っていきます。