本文へスキップ
株式会社オープンナレッジ
株式会社オープンナレッジ Open Knowledge Inc.
Shadow AI Governance:IPA Top 10 Threats 2026 #3 読了目安:約3分 対象:経営者・総務ご担当者

IPA「情報セキュリティ10大脅威 2026」初選出3位:中小企業の「シャドーAI」対策と安全なAI活用ガイドライン

監修:加藤 明生(登録情報処理安全確保支援士(第007617号))

1. 基本と全体像

この記事の要点と4つの章のご案内

身近なたとえで見る仕組み:「街角の個別相談所」と「防音室の専属アシスタント」に関するイメージ写真
身近なたとえで見る仕組み:「街角の個別相談所」と「防音室の専属アシスタント」
図解で見る仕組み:「全面禁止」と「防音室モデル」の比較に関するイメージ写真
図解で見る仕組み:「全面禁止」と「防音室モデル」の比較
IPA「情報セキュリティ10大脅威 2026」初選出3位:中小企業の「シャドーAI」対策と安全なAI活用ガイドライン の各章におけるテーマと要点一覧表
章構成 主なテーマ 要点と確認ポイント
1. 基本と全体像 身近なたとえで見る仕組み:「街角の個別相談所」と「防音室の専属アシスタント」 会社が把握していない個人の無料AIアカウント等に、社員が顧客名簿や社内文書を入力して業務に使ってしまう現象です。「仕事を早く丁寧に片付けたい」という善意から起きるのが特徴です。
2. 現場での進め方と対策 図解で見る仕組み:「全面禁止」と「防音室モデル」の比較 いいえ。全面禁止にした企業ほど、社員が私物スマホ等で隠れて使うシャドーAIリスクが2.4倍に増加することが分かっています。
3. 関連する制度とルール 実践のポイント:シャドーAIを防ぐ3つの原則 無料版は初期設定のままだと入力内容がAIの再学習に使われる恐れがありますが、法人APIやオプトアウト設定済みの環境では外部学習に一切使われず安全です。
4. 詳しい技術仕様としくみ シャドーAI(無許可LLM利用)からの機密漏洩を防ぐPII匿名化プロキシとZero-Data-Retention APIガバナンス 社員が個人の無料AIに社外秘を入力してしまう「シャドーAI」は、頭ごなしに禁止するだけでは防げません。「学習されない安全な公認AI窓口」と「3つの約束」を渡す実践ガイドラインこそが、情報漏洩ゼロと業務時短を両立します。
第1章〜第4章では、実務チェックリスト・公的制度基準・詳しい技術仕様を確認できます。

この記事の要点

社員が個人の無料AIに社外秘を入力してしまう「シャドーAI」は、頭ごなしに禁止するだけでは防げません。「学習されない安全な公認AI窓口」と「3つの約束」を渡す実践ガイドラインこそが、情報漏洩ゼロと業務時短を両立します。

01. 身近なたとえで見る仕組み:「街角の個別相談所」と「防音室の専属アシスタント」

無許可のAI利用は「社員が善意で社外秘のレシピを街角の個別相談所で読み上げてしまうこと(無料生成AIへの入力)」と同じで、AIが学習して他社への回答に混ぜてしまう危険があります。一方、当社の環境は「防音室の専属アシスタント(学習されない法人AI・指示文不要のAI業務自動化)」です。中の会話は外に一切漏れず、安心して仕事を任せられます。

IPA 10大脅威 2026

初選出で第3位

「AIの利用をめぐるサイバーリスク」が組織編で初選出・第3位に入りました。

業務現場の実態統計

約60%が経験あり

従業員の約60%が会社の許可なく個人アカウントの無料AIを業務利用した経験があります。

全面禁止の逆効果

リスク 2.4倍

「全面禁止」にした企業ほど、私物スマホで隠れて使うシャドーAIリスクが2.4倍に増加します。

02. 図解で見る仕組み:「全面禁止」と「防音室モデル」の比較

従来:全面禁止・ルール不在(隠れて使うシャドーAIが2.4倍に増加) 現場社員(私物スマホ) 無料AIに議事録・顧客名を貼付 無料AIサーバー(学習ON) AIの学習データとして外部吸収 機密漏洩・把握不能 事故が起きても報告できない 推奨モデル:PII自動マスキングゲートウェイ + 学習ゼロ法人API 会社公認のAI窓口 固有名詞を自動伏字化 外部学習ゼロ(Zero-Retention) オプトアウト・法人APIで保護 人間が最終確認 SCS★★3基準にも全体準拠
比較項目 従来のやり方・よくある課題 技術的な対策アプローチ
社内ルール 「AI全面禁止」にするか分厚い規程集を配る A4・1枚の「3つの約束」に絞り安全な公認窓口を渡す
学習防止 個人の無料アカウントで機密情報をそのまま入力 最初から外部学習されない法人環境(指示文不要のAI業務自動化)を使う
誤答対策 AIの文章や数値を確かめずにそのまま客先へ送る AIは「80点の下書き係」とし最後の20%を人間が確認する

03. 実践のポイント:シャドーAIを防ぐ3つの原則

1. なぜIPA「10大脅威 2026」で第3位に選ばれたのか

社員には悪意がなく「早く丁寧なメールや要約を作りたい」という善意から無料AIを使ってしまうため、気づかないうちに顧客情報や社外秘が外部学習されるリスクが急増しているからです。

2. 「オプトアウト(学習オフ設定)」と法人環境のちがい

主要AIには、入力内容を学習に使わせない設定(オプトアウト)や、規約上学習されない法人プラン・API連携が存在します。会社が安全な窓口を用意してあげることが最大の防御です。

3. 今日から朝礼で共有できる「3つの約束」

01 実名や個人情報は「A社様」に伏せる、02 学習オフ設定の公認AIを使う、03 最後に必ず人間の目で事実確認する。この3つで経産省「SCS評価制度(★3)」のAI管理項目もクリアできます。

今日からできる3項目チェックリスト

技術仕様・実装解説(SHADOW AI DLP GATEWAY & PII MASKING AUTOMATON) 4. 詳しい技術仕様としくみ
技術アーキテクチャと実装仕様

シャドーAI(無許可LLM利用)からの機密漏洩を防ぐPII匿名化プロキシとZero-Data-Retention APIガバナンス

本稿では、IPA『情報セキュリティ10大脅威 2026(組織編)』で初選出3位となった「AIの利用をめぐるサイバーリスク(特にシャドーAIによる機密・個人情報漏洩)」を技術的に解決するため、(1) 全面禁止による現場の隠蔽利用(地下化)を防ぎつつ安全性を担保する『公式AIゲートウェイ』構成、(2) 送信プロンプト内の氏名・マイナンバー・口座番号・ソースコード秘密鍵をミリ秒単位で仮名トークン <PII_PERSON_01> へ置換し応答受信時に復元する可逆マスキング・オートマトン、および (3) 学習オプトアウト(Zero Data Retention: ZDR)の通信契約境界を解説する。

Threat Ranking
IPA 10大脅威 2026 初選出 第3位
Data Retention Policy
Zero Data Retention (No Model Training)
DLP Inspection Latency
< 0.4 ms Stream PII Scrubber
Secret Pattern Guard
Entropy + Prefix AST (AKIA/ghp_/sk-)
1. 設計仕様・数理モデル(Formal Architecture, Protocol Internals & Mathematical Formulation)

1. 【なぜ『社内での生成AI全面禁止』はシャドーAI(私物スマホ・個人無料アカウント利用)を誘発するのか】 現場の社員が議事録要約、メール下書き、翻訳、エクセル関数作成の業務負荷を減らしたいという欲求は自然であり、会社が代替手段を与えずに「AI利用禁止」の通達だけを出すと、社員は会社の監視が及ばない私物スマートフォンや自宅PCの無料プラン(入力データがモデルの再学習コーパスに組み込まれる Consumer Tier)へ社内資料をコピー&ペーストし始める。これが「シャドーAI」の正体である。したがって唯一の現実解は、再学習に一切使われない法人向けAPI契約(Zero Data Retention)を会社が公式に用意し、その前段に自動マスキング(DLP: Data Loss Prevention)プロキシを配置することである。

2. 【可逆的仮名化(Reversible Pseudonymization)プロキシの動作原理】 社内端末から外部LLM APIへ送信されるプロンプト文字列 P に対し、エッジプロキシが正規表現オートマトンと固有表現抽出(NER)を適用し、顧客名・電話番号・メールアドレス・インボイス番号・マイナンバー(11桁+検査用チェックデジット1桁)を検出する。検出された実データ v_i は社内メモリ上の揮発ルックアップ表 M にのみ保持され、外部APIへは決定論的プレースホルダ [CLIENT_NAME_01] や [PHONE_REDACTED_01] に置換された無害化プロンプト P' のみが送信される。LLMから返却された応答 R' に対して逆写像 M^-1(R') を適用して画面へ戻すため、外部クラウドへは個人情報が1バイトも出ないまま自然な文書作成が完了する。

3. 【APIキー・秘密鍵・高エントロピー文字列の漏洩遮断】 開発者や情シス担当者がエラーログや設定ファイルをAIに質問する際、誤って AWS アクセスキー(AKIA[0-9A-Z]{16})、GitHub トークン(ghp_[a-zA-Z0-9]{36})、または PEM 秘密鍵ブロックを含めてしまう事故が多発している。プロキシ層ではこれらのプレフィックス構造および局所シャノン・エントロピー H >= 4.5 bits/char のトークンを検出し、送信前に即時ブロック・警告を行う。

2. パラメータ・構成仕様(Consumer Free AI vs. Enterprise Zero-Retention Gateway with Reversible DLP)
Governance DimensionUnmanaged Shadow AI (Free Web Tier)Blanket Ban PolicyOpen Knowledge Managed AI Gateway
Model Training UsageOpt-in by default (Used for future training)Bypassed via personal smartphonesStrict Zero Data Retention (ZDR API Contract)
PII & Trade Secret FilterNone (Raw customer names/numbers sent)None (Unmonitored underground usage)Automatic Reversible Token Masking at Edge
API Key / Credential LeakStored permanently in cloud chat historyUnmonitoredBlocked pre-flight via Prefix & Entropy Scanner
Audit Log & GovernanceZero visibility for managementZero visibilityPostgreSQL 19 Tenant-Isolated Usage & Token Audit
3. 実装コード・設定仕様(Executable Specification Code (crates/ok-ai-dlp/src/pii_scrubber.rs)) Rust Edition 2024 (#![forbid(unsafe_code)])
#![forbid(unsafe_code)]

#[derive(Debug, Clone, Copy, PartialEq, Eq)]
pub enum DlpInterceptVerdict {
    AllowCleanPrompt,
    BlockHardcodedCredentialLeak,
    MaskDetectedMyNumberOrPhone,
}

/// Validates the official 12-digit Japanese Individual Number (My Number) Modulo-11 check digit
/// to prevent false-positive masking on ordinary 12-digit invoice or serial numbers.
#[inline]
pub fn is_valid_my_number_12digits(digits: &[u8; 12]) -> bool {
    let mut sum: u32 = 0;
    for i in 0..11 {
        let d = digits[i];
        if !d.is_ascii_digit() {
            return false;
        }
        let p_n = (d - b'0') as u32;
        let n = 11 - i as u32; — n = 1..=11 from right to left
        let q_n = if n <= 6 { n + 1 } else { n - 5 };
        sum += p_n * q_n;
    }
    let rem = sum % 11;
    let expected_check = if rem <= 1 { 0 } else { 11 - rem };
    let actual_check = (digits[11].wrapping_sub(b'0')) as u32;
    actual_check == expected_check
}

/// Scans an outgoing LLM prompt for leaked cloud credentials (`AKIA...`, `ghp_...`, `-----BEGIN`)
/// or unmasked 12-digit My Number sequences before any external API transmission.
pub fn inspect_outgoing_ai_prompt(prompt: &str) -> DlpInterceptVerdict {
    let bytes = prompt.as_bytes();
    if prompt.contains("-----BEGIN ")
        || prompt.contains("AKIA")
        || prompt.contains("ghp_")
        || prompt.contains("xoxb-")
    {
        return DlpInterceptVerdict::BlockHardcodedCredentialLeak;
    }

    if bytes.len() >= 12 {
        for window in bytes.windows(12) {
            if let Ok(arr) = <&[u8; 12]>::try_from(window) {
                if arr.iter().all(|b| b.is_ascii_digit()) && is_valid_my_number_12digits(arr) {
                    return DlpInterceptVerdict::MaskDetectedMyNumberOrPhone;
                }
            }
        }
    }
    DlpInterceptVerdict::AllowCleanPrompt
}
4. 詳しい技術仕様としくみ(システム設計・数理モデル・実装例)

動的CMS/PHPランタイム攻撃面(CVE-2024-4577等)の解剖とAstro+Rust静的分離設計

プロトコル仕様・数理モデル・Rust 2024 実装コードの詳細は、専門技術モノグラフにて公開しています。

技術モノグラフを読む →
ご質問・公的制度の活用に関するお問い合わせ窓口

掲載資料に関するご質問・公的制度活用のご案内

本ページの図解や解説内容に関するご質問、経済産業省「SCS評価制度」やIPA「SECURITY ACTION・サイバーセキュリティお助け隊サービス」等の公的制度の確認方法について、落ち着いた参考窓口としてご案内しております。売り込みや営業連絡は一切行いませんので、社内勉強会やご家庭での確認資料としてご自由にご活用ください。

図解・ビジュアルの拡大表示

図表内のテキストもそのまま選択・検索可能です(ベクターSVG描画) 枠外クリックまたは ESC キーで閉じます