社外に出せない情報で生成AIを使うには|プロンプトの承認・自動マスキング・オンプレLLMの費用の考え方ARTICLE
ARTICLEAX・業務自動化
「生成AIを業務に使いたい。ただ、社内の決まりで技術資料をクラウドに出せない」――製造業・医療・自治体など、機密性の高い情報を扱う組織から、こうした相談をいただくことが増えています。
よく話題になるのは「入力した内容が AI の学習に使われるか」です。しかし、機密を扱う現場で本当に問題になるのは、その手前です。社内の資料を検索させる仕組み(RAG)でも、調べものを任せる使い方でも、質問の文章(プロンプト)そのものに会社固有の用語や情報が入り、それがクラウドの AI に送られます。
本記事では、社外に出せない情報で生成AIを使うための選択肢を費用と手間の順に3つに整理し、取り込む資料の利用規約、社内で動く AI(オンプレミスの LLM)の GPU の費用の考え方まで、当社の支援の現場で論点になったことを交えて解説します。
この記事の要点
- 情報が社外に出るのは、プロンプト・取り込む資料・出力と履歴の3か所です。「学習に使われない」は、社外に送らないこととは別の話です
- 選択肢は、①送る前に人が確かめる(上長の事前承認)②固有の情報を自動で伏せる(自動マスキング)③社内で動く AI(オンプレミスの LLM)の3つで、後ろほど費用と手間が大きくなります
- オンプレにすると GPU が費用の中心になります。当社の支援先でも、その費用を P/L で払えるかが重要な論点になりました。取り込みたい資料の利用規約で AI の学習への利用が禁じられていた例もあり、資料の権利と費用を最初に確かめることが近道です
「プロンプトに書いた内容」も社外に出る ―― 入力・資料・出力のどこで情報が外に出るか
生成AIで情報が社外に出る経路は、大きく3つあります。
| 経路 | 何が外に出るか | 見落としやすい点 |
|---|---|---|
| 入力(プロンプト) | 質問の文章、貼り付けた本文 | 製品の呼び名・社内の略語・顧客名など、会社固有の言葉が質問文に入る |
| 取り込む資料 | RAG に入れる文書、アップロードしたファイル | 検索に使う「埋め込み」の作成や、資料の保管がクラウドで行われる |
| 出力と履歴 | AI の回答、やりとりの履歴、ログ | 回答には質問と資料の内容が反映される。履歴やログがサービス側に保存される場合がある |
ここで押さえておきたいのは、「学習に使われない」と「社外に送らない」は別の話だということです。主な法人向けサービスは、既定では入力と出力を学習に使わないと公式に示しています。
| サービス | 公式に示されている条件(2026年10月確認) |
|---|---|
| Microsoft 365 Copilot | プロンプト・応答・Microsoft Graph 経由でアクセスしたデータは、基盤となる LLM のトレーニングに使われない(出典:Microsoft Learn「Microsoft Copilot のデータ、プライバシー、セキュリティ」) |
| Azure で提供されるモデル(Azure OpenAI など) | プロンプトと出力は OpenAI などモデルの提供元に渡らず、許可なく基盤モデルの学習に使われない。不正利用の監視で人の確認が必要になったときのために保存される場合があり、承認を受けた顧客はこの保存を止める申請ができる(出典:Microsoft Learn「Microsoft Foundry における Azure が販売する Foundry モデルのデータ、プライバシー、セキュリティ」) |
| OpenAI API | 明示的に許可しない限り学習に使われない。不正利用の監視のログは既定で最大30日保存される(出典:OpenAI「Data controls in the OpenAI platform」) |
| Anthropic の法人向け(API・Claude for Work) | 既定では入力と出力を学習に使わない。評価ボタンなどでフィードバックを送った場合は例外(出典:Anthropic「Is my data used for model training?」) |
| Google Workspace の Gemini | 許可なくドメインの外で生成AIモデルの学習に使われることはない(出典:Google「Google Workspace の生成 AI に関するプライバシー ハブ」) |
一方で、表のとおり「一定期間保存される」「設定によって処理される地域が変わる」といった条件もあります。たとえば Azure では、「グローバル」と付くデプロイの種類を選ぶと、モデルが置かれた任意の地域でプロンプトが処理される場合があります(出典は表と同じ Microsoft Learn のページ)。社内の決まりや取引先との契約で「社外に出さない」と決めている情報は、学習の有無とは別に扱いを決める必要があります。
個人情報を含む場合は、法律の面からの確認も要ります。個人情報保護委員会は、生成AIに個人データを含むプロンプトを入力し、それが応答の出力以外の目的で扱われる場合は法律違反になる可能性があるとして、提供事業者が機械学習に利用しないことなどを十分に確認するよう注意を促しています(出典:個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」、2023年6月2日公表、2026年10月確認)。
K.S.Rogers の現場から
機密性の高い技術情報を扱う製造業の会社様では、ディープリサーチのように調べものを任せる使い方も、RAG を組んで社内の資料を検索させる使い方も、入力したプロンプトをそのままクラウドの AI に送るのは難しい、という結論になりました。質問の文章に会社固有の用語や情報が入り、それがプロンプトを通じて外に出てしまう可能性があるためです。そこで、送る前に上長がプロンプトを確かめる案と、会社固有の情報を自動で見つけて伏せる案の2つを検討しました。
選択肢は3つ(費用と手間の順)
社外に出せない情報を扱いながら生成AIを使う方法は、次の3つに分けられます。上から順に、費用と手間が大きくなります。
① 送る前に人が確かめる(上長の事前承認)
利用者がプロンプトを書いたら、上長が中身を確かめ、問題がなければ送る、という運用です。仕組みを作る費用はほとんどかからず、明日からでも始められます。
ただし、運用の負担は軽くありません。
- 承認待ちで使われなくなる ―― 生成AIの良さは、思いついたときにすぐ試せることです。1回ごとに承認を待つと、利用者は使うのをやめてしまいます
- 上長も判断に迷う ―― 何が「会社固有の情報」に当たるかの基準がないと、上長ごとに判断がばらつきます
- 量が増えると形だけになる ―― 承認の件数が増えると、中身を読まずに通す状態になりがちです
そのため、事前承認は対象を絞って使うのが現実的です。
| 考え方 | 具体例 |
|---|---|
| 業務で絞る | 社外に出せない資料に触れる業務(設計・開発・顧客の技術相談など)だけを承認の対象にする |
| 毎回ではなく「型」を承認する | よく使うプロンプトの型(ひな形)を一度承認し、型の範囲で使うときは承認を省く |
| それ以外は事後の確認にする | 一般的な調べものや文章の手直しは、利用の記録を後から抜き取りで確かめる |
| 判断の基準を書き出す | 入れてはいけない言葉(製品の開発名、取引先名など)の一覧を作り、上長と利用者の両方が見られるようにする |
最後の「入れてはいけない言葉の一覧」は、次の自動マスキングの辞書にもそのまま使えます。入力してよい情報の区分の決め方は、生成AIの社内ルールの作り方で詳しく扱っています。
② 固有の情報を自動で伏せる(自動マスキング)
プロンプトを送る前に、会社固有の情報を仕組みで見つけて伏せ字や仮の名前に置き換え、AI の回答が返ってきたら元に戻す方法です。仕組みは大きく3つの部品でできています。
| 部品 | やること | 限界 |
|---|---|---|
| 辞書・パターンで伏せる | 社内用語の辞書、品番や図面番号の書式、メールアドレスや電話番号の形に当てはまる文字を置き換える | 辞書にない新しい用語や表記ゆれ(略称・英語表記など)を見逃す |
| AI で固有名を見つける | 文章から人名・社名・製品名らしい言葉を見つけて置き換える | 見つける AI 自体を社外のサービスに頼ると本末転倒。社内で動かす必要がある。精度は100%にならない |
| 伏せたあとに戻す | 「元の言葉と仮の名前」の対応表を手元だけに持ち、回答の中の仮の名前を元に戻す | AI が仮の名前を言い換えたり省略したりすると、正しく戻せない |
どの方法でも、次の2つの失敗が起きます。
- 伏せ漏れ ―― 伏せるべき言葉が残る。単語は伏せても、文脈や数値の組み合わせから中身が推測できることもあります
- 伏せすぎ ―― 一般的な技術用語まで伏せてしまい、AI が質問の意味を取れず回答の質が落ちる。質問したいこと自体が会社固有の技術である場合は、伏せると質問が成り立ちません
つまり、自動マスキングは「伏せれば社外に出してよい」と社内で決めた情報に使う方法で、技術の中身そのものが機密の場合には向きません。辞書の更新を誰が担うかも最初に決めておきます。
開発の現場では、AI ツールに読ませないファイルを設定で決める方法もあります。設定で防げることと防げないことの実測は、Claude Codeの秘密情報対策にまとめています。
③ 社内で動く AI(オンプレミスの LLM)
自社の設備の中で LLM と検索の仕組みを動かし、情報を社外に送らない方法です。情報の扱いでは最も安心できますが、費用と手間は最も大きくなります。
オンプレを検討する前に、自社が契約しているクラウドの中で閉じる構成で足りないかを確かめます。たとえば Azure では、AI のサービスをインターネットから切り離し、自社の仮想ネットワークからプライベート エンドポイント経由でのみ使えるように構成できます(出典:Microsoft Learn「Foundry Tools の仮想ネットワークを構成する」、2026年10月確認)。情報システムの担当の方には、社内のネットワークとどこが分かれていて、どこを通るかを1枚の図にして説明すると、話が早く進みます。
K.S.Rogers の現場から
図面を社外のクラウドに出しにくいという製造業の会社様では、すでにお使いの Microsoft の環境の中で完結する構成にすることで、検討が前に進みました。一方で、その環境に当社がゲストとして招待されることは認められませんでした。そのため、Power Automate で作ったフローも、当社から直接つないで設定することはできません。当社の環境で作ったフローをエクスポートし、お客様のパソコンからインポートする形になりました。お客様の環境の中で閉じる構成では、作ったものを移す手間が課題になりやすいため、移し方まで最初に決めておくことをおすすめしています。
それでもクラウドが使えないのは、次のような場合です。
- 契約や業界の決まりで、クラウドでの処理そのものが認められない ―― 取引先との契約や、扱う技術情報の決まりによっては、学習の有無に関係なくクラウドに置けません
- 医療機関の患者の情報 ―― 患者の情報を外に出せないため、オンプレで動く AI が前提になるという相談がありました
- 自治体 ―― 自治体のネットワークは、マイナンバー利用事務系・LGWAN 接続系・インターネット接続系に分けて運用されています(出典:総務省「地方公共団体における情報セキュリティポリシーに関するガイドライン(令和7年3月版)」、2026年10月確認)。業務で扱う情報によっては LGWAN の中で動かす必要があり、庁内で動く LLM が求められることが多くなります
K.S.Rogers の現場から
自治体からのご相談では、LGWAN の中に構築する必要があるため、ローカルで動く LLM を求められるケースが多くあります。ただ、LGWAN の環境に GPU が載っているわけではないので、GPU マシンを購入していただく話になりがちです。200〜300万円ほどかかることもあり、投資対効果の判断が難しくなりやすい傾向があります。一方で、Microsoft や AWS と提携している自治体もあり、別の自治体とお話しする中では「Azure なら」「AWS なら」使ってよい、というケースもありました。最初に「どういう環境なら使えますか」と伺うのも、一つの手だと考えています。
オンプレにする場合は、GPU を積んだマシン、公開されているモデルの中からの選定(モデルごとに商用利用の条件が違うため、ライセンスも確かめます)、社内の資料を検索する仕組み、動かし続けるための保守が必要です。最新のクラウドの AI と比べて回答の質が下がることもあるため、対象の業務で足りるかを小さく試してから広げます。
取り込む資料の「利用規約」を先に確かめる
RAG を組むときに見落とされやすいのが、取り込む資料の権利です。社内で作った資料なら問題になりにくいのですが、外から入手した資料には、それぞれ利用の条件があります。
| 資料の種類 | 確かめること |
|---|---|
| 購入した規格・技術資料・有料のデータベース | 利用規約やライセンスで、AI の学習への利用、複製、データベース化、社外での処理が禁じられていないか |
| 取引先から受け取った資料 | 秘密保持契約の範囲(目的外の利用の禁止、社外の処理の可否、返却・廃棄の義務) |
| Web で公開されている資料 | サイトの利用規約、転載・機械的な収集の扱い |
| 社内で作った資料 | 社外秘などの区分と、見られる人の範囲(検索の仕組みで、見せてはいけない人に出ないか) |
RAG への取り込みが規約の「学習」に当たるかどうかは、文言によって解釈が分かれることがあります。迷う場合は自社だけで判断せず、発行元や社内の法務・知財の担当に確かめ、取り込む資料の一覧と、確かめた結果を残しておきます。開発会社に渡す資料の扱いは、システム開発を外注するときのAI利用ルールも参考になります。
K.S.Rogers の現場から
機密性の高い技術情報を扱う製造業の会社様では、その分野ならではの規格の資料を RAG に取り込みたいという要望がありました。ところが、資料の利用規約を確かめると「AI の学習に使ってはいけない」とされているものがありました。何を集めて取り込むかによって作業の量も変わるため、取り込む対象の権利の条件を最初にお客様と合意しておくと、見積もりがぶれにくくなります。
オンプレにすると GPU が費用の中心になる ―― P/L で払えるかを先に試算する
オンプレの LLM を選ぶと、費用の中心は GPU を積んだマシンになります。費用の項目は次のとおりです。
| 項目 | 中身 | 試算のときの注意 |
|---|---|---|
| GPU を積んだマシン | 購入、または月額で借りる | 使う人数と、同時に使う量で必要な台数が変わる |
| 設置と電源 | 置き場所、電源、冷却 | 社内のサーバー室に入るか、電源の容量が足りるかを先に確かめる |
| 検索の仕組みの構築 | 資料の取り込み、検索、利用画面 | 取り込む資料の量と、利用規約の確認の手間で変わる |
| 保守と更新 | モデルの入れ替え、障害の対応、利用者の問い合わせ | 社内で担う人がいるか。いなければ外部に任せる費用がかかる |
金額は、使う人数・同時に使う量・求める回答の質で大きく変わります。そのため、購入する場合と月額で借りる場合の両方を試算し、使い始めの規模と、広げたときの規模の2通りで比べます。
効果の側は、減らせる残業代や外注費、増員せずに済む人件費など、P/L(損益)にどれだけ効くかで数え、毎月の費用を払えるかを判断します。届かない場合は、対象の業務や利用者を絞る、オンプレは「クラウドに出せない資料」の検索だけにする、といった組み合わせを考えます。費用対効果の数え方は、AI導入の費用相場で詳しく扱っています。
K.S.Rogers の現場から
先の製造業の会社様では、プロンプトをクラウドに送れず、取り込みたい資料にも利用の制限があったことから、社内で動く LLM を作る方向で検討が進みました。そこで最大の論点になったのが、GPU マシンの費用です。費用が大きいため、技術的にできるかどうかより先に、その費用を P/L で払えるかどうかが判断の分かれ目になりました。オンプレを検討するときは、構成を決める前に費用と効果の試算をそろえることをおすすめしています。
どれを選ぶかの判断の軸
どの方法が合うかは、情報の区分と、使う量と、払える費用で決まります。
| 判断の軸 | ① 事前承認 | ② 自動マスキング | ③ オンプレの LLM |
|---|---|---|---|
| 扱える情報 | 人が確かめて出してよいもの | 伏せれば出してよいもの | クラウドに出せないもの |
| 向く使い方 | 対象を絞った一部の業務 | 毎日多くの人が使う業務 | 特定の資料の検索や、特定の部署の業務 |
| 費用 | 小さい(人の手間が中心) | 中くらい(仕組みづくりと辞書の更新) | 大きい(GPU と保守) |
| 始めるまでの期間 | すぐ | 数週間〜 | 試算・調達・構築が必要 |
| 主な弱点 | 承認待ちで使われなくなる | 伏せ漏れと伏せすぎ | 費用と、回答の質 |
実際には、1つに決めるより組み合わせることが多くなります。たとえば、一般的な業務は会社契約のクラウドの AI で、会社固有の用語は伏せてから送り、クラウドに出せない資料の検索だけを社内で動かす、という形です。
また、Microsoft 365 Copilot をすでに契約していても「機密の情報は入れられない」という理由で使われていない会社では、情報の区分と権限を整える(ガバナンス)だけでなく、その区分の中で使える業務の自動化をセットで用意すると、使われ方が変わります。Copilot の権限やラベルの設定は、Microsoft 365 Copilotのセキュリティ設定で整理しています。
K.S.Rogers の支援
K.S.Rogers は、機密性の高い情報を扱う会社の生成AIの活用を、情報の区分の整理から構成の選定、費用の試算まで一緒に進めています。
- 選択肢の整理と費用の試算 ―― どの情報がクラウドに出せないか、どの業務に使うかを伺い、事前承認・自動マスキング・閉じたクラウド・オンプレのどれが合うかを、P/L への効果とあわせて整理します
- 業務の自動化 ―― AI業務自動化の導入支援サービスOpeZeroでは、最初にシステム環境を調べたうえで、構築から運用までを担います。料金は運用報酬型(初期構築費は原則0円・月額固定)です
- 社内で動く AI や検索の仕組みの開発 ―― オンプレの LLM や RAG の構築は、システム開発として、範囲とデータを確認したうえで個別にお見積りします
ご相談は全国からお受けしています(よく伺うのは関西・関東・名古屋)。情報の扱いのように社内の事情を詳しく伺う必要があるテーマは、面着でのお打ち合わせもおすすめしています。
まとめ
- 生成AIで情報が社外に出る経路は、プロンプト・取り込む資料・出力と履歴の3つです。「学習に使われない」と「社外に送らない」は分けて考えます
- 選択肢は、①上長の事前承認 ②自動マスキング ③オンプレミスの LLM の3つです。事前承認は対象を絞り、マスキングは伏せ漏れと伏せすぎを前提に「伏せれば出せる情報」に使います
- RAG に取り込む資料は、利用規約やライセンスで AI での利用が禁じられていないかを先に確かめます
- オンプレにすると GPU が費用の中心になります。購入と月額の両方を試算し、P/L で払えるかを構成を決める前に判断します
「社外に出せない情報があり、生成AIをどこまで使えるか分からない」という段階から、お問い合わせよりご相談ください。
よくある質問
Q.法人向けの生成AIサービスなら、入力した内容は学習に使われませんか?
A.主な法人向けサービスは、既定では入力と出力をモデルの学習に使わないと公式に示しています。ただし「学習に使わない」と「社外に送らない」は別の話です。不正利用の監視のために一定期間保存される場合や、処理される地域が設定で変わる場合があります。社内の決まりで社外に出せない情報は、学習の有無とは別に扱いを決めます。
Q.プロンプトの自動マスキングだけで、機密情報は守れますか?
A.マスキングだけでは守りきれません。辞書にない新しい用語や表記ゆれは伏せ漏れになり、伏せすぎると AI が質問の意味を取れなくなります。また、何が会社固有の情報かを見つける仕組みそのものを社外の AI に頼ると、本末転倒になります。マスキングは、社内の決まりで「伏せれば出してよい」とされた情報に使い、伏せても出せない情報は別の手段で扱います。
Q.オンプレミスのLLMには、どのくらい費用がかかりますか?
A.費用の中心は GPU を積んだマシンで、ほかに設置場所・電源・保守の手間、モデルや検索の仕組みの更新がかかります。金額は、使う人数・同時に使う量・求める精度で大きく変わるため、購入する場合と月額で借りる場合の両方を試算し、減らせる残業代や外注費など P/L への効果と比べて、払えるかどうかを先に判断します。
Q.社外の資料をRAGに取り込むときは、何に注意すればよいですか?
A.取り込む前に、資料の利用規約やライセンスを確かめます。購入した規格や技術資料の中には、AI の学習への利用や、複製・データベース化を禁じているものがあります。RAG への取り込みが禁止の対象に当たるか迷う場合は、発行元や社内の法務・知財の担当に確認し、取り込む資料の一覧と確認の結果を残しておきます。
Q.プロンプトを上長が事前に承認する運用は、現実的ですか?
A.全部のプロンプトを承認にすると、承認待ちで使われなくなります。対象を「社外に出せない情報に触れる業務」に絞る、毎回ではなくプロンプトの型を一度承認する、それ以外は事後の確認にする、といった形で範囲を限ると現実的になります。