オフィスのパソコン画面に鍵のマークが重なり、AI へのアクセス制限を表しているイメージ
事例 更新

企業が ChatGPT の業務利用を禁止する理由と、代わりに使っているもの

企業が公開の AI チャットアプリを制限するのは、共有する契約のないデータを社員が貼り付けてしまうからです。実際の事例、2026 年の規制、実際に機能する代替手段をまとめます。

「ChatGPT を禁止している」企業のほとんどは、AI そのものに反対しているわけではありません。問題にしているのは、会社として契約していない個人アカウントに社員が社内のデータを貼り付けることです。そうしたアカウントでは、デフォルトでベンダーがそのデータをモデルの改善に使えます。よくある解決策は、承認済みのツールを用意することです。学習に使わない条件と保持期間の条件が付いたビジネスプラン、自社のクラウドアカウント内のモデルエンドポイント、または自社で運用するハードウェア上のオープンウェイトモデルです。適切な契約があれば、公開のツールで十分な仕事はたくさんあります。

以下では、誰もが引き合いに出す事例で実際に何が起きたのか、2026 年にどの規制が適用されるのか、各ベンダーのビジネス向けの条件が今どうなっているのか、そしてそれぞれの選択肢でテキストがどこへ行くのかを見ていきます。内容はすべて 2026 年 9 月に一次情報で確認したもので、出典は最後にあります。

Samsung と銀行で何が起きたのか

誰もが挙げるのは Samsung の事例です。2023 年の初め、同社の半導体部門はエンジニアに ChatGPT の利用を認めました。その後、韓国メディアが 3 つの別々の出来事を報じました。社員がバグを直すためにソースコードを貼り付けたこと、議事録の作成に使ったこと、そして装置の測定データや歩留まりのデータを入力したことです。Samsung は当時、詳細を認めていません。2023 年 4 月末、最大級の部門の社員に対し、社内のコンピューターでの生成 AI の利用を一時的に制限するという通達が出されました。その前月の社内調査では、回答者の 65% がセキュリティ上のリスクを懸念していると答えていました。

Wall Street Journal によると、Apple は 2023 年 5 月に ChatGPT と GitHub Copilot の利用を制限しました。機密データが、ユーザーのデータでモデルを学習させる開発元の手に渡ることを恐れたためです。同じ報道では、JPMorgan、Bank of America、Citi、Deutsche Bank、Goldman Sachs、Wells Fargo、Walmart、Verizon も ChatGPT を制限したとされています。

これらの事例には、見落とされやすい点が 2 つあります。

1 つ目は、誰もハッキングされていないことです。データは社員が送ったとおりの場所に届きました。懸念はその後に何が起きるかでした。誰がいつまで保持するのか、モデルの学習に使われるのか、裁判所がベンダーに提出を命じることはあるのか、です。

2 つ目は、禁止が禁止のままでは終わらなかったことです。JPMorgan は独自の社内プラットフォーム LLM Suite を作り、社員が「安全な環境で」大規模言語モデルを使えるようにしました。2024 年夏に公開され、8 か月以内に 20 万人が利用を始めました。これが典型的な流れです。個人向けのアプリを止め、その後で承認済みのものを渡します。

実際のリスクは何か

社員が個人向けのアカウントを使うと、4 つの別々の問題が重なります。

デフォルトで学習に使われる。 ChatGPT の Free、Plus、Pro では、ユーザーが Data controls の「Improve the model for everyone」をオフにしない限り、コンテンツが OpenAI のモデルの改善に使われることがあります。ユーザーが高評価や低評価を押すと、オプトアウトしていても会話全体が使われることがあります。Anthropic の個人向け Claude プランでは、ユーザーがモデルの改善を許可していれば、チャットが学習に使われます。つまり、自社のソースコードが学習データに入るかどうかは、他人のアカウントの設定 1 つで決まります。

自分で管理できない保持期間。 OpenAI のプラットフォーム上のビジネスデータは、ユーザーが削除してから 30 日以内に削除されます。ただし「法的に保持が求められる場合を除き」です。この但し書きは現実のものです。New York Times の訴訟では、2025 年 6 月から 2025 年 9 月 26 日までの裁判所命令により、OpenAI は本来なら削除するはずだった個人向け ChatGPT と通常の API のコンテンツを保持しなければなりませんでした。ChatGPT Enterprise、Edu、およびデータ保持ゼロの API の顧客は対象外でした。

契約がない。 法的にはこれが一番重要です。GDPR では、ベンダーに個人データの処理を任せる企業は、「十分な保証」を提供する処理者を使い、その処理者と拘束力のある契約を結ばなければなりません（第 28 条）。医療機関には事業提携契約（BAA）が必要です。社員の個人アカウントにはどちらもないので、何かが漏れるかどうかに関係なく、貼り付けた時点で違反が起きています。

記録が残らない。 規制対象の企業は、業務上のやり取りを監督し、保存しなければなりません。個人アカウントのチャットは、コンプライアンス部門が運用するどのアーカイブにも入りません。

2026 年に適用される規制

GDPR

EU の顧客や社員の個人データをプロンプトに入れることは、処理に当たります。適法な根拠、第 28 条に基づく処理者との契約、そして EU 域外への移転には合法的な手段が必要です。米国のベンダーについては、EU-US データプライバシーフレームワークが今も有効です。EU 一般裁判所は 2025 年 9 月 3 日に Latombe の訴えを棄却しました（事件番号 T-553/23）。ただし C-703/25 P として司法裁判所に上訴されているので、動向を追っておいてください。

規制当局はチャットサービスに直接動いています。イタリアの Garante は 2023 年 3 月末に ChatGPT を一時的に停止させ、2024 年 12 月には OpenAI に 1,500 万ユーロの制裁金を科しました。理由は、適切な法的根拠なしに ChatGPT の学習のために個人データを処理したこと、2023 年 3 月の情報漏えいを届け出なかったこと、透明性が不十分だったこと、年齢確認がなかったことです。OpenAI は制裁金が不釣り合いだとし、不服を申し立てるとしました。

HIPAA

対象事業者のために電子的な保護対象医療情報を受け取り、保存し、送信するサービスは、すべて事業提携者（ビジネスアソシエイト）であり、署名済みの BAA が必要です。HHS は、暗号化されたデータを保持するだけで鍵を持たないクラウドプロバイダーでも事業提携者に当たると明言しています。OpenAI は API について BAA を締結できるとしています。医師の個人の ChatGPT アカウントには、BAA はまったくありません。

金融サービス

FINRA の Regulatory Notice 24-09（2024 年 6 月 27 日）は、同機関の規則は生成 AI にも「会員企業がほかのあらゆる技術やツールを使う場合と同じように適用される」としています。監督、一般の人々とのコミュニケーション、記録の保存はすべて引き続き適用されます。2023 年の銀行による制限のほとんどは、まさにここから来ています。

EU AI 法

AI 法は 2024 年 8 月 1 日に発効しました。禁止される行為の規定と AI リテラシーの義務は 2025 年 2 月 2 日から、汎用 AI モデルの提供者の義務は 2025 年 8 月 2 日から適用されています。AI オムニバス改正、規則（EU）2026/1744 は 2026 年 7 月 24 日に公布され、2026 年 7 月 27 日に発効しました。これにより高リスクの期限が変わりました。履歴書の選別のような採用に使う AI を含む単体の高リスクシステムは 2027 年 12 月 2 日、規制対象の製品に組み込まれた AI は 2028 年 8 月 2 日です。第 50 条の透明性義務は予定どおり 2026 年 8 月 2 日から適用され、AI リテラシーの義務は、それを「支援する」措置をとることへと緩和されました。

メールの下書きにチャットアシスタントを使う企業にとって、AI 法が付け加えるものはほとんどありません。同じアシスタントで応募者を順位付けし始めたら、あなたは高リスクシステムを導入していることになり、2027 年 12 月の期限が適用されます。

ビジネスプランが約束していること

主要なベンダーはどこも、個人向けアプリとはデフォルトの異なるビジネス向けプランを販売しています。次の表は、2026 年 9 月時点で各ベンダー自身のページに書かれている内容をまとめたものです。

サービスデフォルトで学習に使うか保持と管理コンプライアンス
ChatGPT Free、Plus、Proユーザーがオプトアウトしない限り使うことがあるユーザーのアカウント単位会社との契約なし
ChatGPT Business、Enterprise、Edu使わないワークスペースの管理者が保持期間を設定Enterprise と Business は SOC 2 Type 2
OpenAI API使わない30 日後に削除。対象用途ではデータ保持ゼロBAA あり
Claude Team、Enterprise、API使わないフィードバックは最長 5 年保持されることがある。オーナーはフィードバックをオフにできる商用規約
Microsoft 365 Copilot と Copilot Chat使わない。基盤モデルの学習には使われない自社の保持ポリシー、ラベル、監査が適用されるDPA、EU データ境界（Anthropic のモデルは対象外）
Google Workspace の Gemini許可なくドメイン外での学習には使われない既存の Workspace の管理機能が適用されるHIPAA 対応、FedRAMP High

大手クラウドの中のモデルエンドポイントは、さらに一歩進んでいます。Microsoft は、Microsoft Foundry で Azure が販売するモデルについて、プロンプトと生成結果は「OpenAI やほかのプロバイダーには提供されない」とし、Global や DataZone のデプロイを選ばない限り、選んだ地域内で処理されるとしています。Amazon Bedrock では、モデルはモデル提供者がアクセスできないデプロイ用アカウントで動くので、提供者がプロンプトや生成結果を目にすることはありません。

ビジネスプランでも変わらないことがあります。テキストは保持条件が許す限りベンダーのサーバーに置かれ、裁判所の命令も届きます。これは、メールや文書のサービスにすでに寄せているのと同じ種類の信頼です。社内のほとんどの業務にとっては妥当な取引です。営業秘密、BAA のない規制対象データ、顧客との契約で再委託先への送信が禁じられている資料については、そうとは限りません。

それぞれの選択肢でプロンプトはどこへ行くか

選択肢を公平に比べるには、1 つのプロンプトを追いかけ、誰がそれを読めるかを問うのが一番です。

5 種類の AI の使い方で、社員のプロンプトがどこへ行き、それぞれ何によって守られるか テキストの行き先 守っているもの 社員の プロンプト 個人向けチャットアプリ 個人の Free、Plus、Pro アカウント デフォルトで学習に使われうる 会社との契約がない ベンダーのビジネスプラン ベンダーのサーバー、会社のアカウント デフォルトで学習に使われない DPA、保持期間の管理 自社クラウドのエンドポイント Azure Foundry, Amazon Bedrock 自社のテナントとリージョン モデルの開発元には見えない 自社のサーバー オープンモデル、自社ネットワーク ネットワークの外に出ない 運用とパッチ適用はすべて自社 GPU マーケットプレイス（GPUFlow） プロバイダー自身のコンピューター そのマシン上では平文 規約で記録を禁止 オレンジ：公開データのみ可。緑：自社の IT が扱えるデータなら何でも可。
同じプロンプトに 5 つの行き先があります。自社ネットワークの中にとどまるのはセルフホストだけです。ビジネスプランとクラウドのエンドポイントでは、自社が結んだ契約のもとに置かれます。

オープンウェイトモデルを自社で動かす

機密データに最も強い選択肢は、最も手間がかかる選択肢でもあります。オープンウェイトモデル（Llama、Qwen、Mistral、Gemma など）をダウンロードし、自社ネットワーク内のマシンで動かすことです。プロンプトは外に出ません。何をどれだけの期間記録するかを自分で決められるので、記録保存の義務や GDPR の保持期間のルールも満たしやすくなり、他社の保持条項や裁判所の命令がデータに及ぶこともありません。

ただし、コストは現実のものです。推論サービスを運用することになります。GPU、Ollama や vLLM のようなエンジン、認証、ログ、アップデート、そして障害対応の担当者です。また、ワークステーション用のカード 1 枚に収まる 8B や 14B のモデルは、長い推論ではフロンティアモデルに及びません。分類、項目の抽出、社内文書の要約、定型文の下書きならたいてい十分です。決める前に、自社のタスクで試してください。エンジンの選び方は Ollama・vLLM・TGI のベンチマークで、自社の文書にモデルを合わせる方法は LLM の非公開ファインチューニングガイドで扱っています。

多くの企業がとる中間の道もあります。すでに持っているクラウドアカウント内の GPU インスタンスでオープンモデルを動かす方法です。クラウドプロバイダーは、ほかの業務のためにすでに交渉済みの DPA のもとでの処理者となり、モデルのベンダーはまったく関わりません。

レンタル GPU と GPUFlow の位置づけ

GPU マーケットプレイスは市場の安価な側にあり、この比較に入れるなら、はっきりと但し書きを付ける必要があります。

GPUFlow もその 1 つです。GPU を時間単位で借り、プロバイダーがその GPU で（たいていは Ollama で）動かしているオープンモデル用の OpenAI 互換 API キーを受け取ります。モデルはプロバイダー自身のコンピューターで動きます。つまり、レンタル中、あなたのプロンプトと回答はそのマシンを平文で通ります。GPUFlow の規約は、プロバイダーが借り手のリクエストや回答を記録、閲覧、保持、共有することを禁じており、GPUFlow 自身も本文を保存しません。しかしプロバイダーはそのマシンの root 権限を持っており、記録の禁止は契約で担保されているだけで、技術的に止めるものは何もありません。

ですから、規制対象のデータや機密データには、GPUFlow は答えになりません。顧客の記録、医療データ、大事なソースコード、顧客との契約で制限されているものは送らないでください。私たち自身のドキュメントはもっと率直に書いています。パスワード、カード番号など、見知らぬ人に教えたくない秘密の情報は送らないでください。

向いているのは次のような用途です。カードを買う前に実際のハードウェアでオープンモデルを試すこと、公開データや合成データでプロンプトを回すこと、自社のサーバーに向ける前に OpenAI 互換 API に対してアプリを作ってテストすることです。ほかのマーケットプレイスのコミュニティクラウドのマシンでも、アップロードするものについて同じ問題が生じます。その側面は公開 GPU ノードでデータセットを守る方法で扱っています。

社員が実際に守れるポリシー

代わりを用意しない一律の禁止は、たいてい利用を個人のスマートフォンに移すだけで、そうなると見えるものはさらに減ります。うまくいくのは、覚えられるくらい短いポリシーです。

データの区分例使ってよいツール
公開公開済みの文書、マーケティングの文章承認済みのツールなら何でも（個人向けアプリも可）
社内社内規程、社内 Wiki、機密でないコードDPA があり学習がオフのビジネスプラン
機密顧客データ、営業秘密、取引条件自社テナント内のクラウドエンドポイント、またはセルフホスト
規制対象医療データ、カード情報、大量の個人データセルフホスト、または該当する契約（BAA、DPA）を結んだベンダー

そのうえで、地味な作業をこなします。

  1. ビジネスプランかクラウドエンドポイントを 1 つ購入してデフォルトにし、シングルサインオンで退職時にアカウントが閉じるようにします。
  2. 保持期間を記録保存の義務を満たす最短の期間に設定し、管理コンソールで学習がオフになっていることを確認します。
  3. 管理対象の端末で個人向け AI チャットサイトをブロックするのは、承認済みのツールが使えるようになってからにします。
  4. AI の用途の一覧を作っておきます。採用、与信などの判断に関わるものは、2027 年 12 月までに別途レビューが必要です。
  5. やってはいけないことだけでなく、代わりに何をすればよいかを伝えます。Samsung の通達が届いたのは、データが出ていった後でした。

セルフホストと従量課金サービスの運用コストについては、時間単位の GPU か、トークン単位の API かをご覧ください。

出典

すべて 2026 年 9 月に確認しました。

よくある質問

企業が社員の ChatGPT 利用を禁止するのはなぜですか？

社員が、会社として契約していない個人アカウントに社内や顧客のデータを貼り付けてしまうからです。個人向けの ChatGPT プランでは、デフォルトで OpenAI がコンテンツをモデルの改善に使えるようになっており、会社を対象とするデータ処理契約も HIPAA の事業提携契約（BAA）もありません。

ChatGPT Enterprise は企業のデータを学習に使いますか？

デフォルトでは使いません。OpenAI のエンタープライズ向けプライバシーのページには、顧客がオプトインしない限り ChatGPT Enterprise、Business、Edu、API のデータは学習に使わないとあり、Enterprise については SOC 2 Type 2 の監査と、管理者が設定できる保持期間が挙げられています。

ChatGPT を制限したのはどの企業ですか？

Samsung は、ソースコードや社内データの流出が報じられた後、2023 年に社用端末での生成 AI の利用を制限しました。同じ年には Apple、JPMorgan、Bank of America、Citi、Deutsche Bank、Goldman Sachs、Wells Fargo、Walmart、Verizon も制限したと報じられています。

GDPR のもとで、顧客データを ChatGPT に入力するのは合法ですか？

適法な根拠があり、GDPR 第 28 条を満たす処理者との契約がある場合に限ります。データ処理契約（DPA）付きのビジネスプランならこれを満たせますが、社員の個人アカウントでは満たせません。そのアカウントについて、会社はベンダーと何の契約も結んでいないからです。

EU AI 法の高リスク規制はいつから適用されますか？

2026 年 7 月 27 日に発効した AI オムニバス改正により、履歴書の選別のような単体の高リスクシステムには 2027 年 12 月 2 日から、規制対象の製品に組み込まれた AI には 2028 年 8 月 2 日から適用されます。第 50 条の透明性義務は 2026 年 8 月 2 日から適用されています。

GPUFlow で会社の機密データを扱ってもよいですか？

いいえ。GPUFlow ではモデルがプロバイダー自身のコンピューターで動くので、プロンプトと回答はそのマシンを平文で通ります。規約はプロバイダーによる記録を禁じていますが、これは契約上のルールであって技術的に防いでいるわけではありません。見知らぬ人に見せても構わないデータにだけ使ってください。