Die meisten Unternehmen, die „ChatGPT verbieten“, haben nichts gegen KI. Sie haben etwas dagegen, dass Mitarbeiter Firmendaten in ein privates Konto kopieren, mit dessen Anbieter das Unternehmen keinen Vertrag hat und bei dem der Anbieter die Daten standardmäßig zur Verbesserung seiner Modelle nutzen darf. Die übliche Lösung ist ein freigegebenes Tool: ein Business-Tarif mit Regeln gegen Training und zur Aufbewahrung, ein Modell-Endpunkt im eigenen Cloud-Konto des Unternehmens oder ein offenes Modell auf Hardware, die das Unternehmen selbst betreibt. Mit dem richtigen Vertrag sind die öffentlichen Tools für viele Aufgaben in Ordnung.
Im Folgenden: was in den Fällen, die alle zitieren, tatsächlich passiert ist, welche Regeln 2026 gelten, was die Business-Bedingungen der Anbieter heute sagen und wohin Ihr Text bei jeder Option geht. Alles wurde im September 2026 anhand der Primärquellen geprüft; sie stehen am Ende.
Was bei Samsung und den Banken passiert ist
Samsung ist der Fall, den alle zitieren. Anfang 2023 erlaubte die Halbleitersparte ihren Ingenieuren, ChatGPT zu nutzen. Koreanische Medien berichteten danach von drei getrennten Vorfällen: Mitarbeiter fügten Quellcode ein, um Fehler zu beheben, ließen das Tool Besprechungsprotokolle schreiben und gaben Messdaten von Anlagen und Ausbeutedaten ein. Samsung bestätigte die Details damals nicht. Ende April 2023 teilte ein Memo den Mitarbeitern einer der größten Sparten mit, dass generative KI auf Firmencomputern vorübergehend eingeschränkt sei. In einer internen Umfrage im Vormonat hatten 65 % der Befragten angegeben, sich wegen der Sicherheitsrisiken Sorgen zu machen.
Apple schränkte ChatGPT und GitHub Copilot laut Wall Street Journal im Mai 2023 ein, weil es fürchtete, vertrauliche Daten könnten bei Entwicklern landen, die Modelle mit Nutzerdaten trainieren. Dieselben Berichte nannten JPMorgan, Bank of America, Citi, Deutsche Bank, Goldman Sachs, Wells Fargo, Walmart und Verizon als Unternehmen, die ChatGPT eingeschränkt hatten.
Zwei Dinge an diesen Fällen übersieht man leicht.
Erstens wurde niemand gehackt. Die Daten gingen genau dorthin, wohin der Mitarbeiter sie geschickt hatte. Die Sorge galt dem, was danach passiert: wer sie behält, wie lange, ob damit ein Modell trainiert wird und ob ein Gericht den Anbieter zur Herausgabe zwingen kann.
Zweitens blieben die Verbote keine Verbote. JPMorgan baute eine eigene interne Plattform, LLM Suite, die Mitarbeitern Zugang zu großen Sprachmodellen „in einer sicheren Umgebung“ gibt. Sie wurde im Sommer 2024 eingeführt und hatte innerhalb von acht Monaten 200.000 freigeschaltete Nutzer. Das ist der typische Verlauf: erst die Consumer-App sperren, dann den Leuten etwas Freigegebenes geben.
Worin das Risiko eigentlich besteht
Wenn ein Mitarbeiter ein privates Consumer-Konto nutzt, kommen vier getrennte Probleme zusammen.
Training als Voreinstellung. Bei ChatGPT Free, Plus und Pro dürfen Inhalte zur Verbesserung der Modelle von OpenAI genutzt werden, solange der Nutzer nicht unter Data controls die Option „Improve the model for everyone“ abschaltet. Klickt der Nutzer auf Daumen hoch oder runter, darf die ganze Unterhaltung auch nach dem Opt-out genutzt werden. Die Consumer-Tarife von Claude bei Anthropic nutzen Chats für das Training, wenn der Nutzer die Modellverbesserung erlaubt. Ob Ihr Quellcode in einem Trainingsdatensatz landet, hängt also von einer Einstellung im Konto eines anderen ab.
Aufbewahrung, die Sie nicht steuern. Geschäftsdaten auf der Plattform von OpenAI werden innerhalb von 30 Tagen gelöscht, nachdem der Nutzer sie gelöscht hat, „sofern wir nicht gesetzlich zur Aufbewahrung verpflichtet sind“. Dieser letzte Halbsatz ist keine Floskel. Im Rechtsstreit mit der New York Times verpflichtete ein Gerichtsbeschluss OpenAI vom Juni 2025 bis zum 26. September 2025, Inhalte aus Consumer-ChatGPT und der Standard-API aufzubewahren, die sonst gelöscht worden wären. Kunden von ChatGPT Enterprise und Edu sowie API-Kunden mit Zero Data Retention waren nicht betroffen.
Kein Vertrag. Rechtlich wiegt das am schwersten. Nach der DSGVO muss ein Unternehmen, das einen Anbieter personenbezogene Daten verarbeiten lässt, einen Auftragsverarbeiter wählen, der „hinreichende Garantien“ bietet, und einen verbindlichen Vertrag mit ihm schließen (Art. 28). Ein Leistungserbringer im US-Gesundheitswesen braucht ein Business Associate Agreement. Das private Konto eines Mitarbeiters hat weder das eine noch das andere. Der Verstoß passiert also im Moment des Einfügens, egal ob danach je etwas abfließt.
Keine Aufzeichnungen. Regulierte Unternehmen müssen geschäftliche Kommunikation überwachen und archivieren. Ein Chat in einem privaten Konto liegt außerhalb jedes Archivs, das die Compliance-Abteilung betreibt.
Die Regeln, die 2026 gelten
DSGVO
Personenbezogene Daten von Kunden oder Mitarbeitern in der EU in einem Prompt sind eine Verarbeitung. Sie braucht eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag nach Art. 28 und für jede Übermittlung außerhalb der EU einen rechtlichen Weg. Für US-Anbieter ist das EU-US Data Privacy Framework weiterhin gültig: Das Gericht der EU hat die Klage Latombe am 3. September 2025 abgewiesen (Rechtssache T-553/23). Ein Rechtsmittel ist beim Gerichtshof als C-703/25 P anhängig. Behalten Sie das im Blick.
Aufsichtsbehörden sind direkt gegen Chat-Dienste vorgegangen. Die italienische Datenschutzbehörde Garante sperrte ChatGPT Ende März 2023 vorübergehend und verhängte im Dezember 2024 ein Bußgeld von 15 Millionen € gegen OpenAI: wegen der Verarbeitung personenbezogener Daten zum Training von ChatGPT ohne ausreichende Rechtsgrundlage, einer nicht gemeldeten Datenpanne vom März 2023, mangelnder Transparenz und fehlender Altersprüfung. OpenAI nannte das Bußgeld unverhältnismäßig und kündigte Rechtsmittel an.
HIPAA
Jeder Dienst, der für eine Covered Entity elektronische geschützte Gesundheitsdaten empfängt, speichert oder überträgt, ist ein Business Associate und braucht ein unterschriebenes BAA. Das US-Gesundheitsministerium HHS stellt klar, dass auch ein Cloud-Anbieter, der nur verschlüsselte Daten hält und keinen Schlüssel hat, ein Business Associate ist. OpenAI gibt an, für seine API BAAs unterzeichnen zu können. Das private ChatGPT-Konto eines Arztes kommt ohne jedes BAA.
Finanzdienstleistungen
Die Regulatory Notice 24-09 der FINRA (27. Juni 2024) sagt, dass ihre Regeln für generative KI gelten, „genauso wie sie gelten, wenn Mitgliedsfirmen jede andere Technologie oder jedes andere Tool nutzen“. Aufsicht, Kommunikation mit der Öffentlichkeit und Aufbewahrungspflichten gelten weiter. Die meisten Einschränkungen der Banken von 2023 folgten genau daraus.
KI-Verordnung der EU
Die KI-Verordnung ist am 1. August 2024 in Kraft getreten. Die Verbote untersagter Praktiken und die Pflicht zur KI-Kompetenz gelten seit dem 2. Februar 2025, die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck seit dem 2. August 2025. Die Änderung durch den AI-Omnibus, Verordnung (EU) 2026/1744, wurde am 24. Juli 2026 veröffentlicht und trat am 27. Juli 2026 in Kraft. Sie hat die Hochrisiko-Fristen verschoben: auf den 2. Dezember 2027 für eigenständige Hochrisiko-Systeme, zu denen KI in der Personalauswahl wie das Sortieren von Lebensläufen gehört, und auf den 2. August 2028 für KI in regulierten Produkten. Die Transparenzpflichten nach Artikel 50 gelten planmäßig seit dem 2. August 2026, und die Pflicht zur KI-Kompetenz wurde zu einer Pflicht abgeschwächt, Maßnahmen zu ihrer „Unterstützung“ zu ergreifen.
Für ein Unternehmen, das einen Chat-Assistenten zum Entwerfen von E-Mails nutzt, ändert die KI-Verordnung wenig. Fängt derselbe Assistent an, Bewerber zu bewerten, betreiben Sie ein Hochrisiko-System, und für Sie gilt der Termin im Dezember 2027.
Was die Business-Tarife versprechen
Jeder große Anbieter verkauft inzwischen einen Business-Tarif mit anderen Voreinstellungen als die Consumer-App. Die Tabelle fasst zusammen, was die Seiten der Anbieter selbst im September 2026 sagen.
| Angebot | Standardmäßig Training mit Ihren Daten? | Aufbewahrung und Kontrolle | Compliance |
|---|---|---|---|
| ChatGPT Free, Plus, Pro | Möglich, außer der Nutzer widerspricht | Pro Nutzerkonto | Kein Vertrag mit dem Unternehmen |
| ChatGPT Business, Enterprise, Edu | Nein | Workspace-Admins legen die Aufbewahrung fest | SOC 2 Type 2 für Enterprise und Business |
| OpenAI API | Nein | Löschung nach 30 Tagen; Zero Data Retention für geeignete Anwendungen | BAA verfügbar |
| Claude Team, Enterprise, API | Nein | Feedback kann bis zu 5 Jahre aufbewahrt werden; Inhaber können Feedback abschalten | Gewerbliche Bedingungen |
| Microsoft 365 Copilot und Copilot Chat | Nein, kein Training von Foundation Models | Ihre Aufbewahrungsrichtlinien, Labels und Audits gelten | AVV, EU Data Boundary (ohne Modelle von Anthropic) |
| Gemini in Google Workspace | Ohne Erlaubnis kein Training außerhalb Ihrer Domain | Bestehende Workspace-Kontrollen gelten | HIPAA-Unterstützung, FedRAMP High |
Die Modell-Endpunkte in den großen Clouds gehen weiter. Microsoft schreibt, dass Prompts und Antworten für Modelle, die Azure in Microsoft Foundry verkauft, „OpenAI und anderen Anbietern NICHT zugänglich“ sind und in der gewählten Region verarbeitet werden, sofern Sie kein Global- oder DataZone-Deployment wählen. Bei Amazon Bedrock laufen die Modelle in Deployment-Konten, auf die die Modellanbieter keinen Zugriff haben. Sie sehen Ihre Prompts und Antworten also nie.
Was ein Business-Tarif nicht ändert: Der Text liegt weiter auf den Servern des Anbieters, so lange die Aufbewahrungsregeln es zulassen, und ein Gerichtsbeschluss kann ihn weiterhin erreichen. Das ist dasselbe Vertrauen, das Sie schon Ihren E-Mail- und Dokumentenanbietern entgegenbringen. Für die meiste interne Arbeit ist das ein vernünftiger Tausch. Für Geschäftsgeheimnisse, regulierte Daten ohne BAA oder Material, das ein Kundenvertrag nicht an Unterauftragsverarbeiter gehen lässt, vielleicht nicht.
Wohin Ihr Prompt bei jeder Option geht
Ehrlich vergleichen lassen sich die Optionen, wenn man einem Prompt folgt und fragt, wer ihn lesen kann.
Offene Modelle selbst betreiben
Die stärkste Option für vertrauliche Daten ist auch die aufwendigste: ein offenes Modell (Llama, Qwen, Mistral, Gemma und andere) herunterladen und auf Rechnern im eigenen Netzwerk betreiben. Prompts verlassen das Netzwerk nie. Sie entscheiden, was protokolliert wird und wie lange. Das macht es leichter, Aufbewahrungspflichten und die Speicherregeln der DSGVO einzuhalten, und keine fremde Aufbewahrungsklausel und kein Gerichtsbeschluss berührt die Daten.
Die Kosten sind allerdings real. Sie betreiben jetzt einen Inferenzdienst: GPUs, eine Engine wie Ollama oder vLLM, Authentifizierung, Logging, Updates und jemanden in Rufbereitschaft. Und ein 8B- oder 14B-Modell, das auf eine einzelne Workstation-Karte passt, ist bei langen Denkketten schwächer als ein Frontier-Modell. Für Klassifizieren, Extrahieren von Feldern, Zusammenfassen interner Dokumente und das Entwerfen von Routinetexten reicht es meist. Testen Sie es an Ihren eigenen Aufgaben, bevor Sie entscheiden. Unser Benchmark Ollama vs. vLLM vs. TGI behandelt die Wahl der Engine, und die Anleitung zum privaten LLM-Fine-Tuning zeigt, wie Sie ein Modell an Ihre Dokumente anpassen.
Viele Firmen gehen einen Mittelweg: Sie betreiben das offene Modell auf GPU-Instanzen in dem Cloud-Konto, das sie ohnehin haben. Der Cloud-Anbieter ist dann Auftragsverarbeiter unter einem AVV, den Sie für alles andere schon ausgehandelt haben, und ein Modellanbieter ist gar nicht beteiligt.
Wo gemietete GPUs und GPUFlow hingehören
GPU-Marktplätze sind das günstige Ende des Markts, und in diesen Vergleich gehören sie nur mit einem klaren Etikett.
GPUFlow ist einer davon. Sie mieten eine GPU für eine bestimmte Zahl von Stunden und bekommen einen OpenAI-kompatiblen API-Schlüssel für das offene Modell, das der Anbieter darauf betreibt, meist mit Ollama. Das Modell läuft auf dem eigenen Computer des Anbieters. Ihre Prompts und die Antworten laufen also während der Miete im Klartext über diesen Rechner. Die Nutzungsbedingungen von GPUFlow verbieten Anbietern, Anfragen oder Antworten von Mietern aufzuzeichnen, zu lesen, aufzubewahren oder weiterzugeben, und GPUFlow selbst speichert den Text nicht. Aber der Anbieter hat Root-Rechte auf dem Rechner, und das Aufzeichnungsverbot wird per Vertrag durchgesetzt; technisch hindert ihn nichts.
GPUFlow ist also nicht die Lösung für regulierte oder vertrauliche Daten. Schicken Sie keine Kundendatensätze, keine Gesundheitsdaten, keinen Quellcode, der Ihnen wichtig ist, und nichts, was ein Kundenvertrag einschränkt. Unsere eigene Doku sagt es noch deutlicher: Senden Sie keine Passwörter, Kartennummern oder andere Geheimnisse, die Sie keinem Fremden geben würden.
Wo es passt: ein offenes Modell auf echter Hardware ausprobieren, bevor Sie eine Karte kaufen, Prompts über öffentliche oder synthetische Daten laufen lassen und eine App gegen eine OpenAI-kompatible API bauen und testen, bevor Sie sie auf Ihren eigenen Server umstellen. Community-Cloud-Rechner auf anderen Marktplätzen werfen dieselbe Frage für alles auf, was Sie hochladen; Einen Datensatz auf einem öffentlichen GPU-Knoten absichern behandelt diese Seite.
Eine Richtlinie, an die sich die Leute auch halten
Ein pauschales Verbot ohne Alternative verlagert die Nutzung vor allem auf private Handys, wo Sie noch weniger sehen. Besser funktioniert etwas, das kurz genug ist, um es sich zu merken:
| Datenklasse | Beispiele | Erlaubte Tools |
|---|---|---|
| Öffentlich | Veröffentlichte Dokumente, Marketingtexte | Jedes freigegebene Tool, auch Consumer-Apps |
| Intern | Richtlinien, interne Wikis, unkritischer Code | Business-Tarife mit AVV und abgeschaltetem Training |
| Vertraulich | Kundendaten, Geschäftsgeheimnisse, Vertragskonditionen | Cloud-Endpunkt in Ihrem Tenant oder selbst betrieben |
| Reguliert | Gesundheitsdaten, Kartendaten, personenbezogene Daten in großem Umfang | Selbst betrieben oder ein Anbieter mit der passenden Vereinbarung (BAA, AVV) |
Dann kommen die unspektakulären Teile:
- Kaufen Sie einen Business-Tarif oder einen Cloud-Endpunkt und machen Sie ihn zum Standard, mit Single Sign-on, damit Konten geschlossen werden, wenn Leute gehen.
- Stellen Sie die Aufbewahrung auf den kürzesten Zeitraum, der Ihre Aufbewahrungspflichten erfüllt, und prüfen Sie in der Admin-Konsole, dass das Training abgeschaltet ist.
- Sperren Sie Consumer-KI-Chats auf verwalteten Geräten erst, wenn das freigegebene Tool läuft.
- Führen Sie ein Verzeichnis der KI-Anwendungen. Alles, was Personalauswahl, Kreditvergabe oder ähnliche Entscheidungen berührt, braucht vor Dezember 2027 eine eigene Prüfung.
- Sagen Sie den Leuten, was sie stattdessen tun sollen, nicht nur, was sie lassen sollen. Das Memo bei Samsung kam, nachdem die Daten schon weg waren.
Zu den laufenden Kosten von Selbstbetrieb im Vergleich zu Diensten mit Abrechnung pro Token siehe GPU pro Stunde oder API pro Token?.
Quellen
- Einschränkung und Umfrage bei Samsung: CNBC, 2. Mai 2023; Details zu den Vorfällen: The Register, 2. Mai 2023
- Apple und andere Unternehmen: TechCrunch, 19. Mai 2023
- LLM Suite von JPMorgan: Technologie-Blog von JPMorganChase, 3. Juni 2025
- Business-Bedingungen von OpenAI: Enterprise-Datenschutz; Trainingseinstellungen für Consumer: Wie Ihre Daten zur Verbesserung der Modelle genutzt werden
- Aufbewahrungsanordnung im NYT-Verfahren: OpenAI, Antwort auf die Datenforderungen der NYT
- Anthropic: Geschäftliche Daten und Training, Consumer-Daten und Training
- Microsoft: Enterprise-Datenschutz in Microsoft 365 Copilot und Copilot Chat, Daten, Datenschutz und Sicherheit für Foundry-Modelle, die Azure verkauft
- Google: Privacy Hub zu generativer KI in Google Workspace
- AWS: Datenschutz in Amazon Bedrock
- Art. 28 DSGVO: gdpr-info.eu
- Urteil zum Data Privacy Framework: Jones Day, September 2025; Rechtsmittel: Digital Policy Alert
- Bußgeld der Garante: The Hacker News, Dezember 2024
- HIPAA und Cloud-Anbieter: HHS, Leitfaden zu HIPAA und Cloud Computing
- FINRA: Regulatory Notice 24-09
- KI-Verordnung der EU: Europäische Kommission, KI-Verordnung; Omnibus: White & Case, EU-AI-Omnibus tritt in Kraft
- GPUFlow: API-Schnellstart, Worauf Mieter zugreifen können und worauf nicht, Nutzungsbedingungen, Datenschutzerklärung
Alle geprüft im September 2026.