Zum Inhalt springen

Souveränität und Recht · 6 Min. Lesezeit · Stand: November 2026

ChatGPT im Unternehmen: Datenschutz klären

Im Unternehmen wird ChatGPT oft längst genutzt. Die Frage lautet, ob mit Kontrolle oder ohne. Wir zeigen, was vor dem Einsatz zu klären ist und welche Alternativen es gibt.

ChatGPT im Unternehmen einzusetzen ist Alltag, oft schneller, als Datenschutz und Compliance reagieren können. Die Produktivitätsgewinne sind real: Textentwürfe, Zusammenfassungen, Code, Übersetzungen. Sobald aber personenbezogene Daten, Kundeninformationen, Vertragsentwürfe oder Quellcode in ein Eingabefeld kopiert werden, wird aus der Produktivitätsfrage eine Datenschutzfrage mit konkreten Pflichten aus der DSGVO.

Auf einen Blick

  • Kostenlose Konten und ChatGPT Plus dürfen Eingaben standardmäßig zum Modelltraining nutzen. ChatGPT Business und Enterprise bieten bessere vertragliche Bedingungen und lösen die Frage der Rechtsordnung trotzdem nicht.
  • Der US CLOUD Act verpflichtet US-Anbieter auf behördliche Anordnung zur Herausgabe von Daten, gleich ob die Server in den USA oder in Europa stehen. Kein Vertrag hebt das auf.
  • Das größte praktische Risiko ist Schatten-KI, also die ungesteuerte Nutzung durch Mitarbeitende.

Was mit den eigenen Daten passiert

Den größten Unterschied macht der Tarif. Bei kostenlosen Konten und ChatGPT Plus dürfen Eingaben standardmäßig zur Verbesserung der Modelle verwendet werden, die Einstellung ist von Haus aus aktiv. Ein Opt-out existiert. Das Unternehmen trägt aber die Verantwortung, ihn für jede Person richtig zu setzen, und ein vergessener Haken kann ein Datenschutzvorfall sein.

Bei ChatGPT Business und Enterprise sieht es deutlich besser aus. Eingaben werden vertraglich nicht für das Training genutzt, es gibt Optionen zur Aufbewahrung, Administrationsfunktionen und einen Auftragsverarbeitungsvertrag. Zwei Punkte bleiben. Daten werden weiterhin technisch verarbeitet (Inferenz, Missbrauchserkennung, befristete Aufbewahrung). Und kein Tarif ändert die Rechtsordnung, der der Anbieter unterliegt.

CLOUD Act, Schrems II und der Drittlandtransfer

Jede Verarbeitung personenbezogener Daten durch einen US-Anbieter ist ein Drittlandtransfer im Sinne von Art. 44 ff. DSGVO. Seit dem Schrems-II-Urteil des EuGH genügt der Verweis auf Standardvertragsklauseln nicht mehr. Es braucht eine Prüfung und gegebenenfalls zusätzliche Schutzmaßnahmen. Das EU-US Data Privacy Framework von 2023 entschärft die Lage formal. Es ist juristisch umstritten und bietet deshalb reale, aber vorläufige Verlässlichkeit.

Darüber liegt der US CLOUD Act. Er verpflichtet US-Anbieter, Daten in ihrem Besitz, Gewahrsam oder unter ihrer Kontrolle auf behördliche Anordnung herauszugeben, gleich ob die Server in den USA oder in Europa stehen. Maßgeblich ist der Sitz des Anbieters. Diese Reichweite lässt sich vertraglich nicht vollständig ausschließen. Wie Standort und Kontrolle zusammenhängen, erklärt der Artikel Datenresidenz und Souveränität.

Vertrag, Mitbestimmung und Schatten-KI

Selbst wenn Sie die Rechtsordnung akzeptieren, bleiben Pflichten. Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist Voraussetzung, und bei Tarifen für Privatpersonen gibt es ihn nicht. In Deutschland kommt oft die Mitbestimmung hinzu. Kann ein KI-Werkzeug Mitarbeitende überwachen oder ihre Leistung bewertbar machen, greift in der Praxis häufig § 87 BetrVG, und der Betriebsrat ist zu beteiligen. Eine Betriebsvereinbarung zur KI-Nutzung schafft Klarheit für beide Seiten.

Schatten-KI entsteht, wenn Mitarbeitende mangels offizieller Lösung private Konten nutzen und dabei vertrauliche Inhalte eingeben. Wie verbreitet das ist, zeigt eine Befragung unter Kanzleien. Der Benchmark-Bericht 2026 von Wolters Kluwer stützt sich auf die Antworten von 99 deutschen Kanzleien (von 633 europaweit Befragten). Danach setzen 63,3 Prozent der deutschen Kanzleien KI im Tagesgeschäft ein. 82,5 Prozent davon nutzen generische Werkzeuge wie ChatGPT, ohne zentrale Steuerung. Die Stichprobe wurde über den Anbieter selbst gewonnen und ist deshalb kein repräsentativer Querschnitt aller Kanzleien. Sie zeigt trotzdem, dass die Nutzung real und verbreitet ist, bevor ein Unternehmen entscheidet, ob sie erlaubt sein soll.

Ein generelles Verbot treibt die Nutzung in den Untergrund. Hilfreich ist eine offizielle, sichere Alternative, die mindestens so gut ist wie das Werkzeug, das heimlich genutzt wird.

Die souveräne Alternative

Hier setzt ein selbst oder von einem Partner betriebenes Angebot an. Leistungsfähige offene Sprachmodelle laufen auf eigenen oder in Deutschland gehosteten Servern. Technisch übernimmt eine Inferenz-Software wie vLLM den Betrieb, davor sitzt ein Gateway mit einer Schnittstelle, die der von Cloud-Diensten gleicht. Anwendungen sprechen es an wie einen Cloud-Dienst. Bei reinem Selbstbetrieb ohne externe Dienste verlassen Eingaben die eigene Umgebung nicht. Wie das technisch funktioniert, beschreibt der Artikel Eigene Sprachmodelle betreiben.

Den Produktivitätsgewinn im Unternehmen liefert selten das Modell allein. Entscheidend ist der Zugriff auf eigenes Wissen über eine belegbasierte Architektur, die Antworten aus Ihren Dokumenten mit Quelle liefert. Wie das aussieht, zeigt der Artikel RAG mit Beleg und das Archivprodukt RETRAYA. Eine selbst gehostete Lösung gibt es nicht zum Nulltarif. Sie braucht Infrastruktur, Betrieb und Modellpflege. Dafür entfällt beim reinen Selbstbetrieb der Drittlandtransfer, weil die Daten die eigene Umgebung nicht verlassen.

Das hilft und worauf Sie achten sollten

Das hilft

  • Klären, welche Datenklassen überhaupt in ein KI-Werkzeug dürfen, und das in einer Richtlinie festhalten.
  • Bei jedem Anbieter den Auftragsverarbeitungsvertrag abschließen und die Drittlandfrage dokumentieren.
  • Betriebsrat und Datenschutzbeauftragte früh einbinden.
  • Für vertrauliche, regulierte oder geschäftskritische Daten eine selbst gehostete Umgebung wählen.

Worauf Sie achten sollten

  • Personenbezogene und vertrauliche Daten gehören nur in Konten mit Auftragsverarbeitungsvertrag.
  • Das EU-US Data Privacy Framework sollte nicht die alleinige und dauerhafte Rechtsgrundlage sein, deshalb Alternativen mitplanen.
  • Schatten-KI gehört in Ihre Regeln für erlaubte Werkzeuge.
  • Server in Europa schließen den Zugriff nach dem CLOUD Act nicht automatisch aus.

Die Begründung zum Gesamtbild finden Sie auf der Seite zur souveränen Infrastruktur.

Häufige Fragen

Lässt sich ChatGPT im Unternehmen datenschutzgerecht nutzen?

Das kann sein, ist aber nicht automatisch der Fall. Kostenlose und Plus-Konten sind für personenbezogene oder vertrauliche Daten ungeeignet, weil ein Auftragsverarbeitungsvertrag fehlt. ChatGPT Business und Enterprise bieten bessere Bedingungen, doch der Drittlandtransfer nach Art. 44 ff. DSGVO bleibt ein Restrisiko. Die verbindliche Beurteilung gehört zu einem Datenschutzbeauftragten oder einer Rechtsberatung.

Warum ist ChatGPT Enterprise trotz Vertrag nicht vollständig souverän?

Weil kein Vertrag die Rechtsordnung ändert. Ein US-Anbieter unterliegt US-Recht und damit dem CLOUD Act, der die Herausgabe von Daten an US-Behörden verlangen kann, unabhängig vom Serverstandort.

Wie verbreitet ist die ungesteuerte Nutzung von KI-Werkzeugen?

Eine Befragung unter 99 deutschen Kanzleien ergab: 63,3 Prozent nutzen KI im Tagesgeschäft, und 82,5 Prozent davon setzen generische Werkzeuge ohne zentrale Steuerung ein. Die Stichprobe ist nicht repräsentativ für alle Branchen, sie zeigt aber ein reales, verbreitetes Muster.

Was ist die souveräne Alternative zu ChatGPT für Unternehmen?

Selbst gehostete offene Sprachmodelle, betrieben über eine Inferenz-Engine wie vLLM hinter einem Gateway mit cloudkompatibler Schnittstelle, ergänzt um eine belegbasierte Architektur für den Zugriff auf eigenes Wissen. Das erfordert eigene Infrastruktur und Pflege. Beim reinen Selbstbetrieb entfällt der Drittlandtransfer, weil die Daten die eigene Umgebung nicht verlassen.

Fragen zum Datenschutz Ihres KI-Einsatzes?

Wir besprechen mit Ihnen, welche Eingaben wohin gehen und welche Alternativen zu Ihren Daten passen.