Wer KI im Unternehmen einsetzt, verarbeitet schneller personenbezogene Daten als gedacht: in E-Mails, Verträgen, Support-Tickets oder Bewerbungen. Dafür gelten dieselben Pflichten wie bei jeder anderen Datenverarbeitung. Die Frage „Dürfen wir das?“ lässt sich nicht pauschal beantworten. Sie lässt sich entlang konkreter Artikel der DSGVO klären. Dieser Beitrag ordnet die Kriterien, an denen die Datenschutzzusage eines Anbieters hängt.
Auf einen Blick
- Ob eine KI-Anwendung zur DSGVO passt, folgt aus einer Architektur- und Vertragsentscheidung. Ein Modell bringt das nicht von sich aus mit.
- Fünf Kriterien entscheiden: Rechtsgrundlage, Auftragsverarbeitungsvertrag, eine tragfähige Antwort auf den Drittlandtransfer, Datenminimierung ohne stilles Nachtrainieren und technisch umsetzbare Betroffenenrechte.
- Ein Rechenzentrum in der EU ist notwendig und muss mit der Kontrolle über die Technik verbunden werden. Dazu zählt, wer den Zugriff auf Modell und Daten kontrolliert.
Warum eine Datenschutzzusage ohne Kriterien nichts belegt
Jeder Anbieter kann behaupten, seine KI sei rechtskonform. Ein Einkäufer, der die Aussage nicht prüfen kann, kauft eine Behauptung. Die fünf Kriterien unten sind die Punkte, an denen ein Datenschutzbeauftragter oder eine Rechtsberatung ansetzen würde. Sie ersetzen keine juristische Einzelfallprüfung und zeigen, worauf es ankommt.
| Nr. | Kriterium | Woran Sie es erkennen |
|---|---|---|
| 1 | Rechtsgrundlage (Art. 6) | Eine dokumentierte Interessenabwägung (Art. 6 Abs. 1 lit. f) oder eine freiwillige, informierte, widerrufbare Einwilligung. Eine pauschale „KI-Klausel“ in den AGB genügt nicht |
| 2 | Auftragsverarbeitung (Art. 28) | Ein Auftragsverarbeitungsvertrag mit jedem eingesetzten KI-Anbieter, der Weisungsbindung, Unterauftragsverarbeiter, technische Maßnahmen und Löschpflichten regelt |
| 3 | Drittlandtransfer (Art. 44 ff.) | Eine tragfähige Antwort darauf, wessen Recht für den Anbieter gilt: Zertifizierung nach dem Data Privacy Framework, Standardvertragsklauseln mit zusätzlichen Schutzmaßnahmen oder Vermeidung durch Self-Hosting in der EU |
| 4 | Datenminimierung und Zweckbindung (Art. 5) | Keine stille Weiterverwendung von Eingaben für das Modelltraining ohne eigene Rechtsgrundlage, dazu nachvollziehbare Pseudonymisierung und Mandantentrennung |
| 5 | Betroffenenrechte (Art. 15 bis 21) | Eine technisch funktionierende Antwort auf ein Löschbegehren, über den Vertragstext hinaus |
Rechtsgrundlage und Auftragsverarbeitung
Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. In der Praxis kommen meist das berechtigte Interesse (Art. 6 Abs. 1 lit. f) oder die Einwilligung (lit. a) in Frage. Das berechtigte Interesse verlangt eine dokumentierte Abwägung gegen die Interessen der Betroffenen. Der Europäische Datenschutzausschuss hat dafür in seiner Stellungnahme 28/2024 zu KI-Modellen einen dreistufigen Test bestätigt. Eine pauschale KI-Klausel in den AGB trägt diese Last nicht.
Verarbeitet ein externer KI-Anbieter Daten in Ihrem Auftrag, wird er zum Auftragsverarbeiter. Dann braucht es eine Auftragsverarbeitungsvereinbarung nach Art. 28. Viele Cloud-Dienste bieten sie inzwischen an. Die eigentliche Schwachstelle liegt meist an anderer Stelle.
Der Drittlandtransfer
Sitzt der Anbieter in den USA oder gehört er zu einem US-Konzern, greift der Drittlandtransfer nach Art. 44 ff. Seit 2023 gibt es mit dem EU-US Data Privacy Framework wieder einen Angemessenheitsbeschluss, und Übermittlungen an dort zertifizierte Unternehmen sind grundsätzlich zulässig. Das Framework ist juristisch umstritten. Eine Klage dagegen hat das Gericht der EU 2025 abgewiesen, ein Rechtsmittel ist beim EuGH anhängig.
Das Kernproblem löst es nicht. Nach dem Schrems-II-Urteil genügen auch Standardvertragsklauseln allein nicht, wenn der Empfänger US-Recht unterliegt. Der US CLOUD Act und FISA 702 verpflichten US-kontrollierte Anbieter, Daten an Behörden herauszugeben, auch wenn die Server in Europa stehen. Weder das Framework noch Vertragsklauseln nehmen diese Zugriffsbefugnis weg. An dieser Stelle verlieren viele Angebote mit „EU-Region“ ihre Tragfähigkeit.
Datenresidenz in der EU sagt damit noch nichts darüber, wer die Technik kontrolliert. Ein Rechenzentrum in Frankfurt schützt nicht vor extraterritorialem Zugriff, wenn der Betreiber dem Recht eines Drittlands unterliegt. Ein sauberer Weg ist Self-Hosting: Offene Sprachmodelle mit selbst kontrollierten Gewichten laufen auf eigenen Servern in der EU. Beim Selbstbetrieb auf eigenen Servern in der EU verlassen die Daten die eigene Umgebung nicht, und der Drittlandtransfer lässt sich durch den Aufbau vermeiden. Mehr dazu im Artikel Datenresidenz und Souveränität.
Datenminimierung, Zweckbindung und kein stilles Nachtrainieren
Die Grundsätze aus Art. 5 gelten auch für KI. Verarbeitet werden dürfen nur Daten, die für den konkreten Zweck nötig sind (Datenminimierung), und nur für diesen Zweck (Zweckbindung). Ein häufiger Verstoß ist das stille Weitertrainieren von Modellen mit Kunden- oder Mitarbeiterdaten, das ohne eigene Rechtsgrundlage unzulässig ist. Bei selbst gehosteten Modellen entscheidet das Unternehmen selbst, ob, womit und wann trainiert oder feinjustiert wird. Bei vielen öffentlichen Cloud-Diensten bleibt es bei vertraglichen Zusagen.
Betroffenenrechte und die Löschung
Betroffene haben Anspruch auf Auskunft (Art. 15), Berichtigung (Art. 16), Löschung (Art. 17) und Widerspruch (Art. 21). Sind personenbezogene Daten in die Gewichte eines Modells eingeflossen, lässt sich eine einzelne Löschung praktisch kaum sauber durchführen. Das ist ein zentrales Risiko generativer Systeme.
Eine belegbasierte Architektur schwächt dieses Risiko ab. Das Wissen liegt in einer kontrollierten, durchsuchbaren Wissensbasis. Das Modell ruft es zur Laufzeit ab und belegt jede Aussage mit ihrer Quelle. Ein Löschbegehren wird an einer einzigen Stelle erfüllt: Der Datensatz verlässt die Wissensbasis, und die KI kann ihn nicht mehr zitieren. Wie die Prüfung der Belege technisch aussieht, beschreibt der Artikel RAG mit Beleg.
TOMs, Folgenabschätzung und der EU AI Act
Nach Art. 32 sind technische und organisatorische Maßnahmen Pflicht: Verschlüsselung, Zugriffskontrolle, Mandantentrennung, Protokollierung und ein Rollen- und Rechtekonzept. Bei Verarbeitungen mit voraussichtlich hohem Risiko verlangt Art. 35 eine Datenschutz-Folgenabschätzung vor dem Produktivbetrieb, und KI gilt dafür häufig als Kandidat. Parallel greift der EU AI Act, der KI-Systeme nach Risikoklassen reguliert und in Stufen anwendbar wird. DSGVO und AI Act gelten nebeneinander. Die Details finden Sie im Artikel EU AI Act im Mittelstand.
Der Rahmen wird eher dichter als lockerer. Wer heute eine Architektur aufsetzt, die Datenhoheit, Nachvollziehbarkeit und kontrollierte Löschung von Anfang an mitdenkt, muss später seltener nachrüsten. Den Gesamtzusammenhang zeigt die Seite zur souveränen Infrastruktur.