Welche KI ist DSGVO-konform? Die sieben Punkte, die Sie prüfen müssen

Kein KI-Werkzeug ist von sich aus DSGVO-konform. „DSGVO-konform“ ist keine Eigenschaft eines Produkts, sondern eines Einsatzes: derselbe Dienst kann in einem Unternehmen zulässig und im nächsten ein Verstoß sein. Verantwortlich bleiben immer Sie, nicht der Anbieter.

Dieser Beitrag nennt die sieben Punkte, an denen sich das entscheidet, und die zwei Wege, die wir im Mittelstand empfehlen.

Wir sind Softwareentwickler und KI-Berater, keine Rechtsanwälte. Dieser Beitrag ist eine Einordnung aus der Praxis, keine Rechtsberatung. Für die Bewertung Ihres Falls holen Sie Ihren Datenschutzbeauftragten dazu.

Die sieben Punkte, die Sie prüfen müssen

1. Vertrag zur Auftragsverarbeitung. Ohne diesen Vertrag (Artikel 28 DSGVO) dürfen Sie personenbezogene Daten nicht an einen Dienst geben. Prüffrage: Gibt es ihn, gilt er automatisch mit den Geschäftsbedingungen, und sind die EU-Standardvertragsklauseln enthalten?

2. Training mit Ihren Daten. Werden Ihre Eingaben zum Training verwendet? Bei den kostenpflichtigen Schnittstellen der großen Anbieter lautet die Antwort heute meist nein, bei kostenlosen Verbraucher-Konten oft ja. Das ist der wichtigste Unterschied zwischen „der Mitarbeiter nutzt das privat“ und „das Unternehmen nutzt das“.

3. Speicherdauer. Wie lange liegen Eingaben und Antworten beim Anbieter? Lässt sich das abschalten oder verkürzen? Für Protokolle gilt dasselbe wie für jede andere Datenverarbeitung: so kurz wie möglich.

4. Ort der Verarbeitung. Wo läuft die Berechnung, wo liegen die Daten? Das ist der Punkt, an dem die meisten Einschätzungen zu optimistisch sind — siehe unten.

5. Unterauftragsverarbeiter. Wer steht noch dahinter? Ein Anbieter, der selbst drei weitere Dienste nutzt, vererbt Ihnen drei weitere Prüfungen.

6. Betroffenenrechte. Können Sie Auskunft geben und löschen, wenn jemand es verlangt? Wenn Eingaben irgendwo unauffindbar liegen, können Sie das nicht.

7. Welche Daten Sie überhaupt hineingeben. Der wirksamste Punkt und der einzige, der vollständig in Ihrer Hand liegt. Eine Anfrage ohne Namen, Kundennummer und Adresse ist datenschutzrechtlich ein anderer Vorgang als dieselbe Anfrage mit.

Der Punkt, der am häufigsten falsch eingeschätzt wird: der Ort

„Der Anbieter hat einen AV-Vertrag, also bleiben die Daten in Europa“ — dieser Schluss ist falsch.

Konkret am Beispiel, das wir selbst einsetzen: Anthropic (Claude) schließt den Vertrag zur Auftragsverarbeitung mit EU-Standardvertragsklauseln automatisch mit den Geschäftsbedingungen ab und trainiert nicht mit den Daten aus der Schnittstelle. Aber: Anthropic selbst bietet keine EU-Datenresidenz an, die Speicherung liegt in den USA, und der Parameter für die Region kennt nur „global“ und „USA“.

Wer die Verarbeitung in Europa braucht, geht deshalb über einen Cloud-Anbieter: Claude läuft über Amazon Bedrock in EU-Regionen, unter anderem Frankfurt, Irland, Paris und Stockholm. Dann ist Amazon Ihr Auftragsverarbeiter, der Vertrag besteht dort, und die Verarbeitung bleibt in der gewählten Region. Dasselbe gilt für Google Vertex in EU-Regionen.

Das ist kein Haar in der Suppe, sondern der Unterschied zwischen einer Einschätzung, die bei einer Prüfung hält, und einer, die nicht hält.

Die zwei Wege, die wir im Mittelstand empfehlen

Weg 1: Anthropic (Claude) über die Schnittstelle, bei Bedarf über eine EU-Region. Für die meisten Aufgaben ausreichend und schnell einsatzfähig. Vertrag zur Auftragsverarbeitung mit EU-Klauseln, kein Training mit Ihren Daten, Protokollierung konfigurierbar. Wenn der Ort der Verarbeitung eine Rolle spielt, betreiben wir es über Amazon Bedrock in Frankfurt statt direkt.

Weg 2: Offene Modelle auf eigener Infrastruktur in Deutschland oder der EU. Die Daten verlassen Ihr Haus nicht. Kein Drittlandtransfer, keine Unterauftragsverarbeiter, keine Diskussion über Trainingsverzicht — es gibt niemanden, der trainieren könnte. Der Preis: Sie brauchen Hardware oder einen EU-Hoster, jemanden für den Betrieb, und die Modelle sind bei den schwersten Aufgaben noch etwas schwächer als die großen kommerziellen. Für Zusammenfassen, Einsortieren, Extrahieren und Antworten aus eigenen Dokumenten reicht die Qualität längst.

Welcher Weg, hängt an der Datenart:

Daten im Vorgang	Empfehlung
Öffentliche Inhalte, Produkttexte, Marketing	Weg 1, ohne besondere Auflagen
Interne Dokumente ohne Personenbezug	Weg 1
Kundendaten, Bestellungen, Service-Verläufe	Weg 1 über EU-Region, mit Pseudonymisierung
Personaldaten, Bewerbungen	Weg 2, und Vorsicht: das ist oft ein Hochrisiko-Bereich der EU-KI-Verordnung
Gesundheits-, Mandanten-, Konstruktionsdaten	Weg 2

Was wir nicht empfehlen

• Kostenlose Verbraucher-Konten für Arbeitsdaten. Kein AV-Vertrag, Training meist eingeschlossen. Genau das passiert aber gerade in fast jedem Unternehmen, ohne dass es jemand entschieden hat.
• KI-Funktionen in vorhandener Software, bei denen niemand sagen kann, wohin die Daten gehen. Fragen Sie Ihren Anbieter schriftlich, welches Modell er nutzt und wo es läuft. Wer darauf nicht antwortet, hat die Antwort schon gegeben.
• Werkzeuge ohne Vertrag zur Auftragsverarbeitung. Egal wie gut sie sind.

Drei Dinge, die in der Praxis mehr bringen als die Anbieterwahl

1. Pseudonymisieren, bevor etwas das Haus verlässt. Namen, Nummern und Adressen durch Platzhalter ersetzen und nach der Antwort zurücktauschen. Technisch einfach, rechtlich der größte Hebel.
2. Nur die Daten mitgeben, die die Aufgabe braucht. Ein Modell, das den Lieferstatus formulieren soll, braucht nicht die Zahlungsdaten.
3. Eine Richtlinie, die alle kennen. Welche Werkzeuge erlaubt sind und welche Daten nie hineingehören. Das ist ohnehin Pflicht — siehe KI-Schulung für Mitarbeiter: Pflicht nach Artikel 4.

Was Sie heute tun können

• Fragen Sie im Team offen, welche KI-Werkzeuge genutzt werden. Ohne Drohung, sonst bekommen Sie keine ehrliche Liste.
• Prüfen Sie für jedes genannte Werkzeug die Punkte 1 bis 3 von oben. Das sind je fünf Minuten in den Geschäftsbedingungen.
• Legen Sie fest, welche Daten gar nicht hineingehören. Ein Satz, der alle erreicht, ist mehr wert als ein Gutachten, das niemand liest.

Wenn Sie dabei Unterstützung wollen: Wir bauen KI-Systeme so, dass die Antwort auf die Frage „wo sind unsere Daten?“ dokumentiert vorliegt — als Teil der KI-Implementierung oder vorab in der KI-Beratung. Ein Erstgespräch kostet nichts: Kontakt.

Häufige Fragen

Ist ChatGPT oder Claude DSGVO-konform?

Die Frage ist so nicht zu beantworten. „DSGVO-konform" ist keine Eigenschaft eines Werkzeugs, sondern eines Einsatzes. Entscheidend sind Vertrag zur Auftragsverarbeitung, Ort der Verarbeitung, Trainingsverzicht, Speicherdauer und die Frage, welche Daten Sie überhaupt hineingeben. Dasselbe Werkzeug kann im einen Unternehmen zulässig und im anderen ein Verstoß sein.

Welche KI empfehlt ihr für den Mittelstand?

Für die meisten Fälle die Modelle von Anthropic (Claude) über die Schnittstelle: Vertrag zur Auftragsverarbeitung inklusive EU-Standardvertragsklauseln, kein Training mit Ihren Daten, und über Amazon Bedrock in einer EU-Region betreibbar. Für besonders sensible Daten offene Modelle auf eigener Infrastruktur in Deutschland oder der EU — dann verlassen die Daten Ihr Haus nicht.

Bleiben die Daten in der EU?

Nur wenn Sie es so einrichten. Anthropic selbst bietet keine EU-Datenresidenz an; die Speicherung liegt in den USA. Der verlässliche Weg führt über Amazon Bedrock oder Google Vertex in einer EU-Region: dort ist der Cloud-Anbieter Ihr Auftragsverarbeiter, und die Verarbeitung bleibt in der gewählten Region, zum Beispiel Frankfurt.

Wann lohnt sich ein eigenes Modell auf eigenen Servern?

Wenn Sie mit Gesundheits-, Personal-, Mandanten- oder Konstruktionsdaten arbeiten, bei denen jede Übermittlung an Dritte eine eigene Rechtfertigung braucht. Der Preis dafür: mehr Betriebsaufwand und etwas schwächere Modelle als die großen kommerziellen. Für die meisten Aufgaben im Mittelstand reicht die Qualität offener Modelle inzwischen.