Zum Hauptinhalt springen
Ratgeber für Datenschutz, IT und Einkauf

DSGVO-konforme KI im Unternehmen: die Prüfliste

Kein KI-Werkzeug ist von sich aus „DSGVO-konform“. Konform ist erst der Einsatz: mit Rechtsgrundlage, Auftragsverarbeitungsvertrag, geklärtem Drittlandtransfer, Löschkonzept und, wo nötig, Datenschutz-Folgenabschätzung. Seit 2025 kommt die EU-KI-Verordnung hinzu, in Betrieben mit Betriebsrat die Mitbestimmung. Diese Prüfliste ordnet alle Punkte, die Datenschutz, IT und Einkauf vor der Freigabe eines KI-Tools klären sollten, und zeigt sie am Beispiel eines KI-Notetakers.

01

Was „DSGVO-konforme KI“ wirklich bedeutet

Die DSGVO kennt kein Siegel für Software. Verantwortlich für die Verarbeitung ist das Unternehmen, das ein KI-Werkzeug einsetzt (Art. 4 Nr. 7 DSGVO). Der Anbieter verarbeitet die Daten in aller Regel als Auftragsverarbeiter. „DSGVO-konforme KI“ heißt deshalb: Das Werkzeug lässt einen rechtmäßigen Einsatz technisch und vertraglich zu, und das Unternehmen setzt es entsprechend ein.

Prüfen musst du dafür zwei Ebenen: den Anbieter (Vertrag, Datenstandort, Sicherheit, Training mit Kundendaten) und den eigenen Einsatz (Zweck, Rechtsgrundlage, Information der Betroffenen, Löschung, Mitbestimmung). Die Prüfliste unten folgt dieser Reihenfolge.

02

Die Datenschutz-Prüfpunkte nach DSGVO

Diese acht Punkte gehören in jede Freigabe eines KI-Werkzeugs, das personenbezogene Daten verarbeitet:

  • Zweck und Rechtsgrundlage (Art. 5 Abs. 1 lit. b, Art. 6 DSGVO): Wofür genau wird das Werkzeug genutzt, und stützt ihr das auf Vertrag, berechtigtes Interesse oder Einwilligung? Für Beschäftigtendaten zusätzlich Art. 88 DSGVO beachten
  • Auftragsverarbeitungsvertrag (Art. 28 DSGVO) mit Liste der Unterauftragsverarbeiter
  • Drittlandtransfer (Art. 44 ff. DSGVO): Wo werden Daten verarbeitet, und auf welcher Grundlage gehen sie in Länder außerhalb des EWR?
  • Training: Werden eure Eingaben, Aufnahmen oder Dokumente zum Training von KI-Modellen genutzt? Das gehört vertraglich ausgeschlossen
  • Technische und organisatorische Maßnahmen (Art. 32 DSGVO): Verschlüsselung, Zugriffskontrolle, Zwei-Faktor-Authentifizierung, Single Sign-on, Prüfprotokolle, Nachweise wie ISO 27001
  • Transparenz (Art. 13 DSGVO): Betroffene, etwa Gesprächsteilnehmer, müssen wissen, dass und wozu ihre Daten verarbeitet werden
  • Speicherbegrenzung (Art. 5 Abs. 1 lit. e, Art. 17 DSGVO): Löschfristen festlegen und technisch umsetzen
  • Datenschutz-Folgenabschätzung (Art. 35 DSGVO), wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt, etwa bei systematischer Auswertung von Beschäftigten oder besonders sensiblen Daten

03

US-Anbieter: Data Privacy Framework und was es nicht löst

Für Übermittlungen in die USA gibt es seit Juli 2023 den Angemessenheitsbeschluss zum EU-US Data Privacy Framework (Durchführungsbeschluss (EU) 2023/1795). Er gilt nur für US-Unternehmen, die sich danach zertifiziert haben. Das Gericht der EU hat eine Nichtigkeitsklage dagegen am 3. September 2025 abgewiesen (Rs. T-553/23, Latombe).

Der Beschluss regelt die Übermittlung, nicht den Zugriff von US-Behörden auf Daten bei US-Konzernen, auch wenn deren Server in Europa stehen. Diese Frage, die sich am US CLOUD Act festmacht, und ein Vergleich gängiger Transkriptionsanbieter stehen in unserem Ratgeber zur DSGVO-konformen Transkription. Prüfe deshalb auch die Liste der Unterauftragsverarbeiter: Viele europäische Anbieter, auch Klang, setzen für einzelne Dienste Unternehmen mit US-Bezug ein, in der EU-Region und ohne Datenspeicherung bei den KI-Anbietern. Wer mehr Kontrolle braucht, fragt nach einer eigenen Umgebung mit eigenem Schlüssel oder nach dem Betrieb im eigenen Rechenzentrum.

04

Die KI-Verordnung: was schon gilt und was 2027 kommt

Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) gilt neben der DSGVO, nicht an ihrer Stelle. Für Unternehmen, die KI einsetzen, sind heute vier Punkte relevant. Die Fristen stehen so in der Digital-Omnibus-Verordnung (EU) 2026/1744, die am 27. Juli 2026 in Kraft getreten ist:

  • Seit 2. Februar 2025, Art. 4: Maßnahmen ergreifen, um die KI-Kompetenz der Beschäftigten zu fördern, die mit KI arbeiten. Die Omnibus-Verordnung hat die Pflicht abgeschwächt, aber nicht aufgehoben
  • Seit 2. Februar 2025, Art. 5: verbotene Praktiken, darunter KI, die Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen aus biometrischen Daten wie Stimme oder Mimik ableitet
  • Seit 2. August 2026, Art. 50: Transparenzpflichten, etwa der Hinweis an Personen, dass sie mit einem KI-System interagieren
  • Ab 2. Dezember 2027: Pflichten für Hochrisiko-Systeme nach Anhang III, etwa KI zur Auswahl von Bewerbern oder zur Bewertung von Beschäftigten

05

Betriebsrat und KI-Richtlinie: die interne Seite

In Betrieben mit Betriebsrat ist die Einführung eines KI-Werkzeugs, das objektiv geeignet ist, Verhalten oder Leistung zu erfassen, nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Über die Planung von KI ist der Betriebsrat nach § 90 Abs. 1 Nr. 3 BetrVG rechtzeitig zu unterrichten. Wie eine Betriebsvereinbarung dazu aussieht, steht in unserem Ratgeber Betriebsrat und KI.

Unabhängig davon braucht jedes Unternehmen eine kurze KI-Richtlinie für Beschäftigte. Sie regelt, welche Werkzeuge freigegeben sind, welche Daten nicht hineingehören (zum Beispiel Gesundheitsdaten oder Mandantengeheimnisse in frei verfügbare Chatbots), wie Ergebnisse geprüft werden und wer bei Fragen hilft. Das ist zugleich die einfachste Maßnahme zur KI-Kompetenz nach Art. 4 KI-Verordnung.

Prüfliste am Beispiel KI-Notetaker, und wie Klang sie beantwortet

Ein KI-Notetaker zeichnet Gespräche auf und verarbeitet damit Stimmen, Namen und Inhalte aller Teilnehmenden. Diese Fragen solltest du jedem Anbieter stellen. Die rechte Spalte zeigt die Antworten für Klang:

Prüfliste am Beispiel KI-Notetaker, und wie Klang sie beantwortet
PrüfpunktFrage an den AnbieterKlang
Sitz und RechtWo hat der Anbieter seinen Sitz, welchem Recht unterliegt er?Klang AI AB, Helsingborg, Schweden; europäisches Recht
DatenstandortWo werden Audio und Transkripte verarbeitet und gespeichert?Gehostet in der EU; Private Cloud oder On-Premise im Enterprise-Tarif
TrainingWerden Kundendaten zum Training verwendet?Nein, nie
UnterauftragsverarbeiterWelche Dienstleister verarbeiten Daten, und wo?Öffentliche Liste im Trust Center; alle in der EU-Region, KI-Anbieter mit Zero Data Retention. Darunter sind auch Unternehmen mit US-Bezug
VertragGibt es einen AVV nach Art. 28 DSGVO?AVV im Business-Tarif; zu Vertragsunterlagen für andere Tarife sprich uns an
SicherheitWelche Nachweise und Kontrollen gibt es?ISO-27001-zertifiziert, Verschlüsselung im Ruhezustand und TLS 1.2 oder neuer, 2FA; im Business-Tarif SSO mit SAML oder OpenID Connect
LöschungWerden gelöschte Daten auch aus Backups entfernt? Gibt es Fristen?Ja, fortlaufend aus Systemen und Sicherungskopien; eigene Aufbewahrungsfristen im Enterprise-Tarif
SprecherzuordnungLassen sich Stimmen über Gespräche hinweg wiedererkennen, und lässt sich das abschalten?Sprecher-ID ist im Pro-Tarif verfügbar; Admins schalten sie für den Arbeitsbereich aus, die Daten dafür werden gelöscht
KontrolleGibt es Prüfprotokolle und eigene Schlüssel?Prüfprotokolle im Business-Tarif, Zugriffskontrolle und BYOK im Enterprise-Tarif

Stand 3. November 2026. Klang ist selbst Anbieter; die Angaben zu Klang stammen von klang.ai/de/security, klang.ai/de/pricing und help.klang.ai.

Beispiel: Freigabevermerk für einen KI-Notetaker

So kann der Vermerk aussehen, mit dem die Datenschutzbeauftragte der fiktiven Nordstern Logistik GmbH einen KI-Notetaker für Projektbesprechungen freigibt. Das Beispiel zeigt die Struktur, es ist kein Muster zum Übernehmen:

Zweck
Transkripte und Protokollentwürfe für interne Projekt- und Kundenbesprechungen. Keine Auswertung einzelner Beschäftigter.
Rechtsgrundlage
Berechtigtes Interesse an vollständiger Dokumentation (Art. 6 Abs. 1 lit. f DSGVO); Aufnahme nur, wenn alle Teilnehmenden zu Beginn zustimmen.
Anbieter
EU-Anbieter mit AVV, Verarbeitung in der EU, kein Training mit Kundendaten, ISO 27001.
Ausgenommen
Personalgespräche, Gesundheitsthemen, Betriebsratssitzungen.
Einstellungen
Sprecher-ID ausgeschaltet; Zugriff über Ordner nach Projekt; 2FA verpflichtend.
Löschung
Aufnahmen nach 30 Tagen, Transkripte nach 12 Monaten, sofern nicht in die Projektakte übernommen.
DSFA
Schwellwertanalyse durchgeführt; keine DSFA erforderlich, da keine systematische Auswertung von Beschäftigten. Wiedervorlage nach 12 Monaten.
Betriebsrat
Betriebsvereinbarung „KI-Meeting-Assistent“ vom 01.10.2026.

Für Datenschutz, IT und Einkauf

Ein KI-Notetaker, der die Prüfliste besteht

Klang ist eine europäische KI für Transkription und Protokolle, entwickelt in Schweden. Die Antworten auf die Prüfpunkte stehen oben, die Nachweise im Trust Center. Für Organisationen mit höchsten Anforderungen gibt es Private Cloud mit eigenem Schlüssel oder den Betrieb im eigenen Rechenzentrum.

  • Gehostet in der EU, Sitz in Schweden, Zero Data Retention bei KI-Anbietern
  • Kein Training mit Kundendaten, Löschung auch aus Sicherungskopien
  • ISO-27001-zertifiziert, 2FA für alle, SSO im Business-Tarif
  • Business-Tarif: Prüfprotokolle, AVV. Enterprise-Tarif: eigene Aufbewahrungsfristen, BYOK, On-Premise

Häufige Fragen zu DSGVO und KI

Welche KI ist DSGVO-konform?

Keine KI ist von sich aus DSGVO-konform. Entscheidend ist, ob der Anbieter einen Auftragsverarbeitungsvertrag anbietet, wo er Daten verarbeitet, ob er sie zum Training nutzt und welche Sicherheitsnachweise er hat, und ob das Unternehmen das Werkzeug mit Rechtsgrundlage, Information der Betroffenen und Löschkonzept einsetzt. Werkzeuge mit Sitz und Verarbeitung in der EU machen die Prüfung deutlich einfacher.

Brauche ich für ein KI-Tool eine Datenschutz-Folgenabschätzung?

Nur wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt (Art. 35 DSGVO), etwa bei systematischer Auswertung von Beschäftigten, bei besonders sensiblen Daten oder bei Einsatz in großem Umfang. Für viele Werkzeuge reicht eine dokumentierte Schwellwertanalyse. Die Datenschutzaufsichtsbehörden veröffentlichen Listen von Verarbeitungen, für die eine DSFA immer nötig ist.

Darf ich US-KI-Dienste wie ChatGPT oder Copilot im Unternehmen nutzen?

Grundsätzlich ja, wenn ein Auftragsverarbeitungsvertrag besteht, die Übermittlung abgesichert ist, etwa über das EU-US Data Privacy Framework, und das Training mit euren Daten ausgeschlossen ist. Für Unternehmenszugänge bieten die Anbieter dafür eigene Vertragsbedingungen. Offen bleibt der mögliche Zugriff von US-Behörden auf Daten bei US-Konzernen.

Was verlangt die KI-Verordnung von Unternehmen schon heute?

Seit dem 2. Februar 2025 gelten die Verbote aus Art. 5, etwa KI zur Emotionserkennung am Arbeitsplatz, und die Pflicht aus Art. 4, die KI-Kompetenz der Beschäftigten zu fördern. Seit dem 2. August 2026 gelten Transparenzpflichten nach Art. 50. Die Pflichten für Hochrisiko-KI nach Anhang III gelten nach der Omnibus-Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027.

Was gehört in eine KI-Richtlinie für Mitarbeiter?

Mindestens: welche Werkzeuge freigegeben sind und für welche Zwecke, welche Daten nicht eingegeben werden dürfen, dass Ergebnisse vor der Verwendung geprüft werden, wie mit Aufnahmen von Gesprächen umzugehen ist, und wer bei Fragen hilft. In Betrieben mit Betriebsrat sollte die Richtlinie mit der Betriebsvereinbarung abgestimmt sein.

Ist ein KI-Notetaker mit der DSGVO vereinbar?

Ja, wenn die Grundlagen stimmen: vertragliche Absicherung mit dem Anbieter, in der Regel über einen AVV, Verarbeitung in der EU oder abgesicherter Transfer, kein Training mit euren Aufnahmen, Information und Zustimmung der Teilnehmenden vor der Aufnahme, feste Löschfristen. Ohne Zustimmung ist die Aufnahme nichtöffentlicher Gespräche zudem nach § 201 StGB strafbar. Diese Seite ist ein Überblick und keine Rechtsberatung.

Quellen

Abgerufen am 3. November 2026.