KI im Unternehmen DSGVO-konform nutzen

KI lässt sich DSGVO-konform einsetzen. Entscheidend sind der konkrete Anwendungsfall, die verarbeiteten Daten und die Bedingungen des Dienstes. Eine Freigabe sollte deshalb immer für einen bestimmten Einsatz gelten. „Das Tool dürfen wir nutzen“ ist dafür meistens zu ungenau.

Für den Einstieg sind fünf Punkte wichtig:

• Personenbezug erkennen. Auch Gesprächsverläufe, Fotos, Kundennummern und Angaben zu Beschäftigten können personenbezogene Daten enthalten.

• Zweck und Rechtsgrundlage klären. Für die Verarbeitung muss es einen zulässigen Grund geben.

• Datenwege prüfen. Dazu gehören Anbieter, eingebundene Dienste und mögliche Übermittlungen außerhalb des Europäischen Wirtschaftsraums.

• Zugriff und Speicherung begrenzen. Die KI sollte nur erhalten, was sie für die Aufgabe benötigt.

• Verantwortung festlegen. Jemand muss Freigaben, Betroffenenanfragen und Änderungen am System bearbeiten können.

Die Orientierungshilfe der Datenschutzkonferenz zu KI und Datenschutz beschreibt diese Prüfung entlang von Auswahl, Einführung und Nutzung.

Die DSGVO und die EU-KI-Verordnung bringen dabei unterschiedliche Anforderungen mit. Ein Hinweis „KI-generiert“ beantwortet noch keine Frage zur Zulässigkeit der Datenverarbeitung. Umgekehrt kann eine datenschutzrechtlich zulässige Anwendung zusätzliche Transparenzpflichten haben. Die Kennzeichnung behandelt unser Leitfaden zu Artikel 50 der EU-KI-Verordnung.

Auch der Umgang im Team gehört dazu: Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern Maßnahmen zur Förderung der KI-Kompetenz. Seit der Änderung durch die Verordnung (EU) 2026/1744 vom Juli 2026 stellt der Text klar, dass damit kein bestimmtes Kompetenzniveau einzelner Personen geschuldet ist. Praktisch heißt das weiterhin: Beschäftigte sollten wissen, welche Anwendungen freigegeben sind, welche Daten hineindürfen und wann sie nachfragen müssen.

Artikel 5 und 6 DSGVO bilden den Ausgangspunkt: Daten zweckgebunden, sparsam und auf einer tragfähigen Rechtsgrundlage verarbeiten. Für Unternehmen kommen je nach Fall etwa Vertragserfüllung, berechtigte Interessen oder eine Einwilligung infrage.

Ein Kundenvertrag erlaubt allerdings nicht automatisch jede KI-Auswertung. Die Verarbeitung muss für die Vertragserfüllung erforderlich sein. Beim berechtigten Interesse sind Interesse, Erforderlichkeit und die Rechte der betroffenen Personen abzuwägen. „Das spart uns Zeit“ ist noch keine vollständige Prüfung. Der LfDI Baden-Württemberg erläutert die Rechtsgrundlagen für KI ausführlich.

Für Gesundheitsdaten und andere besondere Datenkategorien ist zusätzlich eine Ausnahme nach Artikel 9 Absatz 2 DSGVO nötig. Bei Beschäftigten und Bewerbern kommt § 26 BDSG hinzu, allerdings nur eingeschränkt: Seit dem EuGH-Urteil vom 30. März 2023 (C-34/21) gilt die Generalklausel in § 26 Absatz 1 Satz 1 nach überwiegender Auffassung nicht mehr als tragfähige eigene Rechtsgrundlage; die Praxis stützt sich unmittelbar auf Artikel 6 DSGVO. Wichtig bleiben die Vorgaben zur Einwilligung in § 26 Absatz 2: Sie muss tatsächlich freiwillig sein, und im Arbeitsverhältnis ist das besonders sorgfältig zu prüfen.

Anonymisieren bedeutet mehr als Namen entfernen. „Die einzige Projektleiterin unserer Hamburger Niederlassung“ kann weiterhin eine Person identifizieren. Pseudonymisierte Daten bleiben personenbezogen, wenn eine Zuordnung möglich ist. Auch ein KI-Modell ist nicht automatisch anonym, nur weil es Informationen anders speichert. Darauf weist der Europäische Datenschutzausschuss in seiner Stellungnahme 28/2024 hin.

Weitere Pflichten betreffen Informationen für Betroffene und ihre Rechte, Sicherheit sowie Dokumentation. Die maßgeblichen Vorschriften stehen insbesondere in Artikeln 12–22, 25, 28, 30 und 32 DSGVO. Den Gesetzestext mit Erläuterungen stellt die Bundesdatenschutzbeauftragte in „Info 1“ bereit.

Eine Datenschutz-Folgenabschätzung ist vorab erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Menschen verursacht. Dafür zählen der Einsatz und seine Folgen; das Etikett „KI“ allein entscheidet es nicht. Die Vorabprüfung sollte dokumentiert werden. Siehe EDSA zu Artikel 35 DSGVO.

Für die Auswahl würde ich den konkreten Tarif und seine Vertragsunterlagen prüfen. Eine Produktseite mit „DSGVO-konform“ lässt dafür zu viele Fragen offen. Sechs Prüffragen helfen bei der Einordnung:

Verarbeitet der Dienst personenbezogene Daten weisungsgebunden im Auftrag, braucht es einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO. Verfolgt er eigene Zwecke, muss diese Verarbeitung gesondert eingeordnet werden. Der Vertragstitel allein bestimmt die Rolle nicht. Grundlage sind die EDSA-Leitlinien zu Verantwortlichen und Auftragsverarbeitern.

EU-Hosting beantwortet nur einen Teil der Fragen. Prüfen sollte man auch, ob andere Konzerngesellschaften oder Dienstleister außerhalb des EWR Daten erhalten. Bei Drittlandübermittlungen gelten zusätzlich Artikel 44 ff. DSGVO.

Für teilnehmende US-Unternehmen kann das EU-US Data Privacy Framework die Übermittlung tragen. Dafür müssen die konkrete Empfängerorganisation und die betreffende Verarbeitung von der aktiven Zertifizierung erfasst sein; nachsehen lässt sich das in der Teilnehmerliste des Data Privacy Framework. Ein Markenname genügt nicht. Die EU-Kommission erläutert den Geltungsbereich ihrer Angemessenheitsbeschlüsse.

Das Gericht der EU hat den Angemessenheitsbeschluss am 3. September 2025 bestätigt (T-553/23). Das Rechtsmittel dagegen ist beim EuGH anhängig (C-703/25 P), eine Entscheidung steht aus. Wer sich allein auf das Framework stützt, sollte deshalb wissen, worauf er im Ernstfall ausweicht.

Alternativ kommen insbesondere Standardvertragsklauseln infrage, einschließlich einer Bewertung der Transfersituation und gegebenenfalls zusätzlicher Schutzmaßnahmen. Der EDSA-Leitfaden zu internationalen Datentransfers erklärt die Anforderungen.

Abgeschaltetes Training ist eine sinnvolle Schutzmaßnahme. Es bedeutet aber weder „keine Speicherung“ noch „keine Datenübermittlung“. Auch bei lokal betriebenen Modellen bleiben Rechtsgrundlage, Berechtigungen und ein sicherer Betrieb zu klären.

1. Eine Kundenmail beantworten

Für einen freundlicheren Entwurf reicht häufig eine kurze Beschreibung des Anliegens. Unnötige Signaturen, frühere Nachrichten und Angaben über Dritte lassen sich weglassen. Werden echte Kundendaten gebraucht, muss die Freigabe genau diesen Einsatz abdecken. Datensparsame Voreinstellungen sind Teil von Datenschutz durch Technikgestaltung nach Artikel 25 DSGVO.

2. Ein Meeting zusammenfassen

Ein Bot sollte nicht automatisch jedes Gespräch aufzeichnen. Vorher müssen Zweck, Rechtsgrundlage, Teilnehmerinformation und Speicherung geklärt sein. Bei Tonaufnahmen nichtöffentlicher Gespräche ist zusätzlich § 201 StGB zu beachten: Die unbefugte Aufnahme ist strafbar. Für gewöhnliche betriebliche Meetings empfiehlt sich, vor der Aufnahme die Zustimmung aller Beteiligten einzuholen und eine Teilnahme ohne Aufnahme zu ermöglichen. Unter Beschäftigten trägt eine Einwilligung nur, wenn ein Nein keine Nachteile hat. Ein sichtbares Bot-Symbol ersetzt diese Klärung nicht.

3. Internes Wissen durchsuchen

Ein Assistent mit Zugriff auf Unternehmensdokumente darf vorhandene Zugriffsbeschränkungen nicht umgehen. Wer eine Personalakte nicht öffnen darf, sollte ihren Inhalt auch nicht über eine KI-Antwort erhalten. Bei RAG, also Antworten mithilfe zusätzlich abgerufener Dokumente, müssen Rechte bis in die Suche und Bereitstellung der Textstellen greifen. Löschungen müssen auch daraus erzeugte Datenbestände berücksichtigen. Die DSK-Orientierungshilfe zur RAG-Methode behandelt diese Besonderheiten.

4. Bewerbungen bewerten

Eine KI-Zusammenfassung ist anders zu bewerten als eine automatische Absage. Artikel 22 DSGVO setzt Entscheidungen Grenzen, die ausschließlich automatisiert getroffen werden und rechtliche oder ähnlich erhebliche Wirkung haben. Es gibt eng begrenzte Ausnahmen mit zusätzlichen Schutzvorgaben. Eine menschliche Prüfung muss tatsächlich Einfluss haben; bloßes Bestätigen reicht nicht. Siehe EDSA zu automatisierten Entscheidungen.

Nach dem SCHUFA-Urteil des EuGH (C-634/21) kann schon ein automatisch errechneter Wert die Entscheidung sein, wenn sich die spätere Auswahl maßgeblich nach ihm richtet. Ein KI-Ranking, dem die Personalabteilung in aller Regel folgt, ist deshalb kein bloßes Hilfsmittel.

Hinzu kommt die KI-Verordnung: Systeme, die Bewerbungen sichten, filtern oder bewerten, zählen nach Anhang III Nummer 4 zu den Hochrisiko-KI-Systemen. Die Pflichten dafür gelten nach der Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027.

Wie sich Bewerbungen verarbeiten lassen, ohne dass das Modell die Personen dahinter sieht, zeigt der Abschnitt Platzhalter statt Klarnamen.

Diese Beispiele sind keine pauschalen Freigaben. Schon eine zusätzliche Datenquelle kann die Bewertung verändern. Ein bisheriger Textassistent mit neuem Zugriff auf das gesamte Postfach sollte deshalb erneut geprüft werden.

Bewerbungen, Kundenakten, Verträge, Supportanfragen: Abläufe mit echten Namen sind oft die, an denen eine Automatisierung hängen bleibt. Für viele davon gibt es einen technischen Weg, der das Risiko deutlich senkt. Das Modell bekommt die Personendaten gar nicht erst zu sehen, weil eine vorgeschaltete Schicht sie durch Platzhalter ersetzt, bevor der Text das Unternehmen verlässt.

1. Personendaten ersetzen. Aus „Anna Müller, geboren am 3. Mai 1991“ wird „[PERSON_1], geboren am [DATUM_1]“, auch im Fließtext.

2. Die KI arbeitet mit den Platzhaltern. Sie fasst zusammen, sortiert oder formuliert, ohne zu wissen, um wen es geht.

3. Die Zuordnung bleibt im Unternehmen. Die Tabelle, die Platzhalter und echte Werte verbindet, wird getrennt und geschützt gespeichert und geht nie an den Anbieter.

4. Die Antwort wird zurückübersetzt. Erst im eigenen System stehen wieder die echten Namen.

Ersetzt werden müssen mindestens Name, Adresse, Geburtsdatum, E-Mail-Adresse, Telefonnummer, IBAN, Kundennummer und Foto. Leicht übersehen werden Namen mitten im Text („mein Kollege Herr Yilmaz“), E-Mail-Signaturen, Dateinamen wie Lebenslauf_A_Mueller.pdf und die Metadaten eines Dokuments.

Rechtlich ist das Pseudonymisierung, keine Anonymisierung. Für das Unternehmen bleiben die Daten personenbezogen, solange es die Zuordnung hat (Artikel 4 Nummer 5 DSGVO); Rechtsgrundlage, Information der Betroffenen und Löschfristen gelten unverändert. Ob auch der KI-Anbieter personenbezogene Daten erhält, hängt nach dem EuGH-Urteil vom 4. September 2025 (C-413/23 P) davon ab, ob er die Personen mit vertretbaren Mitteln identifizieren kann. Bei einem Lebenslauf ist das schnell der Fall: Werdegang, Arbeitgeber und Abschlussjahr ergeben zusammen oft eine bestimmbare Person. Den Auftragsverarbeitungsvertrag sollte man deshalb nicht einsparen.

Bei Bewerbungen hat das Verfahren einen zweiten Nutzen: Ohne Name, Foto, Alter und Adresse fallen Merkmale weg, an denen eine Benachteiligung ansetzen kann. Die Grenzen aus dem Beispiel oben bleiben trotzdem bestehen. Die Auswahl trifft ein Mensch, und die Einstufung als Hochrisiko-KI hängt nicht davon ab, ob das Modell Namen sieht.

Wer eine solche Schicht selbst baut, sollte drei Stellen prüfen: Der API-Schlüssel gehört auf den Server und nicht in den Code, der im Browser läuft. Eingaben dürfen nicht ungefiltert ans Modell weitergereicht werden. Und für Protokolle und Zuordnungstabellen braucht es Löschfristen.

Vor der Freigabe sollten diese Punkte nachvollziehbar beantwortet sein:

• Welche Aufgabe übernimmt die KI, und wer verantwortet sie?

• Welche personenbezogenen Daten sind dafür wirklich notwendig?

• Welche Rechtsgrundlage trägt die Verarbeitung?

• Sind Anbieterrollen, Verträge und Drittlandübermittlungen geklärt?

• Sind Training, Speicherung und Zugriffsrechte passend eingestellt?

• Sind Datenschutzinformationen und erforderliche Dokumentation aktualisiert?

• Wurde geprüft, ob eine Folgenabschätzung nötig ist?

• Funktionieren Auskunft, Berichtigung und Löschung auch praktisch?

• Kennt das Team die Grenzen und den Meldeweg für Fehler?

• Wer prüft neue Funktionen, Integrationen und Vertragsänderungen?

Als Arbeitsgrundlage empfiehlt sich eine kurze interne Regel: Freigegeben werden jeweils Tool, Tarif, Zweck und zulässige Datenarten. Änderungen brauchen eine erneute Bewertung. Datenschutzbeauftragte und die Beschäftigtenvertretung gehören frühzeitig dazu. Lässt sich mit dem Tool Verhalten oder Leistung von Beschäftigten überwachen, bestimmt der Betriebsrat nach § 87 Absatz 1 Nummer 6 BetrVG mit.

Für den Einstieg würde ich eine überschaubare Aufgabe wählen: Datenweg aufzeichnen, offene Fragen klären, Freigabe dokumentieren und das Team damit arbeiten lassen. Daran lässt sich konkret prüfen, ob die Regeln im Alltag funktionieren.

Die Aussagen dieser Seite stützen sich auf die folgenden Quellen.

Stand dieser Seite: 9. Oktober 2026. Recherchestand der Rechtslage: 9. Oktober 2026. Rechtsprechung, Leitlinien der Aufsichtsbehörden und die laufende Überarbeitung der DSGVO im Digital-Omnibus können einzelne Aussagen verändern; diese Seite wird bei relevanten Änderungen überarbeitet.