KI und Datenschutz: Neue Orientierungshilfe der DSK

Künstliche Intelligenz verarbeitet Daten in Dimensionen, die zur Entstehungszeit der DSGVO kaum ersichtlich waren. Wie ein aktueller Streitfall des baden-württembergischen Innenministeriums zeigt, nutzen KI-Modelle riesige Datensätze und können aus persönlichen Informationen lernen – und die Rechtslage bleibt oft unklar. Sechs Jahre nach Inkrafttreten der europäischen Datenschutzgrundverordnung ringen Unternehmen noch immer damit, wie sie KI-Projekte rechtskonform umsetzen können.

Die deutsche Datenschutzkonferenz hat nun eine Orientierungshilfe vorgelegt, die Klarheit schaffen soll. Doch reicht das aus? Während Start-ups an komplizierten Rechtsfragen scheitern und Konzerne Millionen in Compliance-Abteilungen invesstieren, entwickelt sich die Technologie rasant weiter. ChatGPT, Bildgeneratoren und autonome Systeme stellen täglich neue Fragen – für die es oft keine eindeutigen Antworten gibt.

Das Wichtigste in Kürze

• Als Konferenz der unabhängigen Datenschutzbehörden des Bundes und der Länder mahnt die DSK in ihrer Orientierungshilfe zu umfassender Berücksichtigung von Datenschutzgrundsätzen bei der KI-Entwicklung und -Anwendung.
• Data Protection by Design – Datenschutzanforderungen gemäß DSGVO müssen demnach von Anfang an in die Planung und Entwicklung integriert werden.
• Die Minimierung personenbezogener Daten ist zentral: Nur Daten, die unbedingt für den Zweck erforderlich sind, dürfen verwendet werden.
• Transparenz – Sensible Entscheidungen von KI-Systemen müssen nachvollziehbar und dokumentiert sein.
• KI-Systeme müssen gegen Datenschutzrisiken wie Memorisierung oder unberechtigte Weitergabe von Daten abgesichert werden.
• Privacy-Preserving-Techniken (z. B. Differential Privacy) und Mechanismen zur Intervenierbarkeit werden dringend empfohlen.
• Datenquellen müssen sorgfältig geprüft und dokumentiert werden, insbesondere im Hinblick auf ihre Vertrauenswürdigkeit und Repräsentativität.
• Pilotstudien und kontinuierliche Evaluierung der Datenqualität und Fairness helfen, mögliche Diskriminierungen und Verzerrungen zu vermeiden.

Herausforderungen und Risiken in der KI-Entwicklung

Die im Juni 2025 veröffentlichte Orientierungshilfe der DSK adressiert einige wichtige Datenschutzrisiken, die der Einsatz von KI-Systemen, vor allem bei unsachgemäßer oder nachlässiger Entwicklung, mit sich bringt. In vielen Fällen ist die Verarbeitung großer Datenmengen vorausgesetzt – oft auch personenbezogener Daten. Manche Unternehmen laufen jedoch Gefahr, die Bedeutung des Umfangs für den Projekterfolg überzuinterpretieren. Das kann zu Konflikten mit dem in der DSGVO vorgeschriebenen Grundsatz der Datenminimierung stehen. Ein Beispiel hierfür ist etwa der Aufbau massiver Trainingsdatenbanken ohne klare Analyse darüber, ob alle Datenpunkte für die geplante Modellierung notwendig sind. Dies setzt Unternehmen nicht nur einem erhöhten Risiko regulatorischer Strafen aus, sondern kann auch zu einer ineffizienten KI-Modellierung führen. Technische Gefahren wie Daten-Memorisierung, also der versehentliche Einbezug sensibler Daten in Entscheidungsprozesse sind ebenfalls kritisch.

Denn KI-Modelle, insbesondere tiefe neuronale Netze, speichern nicht nur abstrahierte Parameter, sondern können in Extremfällen auch Fragmente der Trainingseinträge wiedergeben. Das ist vor allem problematisch, wenn unzureichend anonymisierte personenbezogene Daten verwendet werden. Eine unbeabsichtigte Offenlegung dieser Informationen könnte nicht nur Datenschutz-, sondern auch Reputations-Krisen auslösen. Des Weiteren bleibt der ethische Aspekt der Bias-Vermeidung oft unzureichend beachtet. KI-Modelle übernehmen systematisch Verzerrungen aus den zugrunde liegenden Daten. So droht bei unzureichender Kontrolle eine technische Reproduktion von Diskriminierung. Die Orientierungshilfe der DSK betont die Notwendigkeit, faire und repräsentative Datenquellen zu verwenden, regelmäßige Bias-Analysen durchzuführen und durch Feedbackschleifen kontinuierliche Verbesserungen zu ermöglichen.

Sieben Gewährleistungsziele für hohe Datensicherheit

Um Datenschutzrisiken zu minimieren, definiert die DSK ein umfassendes Set an Gewährleistungszielen als integrale Leitlinien für alle Entwicklungsphasen von KI-Systemen: Design, Entwicklung, Einführung, Betrieb. Die Ziele basieren auf den Grundprinzipien der Datenschutz-Grundverordnung (DSGVO) und schlagen eine essenzielle Brücke zwischen der teils abstrakten rechtlichen Normgebung und deren praxisnaher technischer Umsetzung.

Datenminimierung

Das wohl wichtigste Prinzip der DSGVO erfordert, dass KI-Systeme ausschließlich die für ihren spezifischen Zweck notwendigen Daten verarbeiten. Schon in der Designphase sollten spezialisierte Mechanismen eingesetzt werden, um die Datenerhebung und -verarbeitung zu kontrollieren und zu reduzieren. Beispielsweise können KI-Modelle bevorzugt mit synthetischen, pseudonymisierten oder anonymisierten Daten trainiert werden, um die Verarbeitung personenbezogener Informationen zu minimieren. Zusätzlich ist es sinnvoll, Validierungs- und Filterrichtlinien anzuwenden, die überflüssige oder potenziell problematische Datenkategorien ausschließen. Technologien wie Federated Learning ermöglichen es, ein globales KI-Modell zu erstellen, ohne dass personenbezogene Daten den Ort ihres Ursprungs verlassen. Dies trägt nicht nur zur Datenminimierung, sondern auch zum Schutz sensibler Informationen bei.

Verfügbarkeit

Ein robustes Verfügbarkeitsmanagement gewährleistet, dass KI-Systeme und die zugrundeliegenden Daten jederzeit einsatzbereit sind, insbesondere für geschäftskritische Anwendungen. Dies kann durch den Einsatz skalierbarer Datenmanagementsysteme wie Big Data-Datenbanken sichergestellt werden. Solche Systeme bieten die Möglichkeit, Daten redundanzfrei zu speichern und jederzeit abrufbereit zu halten. Predictive-Maintenance-Ansätze können ergänzend genutzt werden, um potenzielle Ausfälle wichtiger Systemkomponenten frühzeitig zu erkennen. Verantwortliche sollten für eine geeignete Infrastruktur sorgen, die georedundant aufgestellt ist und Echtzeitzugriff auf die benötigten Datenbanken ermöglicht.

Integrität

Die Sicherstellung der Datenintegrität erfordert Maßnahmen, die garantieren, dass verarbeitete Daten korrekt, konsistent und vor unbefugter Manipulation geschützt sind. Entwickler können hierzu kryptografische Hashing-Methoden auf Rohdaten anwenden, um nachträgliche Änderungen zuverlässig zu erkennen. Ergänzend sollten umfassende Validierungsmaßnahmen implementiert werden, um sicherzustellen, dass die Daten konsistent und plausibel bleiben. Zur Evaluierung der Qualität und Vertrauenswürdigkeit von Datenquellen können darüber hinaus statistische Analysen herangezogen werden, die beispielsweise die Datenverteilung prüfen und Anomalien frühzeitig aufzeigen. Während diese Maßnahmen primär die Integrität und Qualität der Daten betreffen, sollte bei der Verarbeitung zusätzlich Bias-Prüfung berücksichtigt werden, um Verzerrungen in Datensätzen zu erkennen und ethische Risiken wie reproduzierte Diskriminierung zu minimieren.

Nichtverkettung

Dieses Ziel verlangt, dass personenbezogene Daten nicht durch die Verknüpfung separater Datensätze zu neuen Informationen zusammengeführt werden. Verantwortliche sollten darauf achten, dass hochkorrelierende Ersatzvariablen nicht unbeabsichtigt eine Verkettung ermöglichen. Schutzmaßnahmen wie Differential Privacy können eingesetzt werden, um die Wahrscheinlichkeit einer Rückverfolgbarkeit oder Re-Identifikationsmöglichkeit auf Einzelpersonen zu minimieren. Außerdem sollten semantisch isolierte Datenarchitekturen oder alternative Datencodierungsmethoden genutzt werden, um eine klare Trennung einzelner Datenstränge zu gewährleisten.

Vertraulichkeit

Auch damit vertrauliche bzw. personenbezogene Daten nicht unbeabsichtigt preisgegeben oder durch Angriffe extrahiert werden, müssen entsprechende Schutzmechanismen in die Konstruktion des KI-Systems integriert sein. Dazu zählen Privacy-Preserving-Techniken wie Differential Privacy, die sicherstellen, dass sensible Daten durch geeignete mathematische Methoden geschützt werden. Ebenso können Maßnahmen wie Regularisationstechniken angewendet werden, um die Generalisierung des KI-Modells zu verbessern und ungewollte Memorisierung von personenbezogenen Daten zu vermeiden. Das reduziert die Wahrscheinlichkeit, dass sensible Informationen nach außen dringen oder von Angreifern rekonstruiert werden können.

Intervenierbarkeit

Um Nutzern die Durchsetzung ihrer Rechte zu ermöglichen, sollte sichergestellt werden, dass personenbezogene Daten individuell verwaltet werden können. Das umfasst unter anderem die technische Möglichkeit, Daten zu löschen und das KI-System anschließend schnell durch Retraining oder selektive Anpassung zu aktualisieren. Technologien wie Machine Unlearning könnten hierbei hilfreich sein, um Modelle ohne die zuvor gelöschten Daten neu zu trainieren. Automatisierte Feedback-Schleifen können diese Prozesse beschleunigen, ohne die Gesamtleistung des KI-Systems zu beeinträchtigen.

Transparenz

Die Transparenz eines KI-Systems muss für sensible Entscheidungen durch erklärbare Modelle (Explainable AI) und revisionssichere Dokumentation gewährleistet werden, um die Nachvollziehbarkeit der Systementscheidungen sicherzustellen. Das betrifft auch die Parametrisierung der Modelle sowie die einzelnen Verarbeitungsschritte. Verantwortliche sollten Tests zur Überprüfung der ordnungsgemäßen Systemfunktion regelmäßig durchführen und die Ergebnisse protokollieren. Visualisierungswerkzeuge können helfen, die Entscheidungswege eines KI-Modells verständlich darzustellen, um das System für Anwender und technische Prüfer klarer und zugänglicher zu machen.

Orientierungshilfe je Entwicklungsphase

Um die Handlungsempfehlungen aus Sicht der einzelnen Entwicklungsphase zu betrachten, eignet sich folgender Überblick:

Designphase

Bereits in der Planungsphase eines KI-Systems sollte ein datenschutzorientierter Ansatz verfolgt werden. Dies umfasst die Festlegung klarer Ziele und die sorgsame Auswahl notwendiger Datenquellen, wobei anonymisierte oder synthetische Daten bevorzugt werden sollten, um den Datenschutz zu maximieren. Gleichzeitig kann durch eine genaue Spezifikation verhindert werden, dass unnötige oder potenziell konfliktträchtige Daten verwendet werden.

Entwicklungsphase

In der Entwicklungsphase ist eine gründliche Datenaufbereitung und -prüfung erforderlich, um Verzerrungen oder Diskriminierungsrisiken zu minimieren. Dabei sollte ein besonderer Fokus auf die Qualität und Repräsentativität der Daten gelegt werden. Zugleich sollten Systeme so implementiert werden, dass sie flexibel auf Änderungen reagieren können, wie etwa das Entfernen personenbezogener Daten ohne Beeinträchtigung des Modells.

Einführungsphase

Bei der Einführung des KI-Systems muss dessen Funktionalität nahtlos in bestehende Prozesse integriert werden, ohne die Rechte der Betroffenen zu gefährden. Dafür sollten die Datennutzung und Ausgabemechanismen des Systems überprüfbar bleiben, sodass Anpassungen, wie das Löschen oder Ändern personenbezogener Informationen, unkompliziert umgesetzt werden können.

Betriebs- und Monitoringphase

Während des Betriebs ist eine kontinuierliche Überwachung des Systems notwendig, um Datenschutzverstöße und Fehler zu vermeiden. Hier kann eine regelmäßige Validierung der Systementscheidungen sicherstellen, dass keine unerwünschten Ergebnisse entstehen. Zudem sollte Feedback aus der Nutzung genutzt werden, um das System zu optimieren und es flexibler gegenüber neuen Datenschutzanforderungen zu machen

Fazit – Datenschutz by Design

Die Entwicklung und der Einsatz von KI-Systemen erfordern nicht nur technologische Exzellenz, sondern auch eine frühzeitige und durchdachte Einbindung datenschutzrechtlicher Anforderungen. Die neue Orientierungshilfe der Datenschutzkonferenz (DSK) zeigt klar: Datenschutz ist kein nachgelagertes Thema, sondern muss integraler Bestandteil jedes KI-Projekts sein – von der ersten Planungsphase bis zum laufenden Betrieb.

Zentrale Prinzipien wie Datenminimierung, Transparenz, Intervenierbarkeit und Vertraulichkeit bilden die Grundlage für den verantwortungsvollen Umgang mit personenbezogenen Daten. Techniken wie Federated Learning, Differential Privacy oder Machine Unlearning bieten konkrete Ansätze, um diesen Anforderungen gerecht zu werden. Wer KI-Systeme entwickelt oder betreibt, sollte die sieben Gewährleistungsziele des Standard-Datenschutzmodells (SDM) als Kompass verstehen – nicht nur zur Einhaltung gesetzlicher Vorgaben, sondern auch zur Sicherung von Vertrauen und Qualität.

Planen Sie ein KI-Projekt in Ihrem Unternehmen und machen sich Gedanken um Datenschutz? Nehmen Sie gern Kontakt zu uns auf, um von unserer Erfahrung auf diesem Gebiet zu profitieren.