WISSENSWERTES | 10.03.2025
KI und Datenschutz: Der Europäische Datenschutzausschuss (EDSA) zur Verarbeitung personenbezogener Daten in KI-Modellen
Am 17. Dezember 2024 veröffentlichte der EDSA seine Stellungnahme 28/2024 zu datenschutzrechtlichen Fragen im Zusammenhang mit KI-Modellen. Die irische Datenschutzbehörde hatte den EDSA um eine Einschätzung gebeten, insbesondere zur Anonymisierung, zu Rechtsgrundlagen der Verarbeitung und zu den Folgen rechtswidriger Datenverarbeitung in der Entwicklungs- und Trainingsphase von KI-Modellen. Die Stellungnahme ist für Unternehmen und Organisationen, die KI-Technologien entwickeln oder nutzen, von hoher Relevanz.
Wann gilt ein KI-Modell als anonymisiert?
Eine zentrale Frage der Stellungnahme betrifft die Anonymisierung von Trainingsdaten. Der EDSA stellt klar, dass die Anonymisierung eines KI-Modells nicht pauschal angenommen werden kann, sondern einer sorgfältigen Prüfung bedarf. Entscheidend ist, ob personenbezogene Daten aus dem Modell extrahiert oder durch gezielte Abfragen rekonstruiert werden können. Unternehmen, die KI-Modelle anbieten oder betreiben, müssen im Zweifel den Nachweis erbringen, dass sie effektive Maßnahmen zur Anonymisierung ergriffen haben. Dazu gehören unter anderem:
• Eine detaillierte Dokumentation der Trainingsdatenquellen
• Der Einsatz von Schutzmechanismen wie Pseudonymisierung und Datenminimierung
• Eine Datenschutz-Folgenabschätzung zur Identifizierbarkeit von Personen
Berechtigtes Interesse als Rechtsgrundlage?
Ein weiterer zentraler Punkt ist die Frage, ob sich Unternehmen in der Entwicklungs- und Einsatzphase eines KI-Modells auf das „berechtigte Interesse“ (Art. 6 Abs. 1 lit. f DSGVO) als Rechtsgrundlage stützen können. Der EDSA betont, dass hierfür eine Einzelfallprüfung erforderlich ist. Entscheidend sei ein sogenannter Drei-Stufen-Test:
1. Legitimes Interesse: Das verfolgte Ziel müsse rechtmäßig, klar definiert und real sein.
2. Erforderlichkeit: Es dürfe kein milderes Mittel zur Erreichung dieses Ziels geben.
3. Abwägung mit den Interessen der Betroffenen: Risiken für Grundrechte und Erwartungen der Betroffenen müssten berücksichtigt werden.
Unternehmen, die KI-Modelle auf dieser Grundlage betreiben, sollten daher nachvollziehbar darlegen können, warum diese Rechtsgrundlage einschlägig ist und wie sie mögliche Risiken für betroffene Personen minimieren. Wie sonst auch gilt in diesem noch schwer zu überblickenden Kontext Vorsicht und wohl eher Zurückhaltung im Umgang mit dem „berechtigten Interesse“.
Folgen einer rechtswidrigen Datenverarbeitung in der Entwicklungsphase
Was passiert, wenn ein KI-Modell mit rechtswidrig erlangten Daten trainiert wurde? Auch hierzu nimmt der EDSA Stellung und differenziert drei Szenarien:
1. Derselbe Verantwortliche verarbeitet die Daten weiter: eine Einzelfallprüfung sei nötig, ob die ursprünglichen Zwecke noch mit der weiteren Verarbeitung vereinbar sind.
2. Ein neuer Verantwortlicher übernimmt das Modell: dieser müsse nachweisen, dass die Verarbeitung datenschutzkonform erfolgt.
3. Die Daten wurden zwar unrechtmäßig verarbeitet, aber später wirksam anonymisiert: In diesem Fall gelte die DSGVO nicht mehr für das Modell.
Fazit: Was Unternehmen jetzt beachten sollten
Die EDSA-Stellungnahme verdeutlicht, dass KI-Modelle nicht nur technische, sondern auch erhebliche datenschutzrechtliche Herausforderungen mit sich bringen. Unternehmen, die KI-Modelle anbieten oder betreiben, sollten daher:
• Anonymisierungsprozesse dokumentieren und nachweisbar machen, dass keine Re-Identifizierung möglich ist.
• Die richtige Rechtsgrundlage für die Datenverarbeitung wählen und dabei – falls einschlägig – ein mögliches berechtigte Interesse sorgfältig prüfen und dokumentieren
• Risikomanagement betreiben, um spätere Probleme bei der Nutzung von KI-Modellen aufgrund rechtswidrig verarbeiteter Daten zu vermeiden.
• Frühzeitig tragfähige Datenschutzkonzepte für ihre KI-Anwendungen entwickeln, da die Datenschutzaufsichtsbehörden sich zunehmend mit diesen Fragen befassen (müssen)