Künstliche Intelligenz (KI) und sensible Daten

Das Wichtigste in Kürze

• Art. 9 DSGVO verbietet die Verarbeitung sensibler Daten. Erlaubt ist sie nur bei einem der Ausnahmetatbestände des Art. 9 Abs. 2 DSGVO, in der Praxis meist nur mit ausdrücklicher Einwilligung.
• Art. 9 DSGVO sperrt den Rückgriff auf Art. 6 DSGVO. Ein „berechtigtes Interesse“ reicht bei sensiblen Daten nicht.
• Auf die Absicht des Anbieters kommt es nicht an. Auch unbeabsichtigt oder mittelbar erlangte sensible Daten fallen unter das Verbot.
• Das LG Köln (33 O 120/24) hat diese Grundsätze erstmals auf einen KI-Chatbot angewendet und Snapchat die Verarbeitung ohne Einwilligung untersagt.
• Die KI-Verordnung ergänzt die DSGVO: Sie verbietet bestimmte KI-Praktiken mit sensiblen Daten und schafft in Art. 4a KI-VO eine eng begrenzte Erlaubnis zur Bias-Korrektur.
• Die DSGVO gilt in Österreich unmittelbar. Die Datenschutzbehörde (DSB) hat bestätigt, dass für sensible Daten in KI-Systemen zusätzlich Art. 9 Abs. 2 DSGVO erfüllt sein muss.

Was sind sensible Daten nach Art. 9 DSGVO?

Art. 9 Abs. 1 DSGVO erfasst acht abschließend aufgezählte Kategorien: Daten über die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen, Gewerkschaftszugehörigkeit, genetische Daten, biometrische Daten zur eindeutigen Identifizierung, Gesundheitsdaten sowie Daten zum Sexualleben oder zur sexuellen Orientierung. Die Norm konkretisiert ein informationelles Diskriminierungsverbot und steht in engem Bezug zu Art. 21 GRCh (Charta der Grundrechte der Europäischen Union).

Der EuGH legt den Begriff weit aus. Entscheidend ist nicht, ob eine Information eine sensible Eigenschaft ausdrücklich benennt, sondern ob sich diese Eigenschaft daraus ableiten lässt. Mit Urteil vom 01.08.2022 (C-184/20) hat der EuGH entschieden, dass auch Daten, aus denen mittels „gedanklicher Kombination oder Ableitung“ auf die sexuelle Orientierung geschlossen werden kann, unter Art. 9 DSGVO fallen. Im Ausgangsfall ging es um die namentliche Nennung des Lebensgefährten in einer öffentlichen Erklärung. Der Name ist an sich kein sensibles Datum, lässt aber Rückschlüsse auf das Geschlecht des Partners und damit auf die sexuelle Orientierung zu.

Diese Linie hat der EuGH mit Urteil vom 04.10.2024 (C-21/23, Lindenapotheke) fortgeführt. Personenangaben bei Onlinebestellungen apothekenpflichtiger Arzneimittel gelten als Gesundheitsdaten, wenn daraus Rückschlüsse auf den Gesundheitszustand möglich sind. Diese Einstufung gilt unabhängig davon, ob die Bestellung für den Nutzer selbst oder für eine dritte Person erfolgt. Es genügt, dass aus Name, Lieferadresse und bestelltem Produkt durch gedankliche Kombination auf die Gesundheit geschlossen werden kann.

Für KI-Systeme ist diese Rechtsprechung zentral. Aus Texteingaben, Bildern, Standortdaten oder Nutzungsverhalten lassen sich sensible Merkmale mit hoher Wahrscheinlichkeit ableiten. Der EDSA hält in seiner Stellungnahme 28/2024 fest, dass die Fähigkeit zum Ableiten von Schlussfolgerungen ein wesentliches Merkmal von KI-Systemen ist. Was der EuGH als „gedankliche Kombination“ beschreibt, ist bei KI die Kernfunktion.

Die Sperrwirkung: Warum Art. 6 DSGVO nicht hilft

Der wichtigste Mechanismus für die Praxis ist die Sperrwirkung des Art. 9 DSGVO. Art. 9 entfaltet als lex specialis Sperrwirkung gegenüber Art. 6 Abs. 1 DSGVO. Ein Rückgriff auf die allgemeinen Rechtmäßigkeitstatbestände ist ausgeschlossen, wenn die Ausnahmeregelungen in Art. 9 Abs. 2 und 3 DSGVO nicht einschlägig sind. Das gilt auch, wenn sensible und nicht sensible Daten gemeinsam erfasst werden. Der EuGH hat in der Rechtssache C-252/21 (Meta Platforms/Bundeskartellamt, Urteil vom 04.07.2023) bestätigt, dass ein Datensatz insgesamt an Art. 9 DSGVO zu messen ist, sobald er auch nur eine sensible Information enthält.

Für KI-Anbieter bedeutet das: Wer sich auf ein berechtigtes Interesse nach Art. 6 Abs. 1 lit. f DSGVO stützt, muss zuvor sicherstellen, dass keine sensiblen Daten verarbeitet werden. Gelingt das nicht, bleibt in den meisten Fällen nur die ausdrückliche Einwilligung nach Art. 9 Abs. 2 lit. a DSGVO oder eine technische Lösung, die den Personenbezug beseitigt.

Die Entscheidung des LG Köln (33 O 120/24): Snapchat „My AI“

Das Landgericht Köln hat diese Grundsätze mit Urteil vom 17.09.2026 auf einen KI-Chatbot angewendet. Der Bundesverband der Verbraucherzentralen (vzbv) nahm die Snap Group Limited, eine Tochtergesellschaft der US-amerikanischen Snap Inc. und Vertragspartnerin der deutschen Snapchat-Nutzer, auf Unterlassung in Anspruch. Im Mittelpunkt stand der KI-Chatbot „My AI“, über den Nutzer mit einer künstlichen Intelligenz kommunizieren können. Snapchat wies die Nutzer vor der ersten Verwendung darauf hin, dass die im Chat eingegebenen Informationen unter anderem zur Personalisierung von Werbung verwendet werden können. Dieser Hinweis musste lediglich mit „ok“ bestätigt werden.

Daneben beanstandete der vzbv die voreingestellten Häkchen bei den Anzeigenpräferenzen sowie die Vorauswahl der Themen „Alkohol“ und „Glücksspiel“ im Nutzerkonto Minderjähriger.

Das Ergebnis

Das LG Köln gab der Klage in vollem Umfang statt und verurteilte die Beklagte zur Unterlassung sowie zur Zahlung der Abmahnkosten. Der Chatbot verarbeite personenbezogene, teils sensible Daten ohne die nach Art. 9 Abs. 2 DSGVO erforderliche ausdrückliche Einwilligung. Die voreingestellten Checkboxen bei den Anzeigenpräferenzen stellten keine wirksame Einwilligung dar. Die Vorauswahl der Werbethemen „Alkohol“ und „Glücksspiel“ bei Minderjährigen verstoße zudem gegen Jugendmedienschutz- und Glücksspielrecht.

Die tragenden Argumente

Das Gericht sah den Anwendungsbereich des Art. 9 DSGVO eröffnet, weil der Chatbot Nutzer geradezu ermuntere, persönliche – auch sensible – Informationen preiszugeben. Zwar werde auf einer Unterseite des „Privacy and Safety Hub“ davon abgeraten, vertrauliche oder sensible Informationen weiterzugeben. Das sei jedoch nur ein unverbindlicher Ratschlag und kein Verbot, den zudem ein Großteil der Nutzer nicht zur Kenntnis nehmen werde. Besonders ins Gewicht fiel, dass sich der Dienst auch an Minderjährige ab 13 Jahren richtet.

Snap argumentierte, sensible Daten würden nicht absichtlich erhoben, sondern seien „aufgedrängt“. Das Gericht folgte dem nicht. Das Verbot des Art. 9 Abs. 1 DSGVO gilt nach der Rechtsprechung des EuGH unabhängig davon, ob der Verantwortliche gezielt sensible Informationen gewinnen will. Dass Snap die Daten nach eigenem Vortrag nur für „kontextbezogene“ statt personalisierte Werbung nutze, überzeugte die Kammer nicht. Snap ließ sich in den Servicebestimmungen ausdrücklich das Recht zur Nutzung für personalisierte Werbung einräumen und stellte dies auch in der Datenschutzerklärung so dar.

Hilfsweise prüfte das Gericht Art. 6 DSGVO. Weder liege eine Einwilligung vor noch ein berechtigtes Interesse nach Art. 6 Abs. 1 lit. f DSGVO, da Snap den Nutzern die erforderlichen Informationen nicht zum Zeitpunkt der Datenerhebung mitteile. Das Gericht stützte sich auf EuGH C-394/23 (Urteil vom 09.01.2025), wonach die berechtigten Interessen bereits bei der Erhebung mitzuteilen sind.

Einordnung

Das Urteil ist die erste veröffentlichte Entscheidung, die die Sperrwirkung des Art. 9 DSGVO konsequent auf die Nutzung von KI-Chatbots anwendet. Neu ist der Gedanke, dass ein Chatbot, der zur Preisgabe persönlicher Informationen einlädt, damit selbst den Anwendungsbereich des Art. 9 DSGVO eröffnet. Für Anbieter folgt daraus: Entweder sie holen eine ausdrückliche Einwilligung ein, oder sie verhindern technisch, dass sensible Eingaben gespeichert und ausgewertet werden.

Sensible Daten beim KI-Training: Der Fall Meta

Eine andere Konstellation betraf das OLG Köln im Verfahren 15 UKl 2/25 (Urteil vom 23.05.2025). Meta wollte öffentliche Beiträge erwachsener Facebook- und Instagram-Nutzer für das Training seiner Sprachmodelle nutzen. Das OLG Köln erkannte an, dass der Trainingsdatensatz auch personenbezogene Daten Dritter und sensible Daten nach Art. 9 DSGVO umfasst. Als Rechtfertigungstatbestand zog das Gericht Art. 9 Abs. 2 lit. e DSGVO heran: Sensible Daten dürfen verarbeitet werden, wenn die betroffene Person sie „offensichtlich öffentlich gemacht“ hat. Das greife aber nur für Daten, die der betroffene Nutzer selbst öffentlich eingestellt hat.

Der Eilantrag der Verbraucherzentrale NRW blieb ohne Erfolg. Die Entscheidung zeigt aber die Grenzen: Die Ausnahme des Art. 9 Abs. 2 lit. e DSGVO gilt nur für Daten, die die betroffene Person selbst bewusst veröffentlicht hat. Der EuGH verlangt dafür, dass die betroffene Person die Daten ausdrücklich und durch eine eindeutige bestätigende Handlung der Allgemeinheit zugänglich machen wollte. Für sensible Daten Dritter, für private Chats und für Eingaben in Chatbots trägt diese Ausnahme nicht.

Was sagen die Aufsichtsbehörden?

EDSA-Stellungnahme 28/2024

Der Europäische Datenschutzausschuss hat am 17.12.2024 seine Stellungnahme 28/2024 zu KI-Modellen veröffentlicht. Sie klammert die Verarbeitung besonderer Kategorien personenbezogener Daten ausdrücklich aus, hebt sie aber als Schlüsselbereich hervor, den Entwickler und Betreiber berücksichtigen müssen. Der EDSA weist zudem darauf hin, dass mit personenbezogenen Daten trainierte KI-Modelle nicht ohne Weiteres als anonym gelten können. Auch nach Abschluss des Trainings kann ein Modell also sensible Daten enthalten und wiedergeben.

Deutsche Datenschutzkonferenz und LfDI Baden-Württemberg

Die DSK betont in ihrer Orientierungshilfe vom 06.05.2024, dass sowohl bei der Eingabe als auch bei der Verarbeitung und der Ausgabe besonders geschützter Daten zu prüfen ist, ob eine Ausnahme des Art. 9 Abs. 2 DSGVO erfüllt ist. Für den medizinischen Bereich hält die DSK fest, dass eine informierte ausdrückliche Einwilligung nach Art. 9 Abs. 2 lit. a DSGVO in Betracht kommt, der Informationen über die spezifische Funktionsweise der KI-Anwendung vorausgehen müssen. Der LfDI Baden-Württemberg sieht die Rechtsgrundlage der lebenswichtigen Interessen nur für den Einsatz von KI in Notsituationen für kurzfristige Maßnahmen zum Schutz lebenswichtiger Interessen der betroffenen Person als anwendbar.

Die österreichische Datenschutzbehörde

Die DSB hat in ihrem Informationspapier zum Verhältnis zwischen DSGVO und KI-VO festgehalten: Soweit personenbezogene Daten bei der (Weiter-)Entwicklung und dem Einsatz von KI-Systemen verarbeitet werden, muss zumindest ein Rechtfertigungstatbestand des Art. 6 Abs. 1 DSGVO vorliegen. Soweit besondere Kategorien personenbezogener Daten verarbeitet werden, müssen zusätzlich die Voraussetzungen des Art. 9 Abs. 2 DSGVO eingehalten werden. Zugleich stellt die DSB klar, dass die DSGVO der Entwicklung neuer Technologien nicht entgegensteht, da Art. 5 und Art. 6 Abs. 1 DSGVO ausreichend Möglichkeiten bieten, neue Technologien in Übereinstimmung mit der DSGVO zu entwickeln und zu betreiben.

Die KI-Verordnung: Verbote und eine neue Erlaubnis

Die KI-Verordnung (VO (EU) 2024/1689) ersetzt die DSGVO nicht. Gemäß Art. 2 Abs. 7 KI-VO bleibt die DSGVO uneingeschränkt anwendbar. Sie ergänzt den Schutz sensibler Daten aber in zwei Richtungen.

Verbotene Praktiken (Art. 5 KI-VO)

Seit 02.02.2025 sind die absoluten Verbote des Art. 5 KI-VO anwendbar, die Bußgeldregeln seit 02.08.2025. Zwei dieser Verbote betreffen unmittelbar sensible Daten:

• Emotionserkennung (Art. 5 Abs. 1 lit. f KI-VO): Verboten ist die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, das System wird aus medizinischen Gründen oder Sicherheitsgründen eingesetzt. Der Grund liegt im besonderen Machtungleichgewicht in diesen Kontexten. Außerhalb von Arbeitsplatz und Bildung ist Emotionserkennung nicht verboten, gilt aber als Hochrisiko-KI. Die Feststellung physischer Zustände wie Müdigkeit zählt nach den Kommissionsleitlinien nicht zur Emotionserkennung.
• Biometrische Kategorisierung (Art. 5 Abs. 1 lit. g KI-VO): Verboten sind Systeme, die natürliche Personen auf Grundlage ihrer biometrischen Daten kategorisieren, um ihre Rasse, politischen Einstellungen, Gewerkschaftszugehörigkeit, religiösen oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen. Das Verbot gilt nicht für die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze.

Bei diesen Verboten hilft auch eine Einwilligung nicht. Sie gelten für Anbieter und Betreiber gleichermaßen. Verstöße kosten bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Europäische Kommission hat im Februar 2025 Leitlinien zu den verbotenen Praktiken veröffentlicht.

Bias-Erkennung (Art. 4a KI-VO)

Die Digital-Omnibus-Verordnung zur KI (VO (EU) 2026/1744) wurde am 24.07.2026 im Amtsblatt der EU verkündet und trat am 27.07.2026 in Kraft. Der bisherige Art. 10 Abs. 5 KI-VO wurde gestrichen und durch einen eigenständigen Art. 4a ersetzt. Neu ist vor allem die Erweiterung des Anwenderkreises: Die Rechtsgrundlage steht nicht nur Anbietern von Hochrisiko-KI zu, sondern nach Art. 4a Abs. 2 auch Betreibern von Hochrisiko-KI-Systemen sowie Anbietern und Betreibern sonstiger KI-Systeme und -Modelle, soweit dies zur Erkennung und Korrektur von Verzerrungen unbedingt erforderlich ist.

Die Erlaubnis ist an strenge Bedingungen geknüpft. Sie setzt voraus, dass die Erkennung und Korrektur von Verzerrungen durch die Verarbeitung anderer Daten, einschließlich synthetischer oder anonymisierter Daten, nicht effektiv durchgeführt werden kann. Erforderlich sind ferner Pseudonymisierung, strenge Zugriffskontrollen, ein Übermittlungsverbot an Dritte, eine Löschpflicht nach Korrektur der Verzerrung und eine dokumentierte Begründung im Verarbeitungsverzeichnis. Art. 4a KI-VO ist damit ein eng begrenztes Instrument für konkrete und dokumentierte Bias-Prüfungen. Eine pauschale Erlaubnis zur vorsorglichen Sammlung sensibler Daten lässt sich daraus nicht ableiten.

Ausblick: Der DSGVO-Omnibus

Die Europäische Kommission hat am 19.11.2025 auch Änderungen der DSGVO vorgeschlagen. Die Verarbeitung personenbezogener Daten für die Entwicklung und den Betrieb von KI-Systemen soll nach dem Entwurf als berechtigtes Interesse im Sinne von Art. 6 Abs. 1 lit. f DSGVO gelten können. Eine neue Ausnahme in Art. 9 Abs. 2 lit. k DSGVO-E soll die „residuale“ Verarbeitung sensibler Daten bei Entwicklung und Betrieb eines KI-Systems erlauben. Zudem sollen die besonderen Kategorien des Art. 9 DSGVO enger definiert werden: Geschützt wären nur Daten, die sensible Informationen direkt offenbaren.

Diese Vorschläge sind umstritten. Sie stehen im Widerspruch zur Rechtsprechung des EuGH, der eine weite Definition sensibler Daten bestätigt und ausdrücklich festgehalten hat, dass auch abgeleitete Informationen unter Art. 9 DSGVO fallen. Bis zu einer Verabschiedung gilt die DSGVO in ihrer aktuellen Fassung. Unternehmen sollten ihre Compliance nicht auf eine mögliche künftige Lockerung stützen.

Was Unternehmen in Österreich jetzt prüfen müssen

Die Rechtslage lässt sich auf drei Ebenen zusammenfassen: Eingabe, Verarbeitung und Ausgabe.

Bei der Eingabe: Wo Nutzer Freitext eingeben können, ist mit sensiblen Daten zu rechnen. Wer sie nicht verarbeiten will, muss das technisch sicherstellen, etwa durch Filter, die sensible Inhalte erkennen und nicht speichern. Ein Hinweis in den Nutzungsbedingungen genügt nicht.

Bei der Verarbeitung: Werden Chatverläufe gespeichert, an Modellanbieter übermittelt, für Training oder Werbung ausgewertet, ist für sensible Daten eine ausdrückliche Einwilligung erforderlich. Diese muss aktiv erteilt werden. Voreingestellte Checkboxen und Bestätigungsklicks auf Hinweistexte reichen nicht.

Bei der Ausgabe: Auch das Ableiten oder Erzeugen sensibler Aussagen durch das KI-System ist eine Verarbeitung. Wer aus Kundendaten Gesundheitsrisiken oder politische Neigungen prognostiziert, verarbeitet sensible Daten, selbst wenn die Eingabedaten unverfänglich waren.

Darüber hinaus gilt:

• Für KI-Anwendungen mit sensiblen Daten ist regelmäßig eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich.
• Bei Datenübermittlungen an Anbieter außerhalb der EU sind die Vorgaben der Art. 44 ff. DSGVO einzuhalten.
• Die Verwendung vorhandener Bestandsdaten für neue KI-Zwecke ist eine Zweckänderung, die gesondert zu prüfen ist.
• Verstöße gegen Art. 9 DSGVO können mit Geldbußen von bis zu 20 Mio. Euro oder 4 % des weltweiten Jahresumsatzes geahndet werden.

Rechtsschutz für Betroffene

Betroffene, deren sensible Daten von einem KI-System ohne Rechtsgrundlage verarbeitet wurden, können Auskunft nach Art. 15 DSGVO verlangen, Löschung nach Art. 17 DSGVO fordern, Beschwerde bei der Datenschutzbehörde erheben und Schadenersatz nach Art. 82 DSGVO geltend machen.

Daneben eröffnet die EuGH-Rechtsprechung einen weiteren Weg: In der Rechtssache Lindenapotheke hat der EuGH bestätigt, dass Mitgliedstaaten wettbewerbsrechtlich begründete Konkurrentenklagen wegen DSGVO-Verstößen zulassen können. Mitbewerber können einen Verstoß gegen Datenschutzvorschriften als unlautere Geschäftspraxis gerichtlich beanstanden. Für Österreich bedeutet das: Wer KI-Systeme unter Verstoß gegen Art. 9 DSGVO betreibt, riskiert nicht nur Verfahren vor der DSB, sondern auch Unterlassungsklagen von Konkurrenten nach dem UWG sowie Verbandsklagen qualifizierter Einrichtungen.

Ihr nächster Schritt

Ob ein KI-System sensible Daten verarbeitet, entscheidet über Rechtsgrundlage, Dokumentationsaufwand und Haftungsrisiko. Die auf IT-Recht und Datenschutz spezialisierten Rechtsanwält:innen von ATB.LAW prüfen Ihre KI-Anwendung auf DSGVO- und KI-VO-Konformität, gestalten Einwilligungen und Datenschutz-Folgenabschätzungen und vertreten Betroffene bei Auskunfts-, Löschungs- und Schadenersatzansprüchen.

Schreiben Sie uns an: Dr. Stefan Knotzer LL.M. (knotzer@atb.law) / Mag. Roman Taudes, LL.M. (taudes@atb.law)

FAQ: