facebook-pixel

KI und Datenschutz 2026: Was Sich Für Unternehmen Ändert

L
Lunyb Sicherheitsteam
··8 min read

Das Jahr 2026 markiert einen Wendepunkt für den Datenschutz im Zeitalter künstlicher Intelligenz. Mit dem schrittweisen Inkrafttreten der EU-KI-Verordnung (AI Act) und ergänzenden nationalen Regelungen stehen Unternehmen in Deutschland, Österreich und der Schweiz vor neuen Pflichten. Dieser Leitfaden erklärt, was sich konkret ändert, welche Risiken entstehen und wie Sie Ihre Organisation rechtssicher aufstellen.

Die wichtigsten Änderungen im Überblick

Im Jahr 2026 treten mehrere zentrale Bestimmungen der EU-KI-Verordnung in Kraft, die das Zusammenspiel mit der DSGVO grundlegend neu definieren. Die KI-Verordnung ergänzt dabei das bestehende Datenschutzrecht, ersetzt es jedoch nicht.

Zu den wesentlichen Neuerungen gehören:

  1. Verpflichtende Risikoklassifizierung aller KI-Systeme in vier Kategorien (unannehmbar, hoch, begrenzt, minimal)
  2. Erweiterte Transparenzpflichten bei automatisierten Entscheidungen und generativer KI
  3. Grundrechte-Folgenabschätzung (FRIA) als neues Instrument neben der DSFA
  4. Kennzeichnungspflicht für KI-generierte Inhalte (Deepfakes, synthetische Medien)
  5. Verbot bestimmter KI-Praktiken, etwa Social Scoring oder emotionale Erkennung am Arbeitsplatz

Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat bereits mehrfach betont, dass sie KI-Anwendungen zu einem Prüfungsschwerpunkt macht. Ähnliche Signale kommen aus der österreichischen Datenschutzbehörde und dem Schweizer EDÖB.

Was ist die KI-Verordnung und wie wirkt sie 2026?

Die EU-KI-Verordnung (Verordnung 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Sie trat am 1. August 2024 in Kraft und wird stufenweise anwendbar – ein Großteil der Pflichten für Hochrisiko-Systeme greift 2026.

Zeitplan der Anwendbarkeit

DatumWas wird anwendbar?
Februar 2025Verbote unzulässiger KI-Praktiken, KI-Kompetenzpflicht
August 2025Pflichten für General-Purpose-AI-Modelle (GPAI)
August 2026Großteil der Pflichten für Hochrisiko-KI-Systeme
August 2027Übergangsfrist für bestehende Hochrisiko-Systeme endet

Verhältnis zur DSGVO

Die KI-Verordnung und die DSGVO gelten parallel. Wo personenbezogene Daten verarbeitet werden, bleibt die DSGVO vollständig anwendbar. Die Unterschiede zwischen nationalen und europäischen Datenschutzregeln erläutern wir ausführlich im Beitrag zu DSG vs. DSGVO.

Neue Pflichten für Unternehmen 2026

Unternehmen, die KI-Systeme entwickeln, betreiben oder einsetzen, müssen 2026 eine Reihe konkreter Pflichten erfüllen. Der Umfang hängt von der Rolle (Anbieter, Betreiber, Einführer) und der Risikoklasse ab.

1. KI-Inventarisierung und Risikoklassifizierung

Jedes Unternehmen muss bis August 2026 ein vollständiges Verzeichnis aller eingesetzten KI-Systeme führen. Dazu zählen auch eingebettete KI-Funktionen in Standardsoftware wie CRM-Systemen oder Office-Anwendungen.

2. Grundrechte-Folgenabschätzung (FRIA)

Für Hochrisiko-KI-Systeme ist eine Grundrechte-Folgenabschätzung durchzuführen. Diese ergänzt die aus Artikel 35 DSGVO bekannte Datenschutz-Folgenabschätzung und umfasst folgende Punkte:

  • Beschreibung des Verwendungszwecks und der betroffenen Personen
  • Analyse potenzieller Grundrechtsverletzungen
  • Maßnahmen zur menschlichen Aufsicht
  • Beschwerde- und Abhilfemechanismen

3. Transparenz- und Informationspflichten

Betroffene müssen informiert werden, wenn:

  • sie mit einem KI-System interagieren (z. B. Chatbot)
  • Inhalte KI-generiert sind (Text, Bild, Video, Audio)
  • biometrische oder emotionale Erkennung eingesetzt wird
  • eine automatisierte Entscheidung erhebliche Auswirkungen hat

4. KI-Kompetenz der Mitarbeitenden

Bereits seit Februar 2025 verpflichtet Artikel 4 der KI-Verordnung Unternehmen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden zu sorgen. 2026 wird dies verstärkt geprüft – auch durch die Datenschutzaufsichtsbehörden im Rahmen von Artikel 5 DSGVO (Rechenschaftspflicht).

Verbotene KI-Praktiken: Was 2026 nicht mehr erlaubt ist

Artikel 5 der KI-Verordnung listet KI-Anwendungen auf, die als unannehmbares Risiko gelten und vollständig verboten sind. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden.

Zu den verbotenen Praktiken zählen unter anderem:

  1. Social Scoring durch öffentliche oder private Akteure
  2. Emotionale Erkennung am Arbeitsplatz und in Bildungseinrichtungen
  3. Biometrische Kategorisierung nach sensiblen Merkmalen (Religion, politische Überzeugung, sexuelle Orientierung)
  4. Ungezieltes Scraping von Gesichtsbildern aus dem Internet oder CCTV zum Aufbau von Datenbanken
  5. Manipulative KI, die Schwächen von Personen ausnutzt
  6. Predictive Policing allein auf Grundlage von Profiling

Hochrisiko-KI-Systeme: Welche Anwendungen betroffen sind

Hochrisiko-KI-Systeme sind KI-Anwendungen, die erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte darstellen. Anhang III der KI-Verordnung listet konkrete Einsatzbereiche auf.

Typische Hochrisiko-Bereiche

BereichBeispiele
BeschäftigungBewerberauswahl, Leistungsbewertung, Kündigungsentscheidungen
BildungZulassung, Prüfungsbewertung, Betrugserkennung
KreditwesenBonitätsprüfung, Kreditscoring
VersicherungRisikobewertung Leben/Kranken
StrafverfolgungBeweismittelanalyse, Risikoprofile
MigrationAsyl- und Visaprüfungen
Kritische InfrastrukturEnergie-, Wasser-, Verkehrsmanagement

Anbieter solcher Systeme müssen unter anderem ein Risikomanagementsystem etablieren, Trainingsdaten auf Qualität und Repräsentativität prüfen, technische Dokumentation führen, Protokollierung (Logging) sicherstellen und eine CE-Kennzeichnung durchlaufen.

Generative KI und ChatGPT: Neue Regeln für Alltagstools

Generative KI-Modelle wie GPT, Claude, Gemini oder Mistral fallen unter die Kategorie der General-Purpose-AI-Modelle (GPAI). Für deren Anbieter gelten seit August 2025 spezielle Pflichten, die 2026 praktisch relevant werden.

Pflichten für GPAI-Anbieter

  • Technische Dokumentation und Modellkarten
  • Zusammenfassung der Trainingsdaten (Transparenzpflicht gegenüber Urhebern)
  • Einhaltung des EU-Urheberrechts
  • Für besonders leistungsfähige Modelle: Modellevaluierungen, Meldung schwerwiegender Vorfälle, Cybersicherheitsmaßnahmen

Pflichten für Unternehmen, die GPAI nutzen

Setzen Sie ChatGPT, Copilot oder vergleichbare Tools im Unternehmen ein, sind Sie Betreiber im Sinne der Verordnung. Folgende Maßnahmen sind 2026 Pflicht:

  1. Interne KI-Richtlinie mit Nutzungsregeln
  2. Prüfung des Auftragsverarbeitungsvertrags (AVV) nach Art. 28 DSGVO
  3. Verbot der Eingabe sensibler oder personenbezogener Daten ohne Rechtsgrundlage
  4. Kennzeichnung KI-generierter Inhalte nach außen
  5. Schulung der Mitarbeitenden (KI-Kompetenz)

Datenschutz bei KI: Die zentralen DSGVO-Herausforderungen

KI-Systeme kollidieren an mehreren Punkten mit den DSGVO-Grundprinzipien. 2026 werden Aufsichtsbehörden diese Themen verstärkt prüfen.

Rechtsgrundlage für das Training

Das Training von KI-Modellen mit personenbezogenen Daten benötigt eine Rechtsgrundlage nach Artikel 6 DSGVO. Berechtigtes Interesse (Art. 6 Abs. 1 lit. f) ist möglich, erfordert aber eine sorgfältige Interessenabwägung. Die EDSA-Stellungnahme 28/2024 gibt hierzu Leitlinien.

Zweckbindung und Datenminimierung

KI-Modelle werden häufig mit großen Datenmengen trainiert, die ursprünglich zu anderen Zwecken erhoben wurden. Die Zweckänderung muss nach Art. 6 Abs. 4 DSGVO geprüft werden.

Betroffenenrechte

Besonders anspruchsvoll ist die Umsetzung des Rechts auf Löschung und Berichtigung bei bereits trainierten Modellen. Praktische Hinweise, wie Sie Ihre Rechte durchsetzen, finden Sie im Beitrag zum Recht auf Vergessenwerden.

Automatisierte Entscheidungen (Art. 22 DSGVO)

Vollautomatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung sind grundsätzlich verboten. Ausnahmen bestehen bei Einwilligung, Vertragserforderlichkeit oder gesetzlicher Erlaubnis – immer mit menschlichem Eingriffsrecht.

Bußgelder und Durchsetzung 2026

Die KI-Verordnung sieht ein gestaffeltes Bußgeldsystem vor, das deutlich über die DSGVO-Sanktionen hinausgehen kann.

VerstoßMaximalbuße
Verbotene KI-Praktiken (Art. 5)35 Mio. € oder 7 % Jahresumsatz
Pflichtverstöße Hochrisiko-Systeme15 Mio. € oder 3 % Jahresumsatz
Falsche Angaben gegenüber Behörden7,5 Mio. € oder 1 % Jahresumsatz

In Deutschland wird voraussichtlich die Bundesnetzagentur als zentrale Marktüberwachungsbehörde fungieren, während die Datenschutzaufsicht (BfDI, Landesbehörden) parallel für DSGVO-Verstöße zuständig bleibt. Betroffene können in Österreich Beschwerde bei der österreichischen Datenschutzbehörde einreichen.

Praktische Umsetzung: In 7 Schritten KI-ready für 2026

Die folgende Checkliste hilft Ihnen, Ihr Unternehmen rechtzeitig vorzubereiten.

  1. KI-Inventar erstellen: Alle eingesetzten KI-Systeme erfassen, inklusive SaaS-Tools mit KI-Funktionen
  2. Risikoklassifizierung: Jedes System einer Kategorie der KI-Verordnung zuordnen
  3. Rollen klären: Prüfen, ob Sie Anbieter, Betreiber oder Einführer sind
  4. FRIA und DSFA durchführen: Für Hochrisiko-Systeme kombinierte Folgenabschätzung
  5. Richtlinien und Verträge: Interne KI-Policy, AVVs und Nutzungsbedingungen aktualisieren
  6. Schulungen: KI-Kompetenz aller betroffenen Mitarbeitenden sicherstellen
  7. Monitoring: Kontinuierliche Überwachung, Logging und Vorfallsmeldung einrichten

Praktischer Datenschutz im KI-Alltag

Neben organisatorischen Pflichten sollten Unternehmen und Privatpersonen auch technisch nachrüsten. Dazu zählen verschlüsselte DNS-Dienste, datenschutzfreundliche Browser und sichere Tools für den Umgang mit Links und Tracking.

Wenn Sie beispielsweise Links in KI-generierten Inhalten teilen, sollten Sie einen datenschutzkonformen Kürzungsdienst einsetzen, der keine übermäßigen Tracking-Daten sammelt. Dienste wie Lunyb bieten DSGVO-konforme URL-Verkürzung mit transparenter Datenverarbeitung – eine wichtige Ergänzung, wenn KI-Systeme automatisiert Inhalte mit Verlinkungen produzieren. Weitere Optionen finden Sie in unserem Vergleich der besten URL-Kürzungsdienste 2026.

Ausblick: Was kommt nach 2026?

Die Entwicklung endet 2026 nicht. Bereits angekündigt oder in Vorbereitung sind:

  • KI-Haftungsrichtlinie: Erleichterte Schadensersatzansprüche bei KI-Schäden
  • Harmonisierte Normen (CEN/CENELEC): Konkretisierung technischer Anforderungen
  • Branchenspezifische Leitlinien: Medizin, Finanz, HR
  • Sektorale Erweiterungen: Ergänzungen in Bereichen wie autonomes Fahren

Unternehmen sollten KI-Governance daher nicht als einmaliges Projekt, sondern als dauerhafte Compliance-Aufgabe verstehen.

FAQ: Häufige Fragen zu KI und Datenschutz 2026

Gilt die KI-Verordnung auch für kleine Unternehmen?

Ja, die KI-Verordnung gilt grundsätzlich unabhängig von der Unternehmensgröße. Es gibt jedoch Erleichterungen für KMU und Start-ups, etwa reduzierte Gebühren bei Konformitätsbewertungen und Zugang zu regulatorischen Sandboxes. Die Pflicht zur KI-Kompetenz und die Verbote gelten uneingeschränkt.

Dürfen Mitarbeitende ChatGPT und ähnliche Tools weiter nutzen?

Grundsätzlich ja, aber nur im Rahmen einer klaren internen KI-Richtlinie. Personenbezogene Daten oder Geschäftsgeheimnisse dürfen nur mit geeigneter Rechtsgrundlage und passendem Auftragsverarbeitungsvertrag eingegeben werden. Für Business-Accounts (z. B. ChatGPT Enterprise, Copilot for Microsoft 365) bestehen bessere Datenschutzgarantien als für kostenlose Consumer-Versionen.

Was ist der Unterschied zwischen DSFA und FRIA?

Die Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO prüft Risiken für personenbezogene Daten. Die Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 KI-Verordnung geht weiter und erfasst Risiken für alle Grundrechte, auch wenn keine personenbezogenen Daten betroffen sind. Beide Instrumente können und sollten bei KI-Hochrisikosystemen kombiniert werden.

Gilt die KI-Verordnung auch in der Schweiz?

Nein, die KI-Verordnung ist EU-Recht und gilt nicht direkt in der Schweiz. Schweizer Unternehmen, die KI-Systeme auf dem EU-Markt anbieten oder deren Ergebnisse in der EU verwendet werden, fallen jedoch unter das sogenannte Marktortprinzip. Zusätzlich plant der Bundesrat eigene KI-Regelungen, die sich an der EU orientieren.

Müssen KI-generierte Texte und Bilder gekennzeichnet werden?

Ja. Ab August 2026 müssen Anbieter von KI-Systemen sicherstellen, dass synthetische Inhalte (Texte, Bilder, Audio, Video) maschinenlesbar als KI-generiert markiert sind. Betreiber müssen Deepfakes und KI-generierte Texte zu öffentlichen Angelegenheiten gegenüber dem Publikum offenlegen. Ausnahmen gelten für künstlerische Werke und offensichtliche Satire.

Welche Rolle spielt die BfDI bei KI-Compliance?

Die BfDI bleibt zuständig für datenschutzrechtliche Aspekte von KI-Systemen nach DSGVO. Für die KI-Verordnung selbst wird in Deutschland voraussichtlich die Bundesnetzagentur federführend als Marktüberwachungsbehörde fungieren. In der Praxis werden beide Behörden eng zusammenarbeiten – insbesondere bei Hochrisiko-Systemen, die personenbezogene Daten verarbeiten.

Fazit

2026 wird das Jahr, in dem die KI-Verordnung praktisch spürbar wird. Unternehmen, die jetzt ihr KI-Inventar erstellen, Risiken klassifizieren und ihre Governance-Strukturen anpassen, verschaffen sich einen klaren Wettbewerbsvorteil. Die Kombination aus DSGVO und KI-Verordnung ist komplex, aber mit strukturiertem Vorgehen beherrschbar. Beginnen Sie mit den Grundlagen – Transparenz, Dokumentation und Schulung – und bauen Sie darauf schrittweise ein vollständiges KI-Compliance-System auf.

Protect your links with Lunyb

Create secure, trackable short links and QR codes in seconds.

Get Started Free

Related Articles