KI und Datenschutz 2026: Was Sich Für Unternehmen Ändert
Das Jahr 2026 markiert einen Wendepunkt für den Datenschutz im Zeitalter künstlicher Intelligenz. Mit dem schrittweisen Inkrafttreten der EU-KI-Verordnung (AI Act) und ergänzenden nationalen Regelungen stehen Unternehmen in Deutschland, Österreich und der Schweiz vor neuen Pflichten. Dieser Leitfaden erklärt, was sich konkret ändert, welche Risiken entstehen und wie Sie Ihre Organisation rechtssicher aufstellen.
Die wichtigsten Änderungen im Überblick
Im Jahr 2026 treten mehrere zentrale Bestimmungen der EU-KI-Verordnung in Kraft, die das Zusammenspiel mit der DSGVO grundlegend neu definieren. Die KI-Verordnung ergänzt dabei das bestehende Datenschutzrecht, ersetzt es jedoch nicht.
Zu den wesentlichen Neuerungen gehören:
- Verpflichtende Risikoklassifizierung aller KI-Systeme in vier Kategorien (unannehmbar, hoch, begrenzt, minimal)
- Erweiterte Transparenzpflichten bei automatisierten Entscheidungen und generativer KI
- Grundrechte-Folgenabschätzung (FRIA) als neues Instrument neben der DSFA
- Kennzeichnungspflicht für KI-generierte Inhalte (Deepfakes, synthetische Medien)
- Verbot bestimmter KI-Praktiken, etwa Social Scoring oder emotionale Erkennung am Arbeitsplatz
Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat bereits mehrfach betont, dass sie KI-Anwendungen zu einem Prüfungsschwerpunkt macht. Ähnliche Signale kommen aus der österreichischen Datenschutzbehörde und dem Schweizer EDÖB.
Was ist die KI-Verordnung und wie wirkt sie 2026?
Die EU-KI-Verordnung (Verordnung 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Sie trat am 1. August 2024 in Kraft und wird stufenweise anwendbar – ein Großteil der Pflichten für Hochrisiko-Systeme greift 2026.
Zeitplan der Anwendbarkeit
| Datum | Was wird anwendbar? |
|---|---|
| Februar 2025 | Verbote unzulässiger KI-Praktiken, KI-Kompetenzpflicht |
| August 2025 | Pflichten für General-Purpose-AI-Modelle (GPAI) |
| August 2026 | Großteil der Pflichten für Hochrisiko-KI-Systeme |
| August 2027 | Übergangsfrist für bestehende Hochrisiko-Systeme endet |
Verhältnis zur DSGVO
Die KI-Verordnung und die DSGVO gelten parallel. Wo personenbezogene Daten verarbeitet werden, bleibt die DSGVO vollständig anwendbar. Die Unterschiede zwischen nationalen und europäischen Datenschutzregeln erläutern wir ausführlich im Beitrag zu DSG vs. DSGVO.
Neue Pflichten für Unternehmen 2026
Unternehmen, die KI-Systeme entwickeln, betreiben oder einsetzen, müssen 2026 eine Reihe konkreter Pflichten erfüllen. Der Umfang hängt von der Rolle (Anbieter, Betreiber, Einführer) und der Risikoklasse ab.
1. KI-Inventarisierung und Risikoklassifizierung
Jedes Unternehmen muss bis August 2026 ein vollständiges Verzeichnis aller eingesetzten KI-Systeme führen. Dazu zählen auch eingebettete KI-Funktionen in Standardsoftware wie CRM-Systemen oder Office-Anwendungen.
2. Grundrechte-Folgenabschätzung (FRIA)
Für Hochrisiko-KI-Systeme ist eine Grundrechte-Folgenabschätzung durchzuführen. Diese ergänzt die aus Artikel 35 DSGVO bekannte Datenschutz-Folgenabschätzung und umfasst folgende Punkte:
- Beschreibung des Verwendungszwecks und der betroffenen Personen
- Analyse potenzieller Grundrechtsverletzungen
- Maßnahmen zur menschlichen Aufsicht
- Beschwerde- und Abhilfemechanismen
3. Transparenz- und Informationspflichten
Betroffene müssen informiert werden, wenn:
- sie mit einem KI-System interagieren (z. B. Chatbot)
- Inhalte KI-generiert sind (Text, Bild, Video, Audio)
- biometrische oder emotionale Erkennung eingesetzt wird
- eine automatisierte Entscheidung erhebliche Auswirkungen hat
4. KI-Kompetenz der Mitarbeitenden
Bereits seit Februar 2025 verpflichtet Artikel 4 der KI-Verordnung Unternehmen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden zu sorgen. 2026 wird dies verstärkt geprüft – auch durch die Datenschutzaufsichtsbehörden im Rahmen von Artikel 5 DSGVO (Rechenschaftspflicht).
Verbotene KI-Praktiken: Was 2026 nicht mehr erlaubt ist
Artikel 5 der KI-Verordnung listet KI-Anwendungen auf, die als unannehmbares Risiko gelten und vollständig verboten sind. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden.
Zu den verbotenen Praktiken zählen unter anderem:
- Social Scoring durch öffentliche oder private Akteure
- Emotionale Erkennung am Arbeitsplatz und in Bildungseinrichtungen
- Biometrische Kategorisierung nach sensiblen Merkmalen (Religion, politische Überzeugung, sexuelle Orientierung)
- Ungezieltes Scraping von Gesichtsbildern aus dem Internet oder CCTV zum Aufbau von Datenbanken
- Manipulative KI, die Schwächen von Personen ausnutzt
- Predictive Policing allein auf Grundlage von Profiling
Hochrisiko-KI-Systeme: Welche Anwendungen betroffen sind
Hochrisiko-KI-Systeme sind KI-Anwendungen, die erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte darstellen. Anhang III der KI-Verordnung listet konkrete Einsatzbereiche auf.
Typische Hochrisiko-Bereiche
| Bereich | Beispiele |
|---|---|
| Beschäftigung | Bewerberauswahl, Leistungsbewertung, Kündigungsentscheidungen |
| Bildung | Zulassung, Prüfungsbewertung, Betrugserkennung |
| Kreditwesen | Bonitätsprüfung, Kreditscoring |
| Versicherung | Risikobewertung Leben/Kranken |
| Strafverfolgung | Beweismittelanalyse, Risikoprofile |
| Migration | Asyl- und Visaprüfungen |
| Kritische Infrastruktur | Energie-, Wasser-, Verkehrsmanagement |
Anbieter solcher Systeme müssen unter anderem ein Risikomanagementsystem etablieren, Trainingsdaten auf Qualität und Repräsentativität prüfen, technische Dokumentation führen, Protokollierung (Logging) sicherstellen und eine CE-Kennzeichnung durchlaufen.
Generative KI und ChatGPT: Neue Regeln für Alltagstools
Generative KI-Modelle wie GPT, Claude, Gemini oder Mistral fallen unter die Kategorie der General-Purpose-AI-Modelle (GPAI). Für deren Anbieter gelten seit August 2025 spezielle Pflichten, die 2026 praktisch relevant werden.
Pflichten für GPAI-Anbieter
- Technische Dokumentation und Modellkarten
- Zusammenfassung der Trainingsdaten (Transparenzpflicht gegenüber Urhebern)
- Einhaltung des EU-Urheberrechts
- Für besonders leistungsfähige Modelle: Modellevaluierungen, Meldung schwerwiegender Vorfälle, Cybersicherheitsmaßnahmen
Pflichten für Unternehmen, die GPAI nutzen
Setzen Sie ChatGPT, Copilot oder vergleichbare Tools im Unternehmen ein, sind Sie Betreiber im Sinne der Verordnung. Folgende Maßnahmen sind 2026 Pflicht:
- Interne KI-Richtlinie mit Nutzungsregeln
- Prüfung des Auftragsverarbeitungsvertrags (AVV) nach Art. 28 DSGVO
- Verbot der Eingabe sensibler oder personenbezogener Daten ohne Rechtsgrundlage
- Kennzeichnung KI-generierter Inhalte nach außen
- Schulung der Mitarbeitenden (KI-Kompetenz)
Datenschutz bei KI: Die zentralen DSGVO-Herausforderungen
KI-Systeme kollidieren an mehreren Punkten mit den DSGVO-Grundprinzipien. 2026 werden Aufsichtsbehörden diese Themen verstärkt prüfen.
Rechtsgrundlage für das Training
Das Training von KI-Modellen mit personenbezogenen Daten benötigt eine Rechtsgrundlage nach Artikel 6 DSGVO. Berechtigtes Interesse (Art. 6 Abs. 1 lit. f) ist möglich, erfordert aber eine sorgfältige Interessenabwägung. Die EDSA-Stellungnahme 28/2024 gibt hierzu Leitlinien.
Zweckbindung und Datenminimierung
KI-Modelle werden häufig mit großen Datenmengen trainiert, die ursprünglich zu anderen Zwecken erhoben wurden. Die Zweckänderung muss nach Art. 6 Abs. 4 DSGVO geprüft werden.
Betroffenenrechte
Besonders anspruchsvoll ist die Umsetzung des Rechts auf Löschung und Berichtigung bei bereits trainierten Modellen. Praktische Hinweise, wie Sie Ihre Rechte durchsetzen, finden Sie im Beitrag zum Recht auf Vergessenwerden.
Automatisierte Entscheidungen (Art. 22 DSGVO)
Vollautomatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung sind grundsätzlich verboten. Ausnahmen bestehen bei Einwilligung, Vertragserforderlichkeit oder gesetzlicher Erlaubnis – immer mit menschlichem Eingriffsrecht.
Bußgelder und Durchsetzung 2026
Die KI-Verordnung sieht ein gestaffeltes Bußgeldsystem vor, das deutlich über die DSGVO-Sanktionen hinausgehen kann.
| Verstoß | Maximalbuße |
|---|---|
| Verbotene KI-Praktiken (Art. 5) | 35 Mio. € oder 7 % Jahresumsatz |
| Pflichtverstöße Hochrisiko-Systeme | 15 Mio. € oder 3 % Jahresumsatz |
| Falsche Angaben gegenüber Behörden | 7,5 Mio. € oder 1 % Jahresumsatz |
In Deutschland wird voraussichtlich die Bundesnetzagentur als zentrale Marktüberwachungsbehörde fungieren, während die Datenschutzaufsicht (BfDI, Landesbehörden) parallel für DSGVO-Verstöße zuständig bleibt. Betroffene können in Österreich Beschwerde bei der österreichischen Datenschutzbehörde einreichen.
Praktische Umsetzung: In 7 Schritten KI-ready für 2026
Die folgende Checkliste hilft Ihnen, Ihr Unternehmen rechtzeitig vorzubereiten.
- KI-Inventar erstellen: Alle eingesetzten KI-Systeme erfassen, inklusive SaaS-Tools mit KI-Funktionen
- Risikoklassifizierung: Jedes System einer Kategorie der KI-Verordnung zuordnen
- Rollen klären: Prüfen, ob Sie Anbieter, Betreiber oder Einführer sind
- FRIA und DSFA durchführen: Für Hochrisiko-Systeme kombinierte Folgenabschätzung
- Richtlinien und Verträge: Interne KI-Policy, AVVs und Nutzungsbedingungen aktualisieren
- Schulungen: KI-Kompetenz aller betroffenen Mitarbeitenden sicherstellen
- Monitoring: Kontinuierliche Überwachung, Logging und Vorfallsmeldung einrichten
Praktischer Datenschutz im KI-Alltag
Neben organisatorischen Pflichten sollten Unternehmen und Privatpersonen auch technisch nachrüsten. Dazu zählen verschlüsselte DNS-Dienste, datenschutzfreundliche Browser und sichere Tools für den Umgang mit Links und Tracking.
Wenn Sie beispielsweise Links in KI-generierten Inhalten teilen, sollten Sie einen datenschutzkonformen Kürzungsdienst einsetzen, der keine übermäßigen Tracking-Daten sammelt. Dienste wie Lunyb bieten DSGVO-konforme URL-Verkürzung mit transparenter Datenverarbeitung – eine wichtige Ergänzung, wenn KI-Systeme automatisiert Inhalte mit Verlinkungen produzieren. Weitere Optionen finden Sie in unserem Vergleich der besten URL-Kürzungsdienste 2026.
Ausblick: Was kommt nach 2026?
Die Entwicklung endet 2026 nicht. Bereits angekündigt oder in Vorbereitung sind:
- KI-Haftungsrichtlinie: Erleichterte Schadensersatzansprüche bei KI-Schäden
- Harmonisierte Normen (CEN/CENELEC): Konkretisierung technischer Anforderungen
- Branchenspezifische Leitlinien: Medizin, Finanz, HR
- Sektorale Erweiterungen: Ergänzungen in Bereichen wie autonomes Fahren
Unternehmen sollten KI-Governance daher nicht als einmaliges Projekt, sondern als dauerhafte Compliance-Aufgabe verstehen.
FAQ: Häufige Fragen zu KI und Datenschutz 2026
Gilt die KI-Verordnung auch für kleine Unternehmen?
Ja, die KI-Verordnung gilt grundsätzlich unabhängig von der Unternehmensgröße. Es gibt jedoch Erleichterungen für KMU und Start-ups, etwa reduzierte Gebühren bei Konformitätsbewertungen und Zugang zu regulatorischen Sandboxes. Die Pflicht zur KI-Kompetenz und die Verbote gelten uneingeschränkt.
Dürfen Mitarbeitende ChatGPT und ähnliche Tools weiter nutzen?
Grundsätzlich ja, aber nur im Rahmen einer klaren internen KI-Richtlinie. Personenbezogene Daten oder Geschäftsgeheimnisse dürfen nur mit geeigneter Rechtsgrundlage und passendem Auftragsverarbeitungsvertrag eingegeben werden. Für Business-Accounts (z. B. ChatGPT Enterprise, Copilot for Microsoft 365) bestehen bessere Datenschutzgarantien als für kostenlose Consumer-Versionen.
Was ist der Unterschied zwischen DSFA und FRIA?
Die Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO prüft Risiken für personenbezogene Daten. Die Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 KI-Verordnung geht weiter und erfasst Risiken für alle Grundrechte, auch wenn keine personenbezogenen Daten betroffen sind. Beide Instrumente können und sollten bei KI-Hochrisikosystemen kombiniert werden.
Gilt die KI-Verordnung auch in der Schweiz?
Nein, die KI-Verordnung ist EU-Recht und gilt nicht direkt in der Schweiz. Schweizer Unternehmen, die KI-Systeme auf dem EU-Markt anbieten oder deren Ergebnisse in der EU verwendet werden, fallen jedoch unter das sogenannte Marktortprinzip. Zusätzlich plant der Bundesrat eigene KI-Regelungen, die sich an der EU orientieren.
Müssen KI-generierte Texte und Bilder gekennzeichnet werden?
Ja. Ab August 2026 müssen Anbieter von KI-Systemen sicherstellen, dass synthetische Inhalte (Texte, Bilder, Audio, Video) maschinenlesbar als KI-generiert markiert sind. Betreiber müssen Deepfakes und KI-generierte Texte zu öffentlichen Angelegenheiten gegenüber dem Publikum offenlegen. Ausnahmen gelten für künstlerische Werke und offensichtliche Satire.
Welche Rolle spielt die BfDI bei KI-Compliance?
Die BfDI bleibt zuständig für datenschutzrechtliche Aspekte von KI-Systemen nach DSGVO. Für die KI-Verordnung selbst wird in Deutschland voraussichtlich die Bundesnetzagentur federführend als Marktüberwachungsbehörde fungieren. In der Praxis werden beide Behörden eng zusammenarbeiten – insbesondere bei Hochrisiko-Systemen, die personenbezogene Daten verarbeiten.
Fazit
2026 wird das Jahr, in dem die KI-Verordnung praktisch spürbar wird. Unternehmen, die jetzt ihr KI-Inventar erstellen, Risiken klassifizieren und ihre Governance-Strukturen anpassen, verschaffen sich einen klaren Wettbewerbsvorteil. Die Kombination aus DSGVO und KI-Verordnung ist komplex, aber mit strukturiertem Vorgehen beherrschbar. Beginnen Sie mit den Grundlagen – Transparenz, Dokumentation und Schulung – und bauen Sie darauf schrittweise ein vollständiges KI-Compliance-System auf.
Protect your links with Lunyb
Create secure, trackable short links and QR codes in seconds.
Get Started FreeRelated Articles
Recht auf Vergessenwerden: So Stellen Sie den Antrag (2026)
Das Recht auf Vergessenwerden nach Art. 17 DSGVO ermöglicht Ihnen die Löschung personenbezogener Daten. Dieser Leitfaden zeigt Schritt für Schritt, wie Sie einen wirksamen Antrag stellen, welche Fristen gelten und was Sie bei Ablehnung tun können – inklusive Mustertext.
Digitaler Fußabdruck: So Kontrollieren Sie Ihn (Leitfaden 2026)
Ihr digitaler Fußabdruck wächst mit jedem Klick. Dieser Leitfaden zeigt Ihnen in sieben konkreten Schritten, wie Sie Ihre Online-Spuren systematisch reduzieren, Ihre DSGVO-Rechte nutzen und Ihre Privatsphäre nachhaltig schützen.
Datenschutz in Deutschland: Ihre Rechte im Überblick (2026)
Deutschland hat eines der strengsten Datenschutzgesetze weltweit. Dieser Leitfaden erklärt verständlich Ihre Rechte nach DSGVO und BDSG – von der Auskunft bis zum Widerspruch – und zeigt, wie Sie diese praktisch durchsetzen können.
Datenschutz für Schweizer Unternehmen: Der komplette Leitfaden 2026
Seit der revDSG-Revision stehen Schweizer Unternehmen vor strengeren Datenschutzpflichten. Dieser Leitfaden zeigt, welche Anforderungen 2026 gelten, wie Sie Bussen vermeiden und Ihr Unternehmen rechtskonform aufstellen. Mit praktischer 10-Schritte-Roadmap und Vergleich zur DSGVO.