facebook-pixel

KI-Gesetz der EU: Was Sich 2026 Ändert (Vollständiger Leitfaden)

L
Lunyb Sicherheitsteam
··8 min read

Mit dem KI-Gesetz der EU (AI Act) tritt die weltweit erste umfassende Regulierung künstlicher Intelligenz in Kraft. Das Gesetz verändert grundlegend, wie KI-Systeme in der Europäischen Union entwickelt, vertrieben und eingesetzt werden dürfen. In diesem Leitfaden erfahren Sie, was sich 2026 konkret ändert, welche Pflichten auf Unternehmen zukommen und welche Rechte Bürgerinnen und Bürger erhalten.

Was ist das KI-Gesetz der EU?

Das KI-Gesetz der EU (offiziell: Verordnung (EU) 2024/1689) ist ein horizontaler Rechtsrahmen, der den Einsatz von Systemen künstlicher Intelligenz in allen Mitgliedstaaten einheitlich reguliert. Es wurde am 13. Juni 2024 verabschiedet und trat am 1. August 2024 in Kraft. Die Anwendung erfolgt in gestaffelten Schritten bis 2027.

Ziel des Gesetzes ist es, Vertrauen in KI-Technologien zu schaffen, Grundrechte zu schützen und gleichzeitig Innovation in Europa zu ermöglichen. Die Verordnung folgt einem risikobasierten Ansatz: Je höher das potenzielle Risiko eines KI-Systems für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen.

Die vier Risikoklassen im Überblick

Das KI-Gesetz unterscheidet vier Risikokategorien, nach denen alle KI-Systeme eingestuft werden:

RisikoklasseBeispieleRechtsfolge
Unannehmbares RisikoSocial Scoring, manipulative Systeme, Echtzeit-Biometrie im öffentlichen RaumVerboten
Hohes RisikoKI in kritischer Infrastruktur, Personalauswahl, Kreditvergabe, MedizinprodukteStrenge Pflichten
Begrenztes RisikoChatbots, Deepfakes, EmotionserkennungTransparenzpflichten
Minimales RisikoSpam-Filter, KI in VideospielenKeine besonderen Pflichten

Zeitplan: Wann greifen welche Regeln?

Das KI-Gesetz wird schrittweise wirksam. Für Unternehmen und Behörden ist es entscheidend, die konkreten Fristen zu kennen, um rechtzeitig Compliance-Maßnahmen umzusetzen.

Wichtige Stichtage

  1. 2. Februar 2025: Verbote verbotener KI-Praktiken und Pflicht zur KI-Kompetenz treten in Kraft.
  2. 2. August 2025: Regeln für General-Purpose-AI-Modelle (etwa große Sprachmodelle) werden anwendbar. Mitgliedstaaten benennen nationale Aufsichtsbehörden.
  3. 2. August 2026: Die Mehrheit der Pflichten wird wirksam, darunter die Anforderungen an Hochrisiko-KI-Systeme in Anhang III.
  4. 2. August 2027: Vollständige Anwendung auch für Hochrisiko-Systeme, die in regulierte Produkte eingebettet sind.

Verbotene KI-Praktiken: Was ist nicht mehr erlaubt?

Seit Februar 2025 sind bestimmte KI-Anwendungen in der EU vollständig untersagt, weil sie als unvereinbar mit europäischen Werten und Grundrechten gelten.

Die wichtigsten Verbote

  • Social Scoring durch Behörden oder Private, das Menschen auf Basis ihres sozialen Verhaltens benachteiligt
  • Manipulative Systeme, die unterschwellig Verhalten steuern und Schaden verursachen können
  • Ausnutzung von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer Lage
  • Biometrische Kategorisierung nach sensiblen Merkmalen wie Religion, politischer Überzeugung oder sexueller Orientierung
  • Echtzeit-Fernidentifizierung im öffentlichen Raum durch Strafverfolgungsbehörden (mit engen Ausnahmen)
  • Ungezieltes Scraping von Gesichtsbildern aus dem Internet zum Aufbau von Gesichtserkennungsdatenbanken
  • Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen

Pflichten für Hochrisiko-KI-Systeme

Hochrisiko-KI-Systeme sind der Kern der Regulierung. Sie dürfen weiterhin eingesetzt werden, aber nur unter strengen Auflagen. Dazu gehören KI in kritischer Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration und Justiz.

Anforderungen an Anbieter

  1. Risikomanagementsystem: Fortlaufende Identifikation und Minderung von Risiken über den gesamten Lebenszyklus.
  2. Daten-Governance: Trainings-, Validierungs- und Testdaten müssen repräsentativ, fehlerfrei und vollständig sein.
  3. Technische Dokumentation: Umfassende Unterlagen, die Konformität belegen.
  4. Transparenz: Nutzer müssen das System verstehen und korrekt einsetzen können.
  5. Menschliche Aufsicht: Entscheidungen müssen überwacht und gegebenenfalls korrigiert werden können.
  6. Robustheit, Genauigkeit, Cybersicherheit: Angemessenes technisches Niveau während des gesamten Einsatzes.
  7. Konformitätsbewertung: Vor Markteintritt muss die Einhaltung aller Anforderungen geprüft und dokumentiert werden.
  8. CE-Kennzeichnung: Kennzeichnung und Registrierung in der EU-Datenbank.

Regeln für generative KI und Sprachmodelle

Für General-Purpose-AI-Modelle (GPAI) wie große Sprachmodelle gelten eigene Regeln, die seit August 2025 greifen. Diese Modelle werden in viele Produkte integriert und haben weitreichende Wirkung.

Grundpflichten für alle GPAI-Anbieter

  • Erstellung und Pflege technischer Dokumentation
  • Bereitstellung von Informationen für nachgelagerte Anbieter
  • Einhaltung des EU-Urheberrechts, insbesondere bei Trainingsdaten
  • Veröffentlichung einer Zusammenfassung der verwendeten Trainingsdaten

Zusätzliche Pflichten für Modelle mit systemischem Risiko

Modelle mit besonders großer Rechenleistung (ab 10^25 FLOPs) gelten als Modelle mit systemischem Risiko. Für sie gelten strengere Anforderungen:

  • Modellbewertung und adversariales Testen
  • Risikobewertung und -minderung auf EU-Ebene
  • Meldung schwerwiegender Vorfälle an das AI Office
  • Erhöhte Cybersicherheitsanforderungen

Transparenzpflichten bei KI im Alltag

Auch wenn ein KI-System nicht hochriskant ist, bestehen in vielen Fällen Transparenzpflichten. Diese schützen Verbraucherinnen und Verbraucher vor Täuschung und ermöglichen informierte Entscheidungen.

Konkrete Kennzeichnungspflichten

  • Chatbots: Nutzer müssen informiert werden, dass sie mit einer KI kommunizieren.
  • Deepfakes: KI-generierte oder manipulierte Bilder, Videos und Audios müssen als solche gekennzeichnet werden.
  • KI-generierte Texte: Texte zu Themen von öffentlichem Interesse müssen als KI-generiert erkennbar sein.
  • Emotionserkennung und biometrische Kategorisierung: Betroffene müssen über den Einsatz informiert werden.

Diese Pflichten greifen eng mit dem Datenschutzrecht in Deutschland ineinander, insbesondere mit den Transparenzpflichten der DSGVO.

Welche Rechte haben Bürgerinnen und Bürger?

Das KI-Gesetz stärkt die Position von Betroffenen erheblich. Wer von einer Entscheidung eines Hochrisiko-KI-Systems betroffen ist, erhält neue Rechte, die über die DSGVO hinausgehen.

Die wichtigsten Betroffenenrechte

  1. Recht auf Erklärung: Bei Entscheidungen durch Hochrisiko-KI besteht ein Anspruch auf klare und sinnvolle Erklärung der Rolle der KI im Entscheidungsprozess.
  2. Beschwerderecht: Jede betroffene Person kann bei der zuständigen nationalen Behörde Beschwerde einlegen.
  3. Information bei Deepfakes und Chatbots: Anspruch auf transparente Kennzeichnung.
  4. Schutz vor verbotenen Praktiken: Keine Betroffenheit durch Social Scoring, manipulative Systeme oder unzulässige biometrische Überwachung.

Wer den eigenen digitalen Fußabdruck im Zusammenhang mit KI-Systemen besser verstehen möchte, findet weitere Hinweise im Leitfaden zum digitalen Fußabdruck.

Aufsicht und Sanktionen in Deutschland

Die Durchsetzung des KI-Gesetzes erfolgt auf EU- und nationaler Ebene. In Deutschland wird die Marktüberwachung voraussichtlich bei der Bundesnetzagentur konzentriert, während sektorale Behörden wie die BfDI, BaFin oder das BSI weiterhin zuständige Rollen übernehmen.

Bußgelder im Überblick

VerstoßMaximales Bußgeld
Einsatz verbotener KI-Praktiken35 Mio. € oder 7 % des weltweiten Jahresumsatzes
Verstoß gegen Pflichten für Hochrisiko-KI15 Mio. € oder 3 % des Jahresumsatzes
Falsche Informationen gegenüber Behörden7,5 Mio. € oder 1 % des Jahresumsatzes

Für kleine und mittlere Unternehmen sowie Start-ups gelten reduzierte Höchstbeträge, um unverhältnismäßige Belastungen zu vermeiden.

Was Unternehmen jetzt tun sollten

Unternehmen, die KI entwickeln, vertreiben oder einsetzen, müssen aktiv werden. Ein strukturiertes Vorgehen hilft, Compliance effizient herzustellen und rechtliche Risiken zu minimieren.

Schritt-für-Schritt-Plan zur KI-Compliance

  1. KI-Inventar erstellen: Alle eingesetzten oder entwickelten KI-Systeme erfassen.
  2. Risikoklassifizierung durchführen: Jedes System einer Risikoklasse zuordnen.
  3. Gap-Analyse: Abgleich zwischen Ist-Zustand und gesetzlichen Anforderungen.
  4. KI-Governance einführen: Verantwortlichkeiten, Prozesse und Richtlinien definieren.
  5. KI-Kompetenz aufbauen: Schulungen für Mitarbeitende, die KI entwickeln oder nutzen.
  6. Technische und organisatorische Maßnahmen umsetzen: Dokumentation, Monitoring, menschliche Aufsicht.
  7. Konformitätsbewertung einleiten: Für Hochrisiko-Systeme rechtzeitig vor Markteintritt.
  8. Vorfallmeldung vorbereiten: Prozesse für die Meldung schwerwiegender Vorfälle etablieren.

Zusammenspiel mit anderen Regulierungen

Das KI-Gesetz steht nicht allein, sondern ergänzt eine Vielzahl bestehender Regelungen. Für die Praxis besonders relevant ist das Zusammenspiel mit der DSGVO, dem Digital Services Act, dem Digital Markets Act und sektoralen Produktvorschriften.

Besonders wichtig: DSGVO und KI-Gesetz

Die DSGVO bleibt vollständig anwendbar, wenn KI personenbezogene Daten verarbeitet. Das KI-Gesetz ergänzt die DSGVO um systembezogene Anforderungen, ersetzt sie aber nicht. Die BfDI hat mehrfach betont, dass beide Rechtsrahmen parallel zu erfüllen sind.

Praktische Auswirkungen auf digitale Dienste

Viele digitale Dienste nutzen heute KI, oft ohne dass Nutzer dies bewusst wahrnehmen. Auch im Bereich Online-Sicherheit gewinnen transparente, DSGVO-konforme Werkzeuge an Bedeutung. Dienste wie Lunyb setzen auf datensparsame Verfahren und klare Transparenz, etwa beim Umgang mit gekürzten Links oder QR-Codes, ohne nutzerprofilierende KI-Analysen einzusetzen. Wer verstehen möchte, wie moderne Link-Verwaltung ohne unnötige Datenerhebung funktioniert, findet im Beitrag zum URL-Kürzen weitere Informationen.

Auch im Kampf gegen KI-gestützte Betrugsmaschen wie Voice-Cloning oder Deepfake-Anrufe bleibt die Wachsamkeit der Nutzer entscheidend. Verdächtige Nummern sollten konsequent gemeldet werden – wie dies funktioniert, erklärt der Leitfaden zum Melden einer Betrugsnummer.

Kritik und offene Fragen

Das KI-Gesetz wird kontrovers diskutiert. Befürworter sehen darin einen weltweit beispielgebenden Rahmen, der Grundrechte schützt und europäische Werte verankert. Kritiker befürchten Wettbewerbsnachteile für europäische Unternehmen, insbesondere kleinere KI-Entwickler und Start-ups.

Zentrale Kritikpunkte

  • Hohe Compliance-Kosten für KMU und Start-ups
  • Unklare Abgrenzung zwischen Risikoklassen in Grenzfällen
  • Komplexität bei General-Purpose-AI-Modellen
  • Mögliche Verzögerung von Innovationen in Europa
  • Enforcement-Kapazitäten der nationalen Behörden

Die EU-Kommission hat Leitlinien und Verhaltenskodizes angekündigt, um Rechtsunsicherheit zu reduzieren. Auch ein freiwilliger KI-Pakt soll Unternehmen helfen, sich frühzeitig auf die Regeln einzustellen.

FAQ: Häufige Fragen zum KI-Gesetz der EU

Ab wann gilt das KI-Gesetz vollständig?

Das KI-Gesetz trat am 1. August 2024 in Kraft, wird aber gestaffelt wirksam. Verbote gelten seit Februar 2025, GPAI-Regeln seit August 2025, die meisten Pflichten ab August 2026 und die vollständige Anwendung ab August 2027.

Gilt das KI-Gesetz auch für Unternehmen außerhalb der EU?

Ja. Das Gesetz gilt extraterritorial: Jeder Anbieter, dessen KI-System in der EU in Verkehr gebracht wird oder dessen Ergebnisse in der EU verwendet werden, fällt unter die Verordnung – unabhängig vom Sitz des Unternehmens.

Welche Behörde ist in Deutschland zuständig?

Die konkrete nationale Zuständigkeit wird derzeit gesetzlich geregelt. Voraussichtlich übernimmt die Bundesnetzagentur eine zentrale Koordinationsrolle, während die BfDI für Datenschutzfragen und sektorale Behörden wie BaFin oder BSI für Fachbereiche zuständig bleiben.

Müssen auch KMU das KI-Gesetz einhalten?

Ja, grundsätzlich gelten die Pflichten für alle Unternehmen. Für KMU und Start-ups sieht das Gesetz jedoch Erleichterungen vor, etwa reduzierte Bußgelder, vereinfachte Dokumentationspflichten und den Zugang zu regulatorischen Sandboxes zur Erprobung von KI-Innovationen.

Was ist der Unterschied zwischen KI-Gesetz und DSGVO?

Die DSGVO regelt den Schutz personenbezogener Daten, während das KI-Gesetz KI-Systeme als Produkte und ihre Risiken reguliert. Beide Regelungen gelten parallel: Verarbeitet ein KI-System personenbezogene Daten, müssen beide Rechtsrahmen eingehalten werden.

Fazit

Das KI-Gesetz der EU markiert einen Wendepunkt in der Regulierung künstlicher Intelligenz. Für Unternehmen bedeutet es erheblichen Umsetzungsaufwand, bietet aber zugleich Rechtssicherheit und die Chance, Vertrauen in KI-Produkte zu stärken. Bürgerinnen und Bürger erhalten neue Schutzrechte und mehr Transparenz. Wer frühzeitig mit der Vorbereitung beginnt, Risikoklassen klar einordnet und KI-Governance etabliert, ist für die vollständige Anwendung ab 2026 und 2027 gut gerüstet. Weitere praktische Werkzeuge rund um Datenschutz und Online-Transparenz – etwa das Erstellen sicherer QR-Codes – finden Sie im Beitrag QR Code kostenlos erstellen.

Protect your links with Lunyb

Create secure, trackable short links and QR codes in seconds.

Get Started Free

Related Articles