Sanktionen und Durchsetzung der EU-KI-Verordnung
Drei Sanktionsstufen, und was es kostet, eine Aufsichtsbehörde zu täuschen.
Was ist Sanktionen und Durchsetzung der EU-KI-Verordnung?
Lernen Sie den Durchsetzungsrahmen der EU-KI-Verordnung und ihre dreistufige Sanktionsstruktur kennen. Verstehen Sie die Rollen des KI-Büros und der nationalen Marktüberwachungsbehörden, analysieren Sie beispielhafte Fallstudien zu verbotenen Praktiken, Hochrisiko-Verstößen und Informationsverstößen, die sich an den nach der Verordnung möglichen Durchsetzungsmaßnahmen orientieren, und erkennen Sie, dass die Täuschung einer Aufsichtsbehörde ein eigener Verstoß ist, mit Folgen für die beteiligten Personen.
Was Sie lernen in Sanktionen und Durchsetzung der EU-KI-Verordnung
- Die drei Sanktionsstufen und die zugehörigen Verstoßkategorien erkennen (verbotene Praktiken, Verstöße bei Hochrisiko-KI, unrichtige Angaben)
- Unterscheiden Sie die Zuständigkeiten des KI-Büros auf EU-Ebene und der nationalen Marktüberwachungsbehörden bei der Durchsetzung
- Erkennen, dass Durchsetzung über Bußgelder hinausgeht — bis hin zur Aussetzung von Systemen, Marktrücknahme und öffentlicher Bekanntmachung
- Verstehen, dass die Verordnung die Organisation mit Bußgeldern belegt, Mitarbeitende, die eine Aufsichtsbehörde wissentlich täuschen, aber dennoch mit disziplinarischen Maßnahmen und Folgen nach nationalem Recht rechnen müssen
- Die richtige Sanktionsstufe auf konkrete Compliance-Szenarien anwenden — Konformitätsbewertung, menschliche Aufsicht und Dokumentationsverstöße
Sanktionen und Durchsetzung der EU-KI-Verordnung — Trainingsschritte
-
Wirksame Durchsetzung, spürbare Folgen
Die EU-KI-Verordnung sieht drei Sanktionsstufen vor. Zuständige Behörden auf EU- und nationaler Ebene können Verstöße ahnden und den Betrieb von KI-Systemen aussetzen. Die Regeln stehen also nicht nur auf dem Papier – sie werden aktiv durchgesetzt. Sanktionen und Durchsetzung zu verstehen, hilft Ihnen, Compliance-Arbeit zu priorisieren und auf Anfragen richtig zu reagieren. In dieser Übung sehen Sie sich die Sanktionsstruktur an, analysieren Fallstudien zur Durchsetzung und bereiten sich auf eine behördliche Anfrage vor.
-
E-Mail vom Leiter der Rechtsabteilung
Eine dringende E-Mail des Leiters der Rechtsabteilung von EuroTech Dynamics zu einer behördlichen Anfrage trifft ein.
-
Übersicht der Sanktionsstufen
Alice öffnet über den Link in der E-Mail des Leiters der Rechtsabteilung die Sanktionsübersicht zur EU-KI-Verordnung. Sie informiert sich über die drei Bußgeldstufen, weitere behördliche Maßnahmen und die verhältnismäßige Bemessung von Sanktionen für kleinere Partnerunternehmen.
-
Fallstudie 1: Verbotene Praktik
Alice gelangt auf die Seite „Fallstudien zur Durchsetzung“. Der erste Fall betrifft ein Unternehmen, das KI-Emotionserkennung in Bewerbungsgesprächen ohne Offenlegung eingesetzt hat.
-
Fallstudie 2: Verstöße bei Hochrisiko-KI
Der zweite Fall betrifft ein Unternehmen, das ein Hochrisiko-KI-Kreditscoring-System eingesetzt hat, ohne die erforderliche Konformitätsbewertung oder Grundrechte-Folgenabschätzung abzuschließen.
-
Fallstudie 3: Unrichtige Angaben
Der dritte Fall betrifft ein Unternehmen, das während einer Untersuchung der nationalen Behörde unrichtige technische Dokumentation vorgelegt hat.
-
Wissenscheck: Sanktionsstufen
-
Die Antwort vorbereiten
Alice muss nun innerhalb der 30-tägigen Frist die Unterlagen für die Behördenanfrage vorbereiten. Die Behörde erwartet: KI-Systeme-Register – Inventar der eingesetzten KI-Systeme mit Risikoeinstufungen (die Verordnung nennt es nicht ausdrücklich, aber ohne Register lässt sich die Anfrage nicht beantworten) Konformitätsbewertungen – Nachweise, dass Hochrisiko-Systeme die Anforderungen erfüllen Grundrechte-Folgenabschätzungen – FRIAs für die von Artikel 27 erfassten Einsätze, etwa bei der Bewertung der Kreditwürdigkeit Aufzeichnungen zur menschlichen Aufsicht Vorfallberichte – schwerwiegende Vorfälle und deren Ergebnisse Daten-Governance-Aufzeichnungen – Trainingsdaten, Bias-Tests, Qualitätskontrollen Ohne diese Aufzeichnungen können Sie nicht antworten, und nicht zu antworten ist selbst ein Verstoß. Die Bußgelder treffen die Organisation, den Wirtschaftsakteur, nicht einzelne Beschäftigte. Dennoch gilt: Unrichtige oder irreführende Angaben sind ein eigener Verstoß der Stufe 3 Mitarbeitende, die Unterlagen wissentlich fälschen oder zurückhalten, müssen mit disziplinarischen Maßnahmen rechnen, und nationales Recht kann weitere Sanktionen vorsehen Die Anweisung einer Führungskraft rechtfertigt keine irreführende Antwort: Wenden Sie sich an Compliance oder die Rechtsabteilung
-
Wer dafür geradesteht
-
Antwortplan senden
Alice entwirft einen Antwortplan: Sie ordnet EuroTechs KI-Systeme den möglichen Sanktionsstufen zu, listet die innerhalb von 30 Tagen fälligen Unterlagen auf und legt fest, wie das Team mit der Behörde zusammenarbeitet, ohne versehentlich einen Verstoß der Stufe 3 zu riskieren.
Abdeckung der Sicherheits-Frameworks
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
NICE Framework
- OG-WRL-008 Privacy Compliance
- OG-WRL-002 Cybersecurity Policy and Planning
EU AI Act
- Art. 99 Penalties
- Art. 5 Prohibited AI practices