Sanktionen und Durchsetzung der EU-KI-Verordnung

Sanktionen und Durchsetzung der EU-KI-Verordnung

Drei Sanktionsstufen, und was es kostet, eine Aufsichtsbehörde zu täuschen.

Was ist Sanktionen und Durchsetzung der EU-KI-Verordnung?

Lernen Sie den Durchsetzungsrahmen der EU-KI-Verordnung und ihre dreistufige Sanktionsstruktur kennen. Verstehen Sie die Rollen des KI-Büros und der nationalen Marktüberwachungsbehörden, analysieren Sie beispielhafte Fallstudien zu verbotenen Praktiken, Hochrisiko-Verstößen und Informationsverstößen, die sich an den nach der Verordnung möglichen Durchsetzungsmaßnahmen orientieren, und erkennen Sie, dass die Täuschung einer Aufsichtsbehörde ein eigener Verstoß ist, mit Folgen für die beteiligten Personen.

Was Sie lernen in Sanktionen und Durchsetzung der EU-KI-Verordnung

Sanktionen und Durchsetzung der EU-KI-Verordnung — Trainingsschritte

  1. Wirksame Durchsetzung, spürbare Folgen

    Die EU-KI-Verordnung sieht drei Sanktionsstufen vor. Zuständige Behörden auf EU- und nationaler Ebene können Verstöße ahnden und den Betrieb von KI-Systemen aussetzen. Die Regeln stehen also nicht nur auf dem Papier – sie werden aktiv durchgesetzt. Sanktionen und Durchsetzung zu verstehen, hilft Ihnen, Compliance-Arbeit zu priorisieren und auf Anfragen richtig zu reagieren. In dieser Übung sehen Sie sich die Sanktionsstruktur an, analysieren Fallstudien zur Durchsetzung und bereiten sich auf eine behördliche Anfrage vor.

  2. E-Mail vom Leiter der Rechtsabteilung

    Eine dringende E-Mail des Leiters der Rechtsabteilung von EuroTech Dynamics zu einer behördlichen Anfrage trifft ein.

  3. Übersicht der Sanktionsstufen

    Alice öffnet über den Link in der E-Mail des Leiters der Rechtsabteilung die Sanktionsübersicht zur EU-KI-Verordnung. Sie informiert sich über die drei Bußgeldstufen, weitere behördliche Maßnahmen und die verhältnismäßige Bemessung von Sanktionen für kleinere Partnerunternehmen.

  4. Fallstudie 1: Verbotene Praktik

    Alice gelangt auf die Seite „Fallstudien zur Durchsetzung“. Der erste Fall betrifft ein Unternehmen, das KI-Emotionserkennung in Bewerbungsgesprächen ohne Offenlegung eingesetzt hat.

  5. Fallstudie 2: Verstöße bei Hochrisiko-KI

    Der zweite Fall betrifft ein Unternehmen, das ein Hochrisiko-KI-Kreditscoring-System eingesetzt hat, ohne die erforderliche Konformitätsbewertung oder Grundrechte-Folgenabschätzung abzuschließen.

  6. Fallstudie 3: Unrichtige Angaben

    Der dritte Fall betrifft ein Unternehmen, das während einer Untersuchung der nationalen Behörde unrichtige technische Dokumentation vorgelegt hat.

  7. Wissenscheck: Sanktionsstufen

  8. Die Antwort vorbereiten

    Alice muss nun innerhalb der 30-tägigen Frist die Unterlagen für die Behördenanfrage vorbereiten. Die Behörde erwartet: KI-Systeme-Register – Inventar der eingesetzten KI-Systeme mit Risikoeinstufungen (die Verordnung nennt es nicht ausdrücklich, aber ohne Register lässt sich die Anfrage nicht beantworten) Konformitätsbewertungen – Nachweise, dass Hochrisiko-Systeme die Anforderungen erfüllen Grundrechte-Folgenabschätzungen – FRIAs für die von Artikel 27 erfassten Einsätze, etwa bei der Bewertung der Kreditwürdigkeit Aufzeichnungen zur menschlichen Aufsicht Vorfallberichte – schwerwiegende Vorfälle und deren Ergebnisse Daten-Governance-Aufzeichnungen – Trainingsdaten, Bias-Tests, Qualitätskontrollen Ohne diese Aufzeichnungen können Sie nicht antworten, und nicht zu antworten ist selbst ein Verstoß. Die Bußgelder treffen die Organisation, den Wirtschaftsakteur, nicht einzelne Beschäftigte. Dennoch gilt: Unrichtige oder irreführende Angaben sind ein eigener Verstoß der Stufe 3 Mitarbeitende, die Unterlagen wissentlich fälschen oder zurückhalten, müssen mit disziplinarischen Maßnahmen rechnen, und nationales Recht kann weitere Sanktionen vorsehen Die Anweisung einer Führungskraft rechtfertigt keine irreführende Antwort: Wenden Sie sich an Compliance oder die Rechtsabteilung

  9. Wer dafür geradesteht

  10. Antwortplan senden

    Alice entwirft einen Antwortplan: Sie ordnet EuroTechs KI-Systeme den möglichen Sanktionsstufen zu, listet die innerhalb von 30 Tagen fälligen Unterlagen auf und legt fest, wie das Team mit der Behörde zusammenarbeitet, ohne versehentlich einen Verstoß der Stufe 3 zu riskieren.

Abdeckung der Sicherheits-Frameworks

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind

NICE Framework

  • OG-WRL-008 Privacy Compliance
  • OG-WRL-002 Cybersecurity Policy and Planning

EU AI Act

  • Art. 99 Penalties
  • Art. 5 Prohibited AI practices