Meldung von KI-Vorfällen

Was ist Meldung von KI-Vorfällen?

Article 73 of the EU AI Act requires providers and deployers of high-risk AI systems to report serious incidents to market surveillance authorities within strict deadlines. In this exercise, you investigate an AI-powered customer onboarding system that has been rejecting applicants from specific regions, determine whether the anomaly meets the Article 73 threshold for a serious incident, contain the damage, file the report, and resist vendor pressure to delay.

Was Sie lernen in Meldung von KI-Vorfällen

• Identify what constitutes a 'serious incident' under Article 73 of the EU AI Act
• Die richtige Reaktionsreihenfolge anwenden: eindämmen, untersuchen/melden, beheben
• Die Meldefristen für Anbieter und Betreiber von Hochrisiko-KI-Systemen verstehen
• Druck zur Verzögerung der verpflichtenden Vorfallsmeldung erkennen und nicht nachgeben
• KI-Vorfälle präzise dokumentieren, damit sie an Marktüberwachungsbehörden übermittelt werden können

Meldung von KI-Vorfällen — Trainingsschritte

1. Article 73: Serious Incident Reporting

   Under Article 73 of the EU AI Act, providers and deployers of high-risk AI systems must report 'serious incidents' to the relevant market surveillance authority. A serious incident is one that may constitute a breach of fundamental rights, or causes death, serious damage to health, property, or the environment. Reporting timelines are strict, and both providers and deployers have distinct obligations. Today, one of your company's AI systems has triggered exactly this scenario.

2. Eine dringende Support-Eskalation

   Alice erhält eine dringende E-Mail vom Kundenservice. Das Team hat im System OnboardAI, dem KI-gestützten Tool für die Aufnahme neuer Kundinnen und Kunden, ein besorgniserregendes Muster entdeckt.

3. Das KI-Dashboard prüfen

   Alice öffnet das KI-Monitoring-Dashboard, um die Auffälligkeit mit belastbaren Daten zu prüfen. Das Dashboard erfasst die Kennzahlen aller KI-Systeme, darunter Genehmigungsquoten, Alarme und Betriebskosten.

4. Die Anomalie bestätigen

   Das Dashboard bestätigt, was der Kundenservice gemeldet hat. Der kritische Alarm zeigt ein klares, systematisches Muster regionaler Diskriminierung durch das System OnboardAI.

5. Ist das ein meldepflichtiger Vorfall?

6. Sofortige Eindämmung

   The data is clear. Now Alice must determine: does this meet the threshold for a 'serious incident' under Article 73? The answer is yes. Systematic discrimination affecting 230 applicants constitutes a potential breach of the right to non-discrimination - a fundamental right protected under EU law. Key factors that make this reportable: Systematic pattern: Not a random error, but a consistent 0% approval (100% rejection) rate sustained over 7 days Fundamental rights impact: The right to non-discrimination is a protected fundamental right Significant scale: 230 people denied access to services based on their region Ongoing harm: The system is still actively rejecting applicants right now Under Article 73, a serious incident includes any event that may constitute a breach of obligations under Union law intended to protect fundamental rights. Regional discrimination in access to services qualifies clearly. Before investigating the root cause or filing a formal report, the first priority is containment. The OnboardAI system is still actively rejecting applicants from the affected regions right now. From the AI dashboard, Alice halts the OnboardAI system and routes all applications from the three affected regions to manual processing. No more automated decisions until the system is investigated and cleared. The correct order of response is: contain first , then investigate and report. Never wait for root cause analysis before stopping ongoing harm.

7. Anmeldung beim Vorfallsportal

   Nachdem das System eingedämmt ist, öffnet Alice das interne Portal zur Meldung von Vorfällen. Der Zugang ist auf autorisierte Mitarbeitende im operativen Bereich beschränkt; bevor sie den Bericht einreicht, meldet sie sich mit ihren Unternehmenszugangsdaten an.

8. Den Vorfallbericht einreichen

   Alice füllt den Vorfallbericht mit den vom Kundenservice-Team bestätigten Tatsachen und den bereits ergriffenen Eindämmungsmaßnahmen des Operations-Teams aus. Der Bericht wird an das Compliance-Team weitergeleitet, das ihn der Marktüberwachungsbehörde übermittelt.

9. Warum jeder Abschnitt wichtig ist

   Der Bericht ist jetzt Teil der offiziellen Unterlagen. Jeder Abschnitt erfüllt einen bestimmten Zweck für das Compliance-Team und die Marktüberwachungsbehörde.

10. Meldefristen

    The report has been submitted internally. Now, the legal timeline begins. Under Article 73, providers of high-risk AI systems must report serious incidents to the market surveillance authority: Immediately after the provider or deployer has established a causal link between the AI system and the incident No later than 15 days after becoming aware of the serious incident Sooner in the gravest cases: no later than 2 days for a widespread infringement or a serious and irreversible disruption of critical infrastructure, and no later than 10 days if a person has died Deployers must inform the provider immediately, and then the market surveillance authority (Article 26(5)). Both providers and deployers must cooperate fully with any subsequent investigation by the authorities. SynapseAI deploys OnboardAI but did not build it - the provider is OnboardAI's vendor. SynapseAI must notify them immediately so they can fulfill their own reporting obligations.