KI-Risikoeinstufung

What Is KI-Risikoeinstufung?

Lernen Sie das vierstufige Risikoklassifizierungs-System der EU-KI-Verordnung kennen und üben Sie die Einstufung realer KI-Anwendungsfälle. Bestimmen Sie, welche Systeme verboten sind, welche strenge Compliance erfordern und welche frei betrieben werden können.

What You'll Learn in KI-Risikoeinstufung

• Die vier Risikoklassen der EU-KI-Verordnung erkennen
• KI-Systeme anhand von Funktion und Wirkung in die richtige Risikoklasse einstufen
• Verbotene KI-Praktiken nach Artikel 5 erkennen
• Die Hochrisiko-Kategorien aus Anhang III einschließlich Beschäftigung und Kreditwürdigkeit verstehen
• Transparenzpflichten bei begrenztem Risiko von Compliance-Anforderungen bei Hochrisiko unterscheiden

KI-Risikoeinstufung — Training Steps

1. Die vier Risikoklassen

   Die EU-KI-Verordnung ordnet jedes KI-System einer von vier Risikoklassen zu, und die Einstufung bestimmt alles Weitere: Unannehmbares Risiko (verboten) — KI-Praktiken, die vollständig untersagt sind. Diese Systeme dürfen in der EU unter keinen Umständen eingesetzt werden. Hochrisiko — KI-Systeme in sensiblen Bereichen wie Beschäftigung, Kreditwürdigkeitsprüfung und Strafverfolgung. Zulässig, aber mit strengen Compliance-Pflichten. Begrenztes Risiko — KI-Systeme, die mit Menschen interagieren. Die Hauptpflicht ist Transparenz — Nutzerinnen und Nutzer müssen wissen, dass sie mit einer KI zu tun haben. Minimales Risiko — die große Mehrheit der KI-Systeme. Keine spezifischen Pflichten nach der Verordnung.

2. E-Mail vom CCO

   Eine E-Mail vom Chief Compliance Officer mit einer dringenden Einstufungs-Aufgabe trifft ein.

3. Open the Assessment Portal

   Alice clicks the link in the email to open the Velox GRC Portal where the six AI systems are waiting for classification.

4. Review the Risk Tier Reference

   The portal landing page summarizes the four risk tiers Alice will use to classify each AI system. Each tier carries different compliance obligations - getting the classification right determines what work follows.

5. Start the Assessment

   To begin classifying, Alice needs to sign in to the GRC portal with her Velox credentials.

6. Sign In to the GRC Portal

   Alice signs in with her corporate credentials. After authentication, the portal will load the six AI systems queued for classification.

7. Fall 1: E-Mail-Spam-Filter

   Das erste einzustufende KI-System ist ein E-Mail-Spam-Filter. Er nutzt Machine Learning, um Spam anhand von Inhaltsmustern und Absenderreputation zu erkennen und zu filtern.

8. Fall 2: Lebenslauf-Screening-Tool

   Das nächste System bewertet und sortiert Lebensläufe von Bewerberinnen und Bewerbern und filtert Kandidatinnen und Kandidaten automatisch heraus, bevor jemand sie überhaupt sieht.

9. Fall 3: Mitarbeiter-Produktivitäts-Scorer

   Dieses System überwacht Tastatureingaben, Mausbewegungen und Pausenhäufigkeit, um für jede Mitarbeiterin und jeden Mitarbeiter einen Produktivitäts-Score von 0-100 zu erzeugen. Die Scores werden quartalsweise mit den Abteilungsleitungen geteilt und beeinflussen Leistungsbeurteilungen.

10. Warum der Produktivitäts-Scorer verboten ist

    Der Mitarbeiter-Produktivitäts-Scorer ist eines jener Systeme, die nach einem vernünftigen Management-Tool klingen, aber nach der EU-KI-Verordnung eine rechtliche Grenze überschreiten.