KI-Risikoklassifizierung

What Is KI-Risikoklassifizierung?

Lernen Sie das vierstufige Risikoklassifizierungssystem des EU-KI-Gesetzes kennen und üben Sie die Klassifizierung realer KI-Anwendungsfälle. Bestimmen Sie, welche Systeme verboten sind, welche eine strikte Einhaltung erfordern und welche frei betrieben werden können.

What You'll Learn in KI-Risikoklassifizierung

• Identifizieren Sie die vier im EU-KI-Gesetz definierten Risikostufen
• Klassifizieren Sie KI-Systeme anhand ihrer Funktion und Auswirkung in die richtige Risikostufe
• Erkennen Sie verbotene KI-Praktiken gemäß Artikel 5 an
• Verstehen Sie die Hochrisikokategorien gemäß Anhang III, einschließlich Beschäftigung und Kreditwürdigkeit
• Unterscheiden Sie zwischen Transparenzpflichten für begrenzte Risiken und Compliance-Anforderungen für hohe Risiken

KI-Risikoklassifizierung — Training Steps

1. Die vier Risikostufen

   Das EU-KI-Gesetz klassifiziert jedes KI-System in eine von vier Risikostufen, und die Klassifizierung bestimmt alles, was folgt: Inakzeptables Risiko (verboten) – KI-Praktiken, die völlig verboten sind. Diese Systeme können unter keinen Umständen in der EU eingesetzt werden. Hohes Risiko – KI-Systeme in sensiblen Bereichen wie Beschäftigung, Kreditwürdigkeit und Strafverfolgung. Zulässig, unterliegt jedoch strengen Compliance-Verpflichtungen. Begrenztes Risiko – KI-Systeme, die mit Menschen interagieren. Die Hauptpflicht ist Transparenz – Benutzer müssen wissen, dass sie es mit KI zu tun haben. Minimales Risiko – Die überwiegende Mehrheit der KI-Systeme. Keine besonderen Verpflichtungen gemäß dem Gesetz.

2. E-Mail vom CCO

   Vom Chief Compliance Officer geht eine E-Mail mit einem dringenden Klassifizierungsauftrag ein.

3. Öffnen Sie das Bewertungsportal

   Alice klickt auf den Link in der E-Mail, um das Velox GRC-Portal zu öffnen, wo die sechs KI-Systeme auf die Klassifizierung warten.

4. Sehen Sie sich die Referenz zur Risikostufe an

   Die Landingpage des Portals fasst die vier Risikostufen zusammen, die Alice zur Klassifizierung jedes KI-Systems verwenden wird. Für jede Stufe gelten unterschiedliche Compliance-Verpflichtungen – die richtige Klassifizierung bestimmt, welche Arbeit folgt.

5. Starten Sie die Bewertung

   Um mit der Klassifizierung zu beginnen, muss sich Alice mit ihren Velox-Anmeldeinformationen beim GRC-Portal anmelden.

6. Melden Sie sich beim GRC-Portal an

   Alice meldet sich mit ihren Firmenzugangsdaten an. Nach der Authentifizierung lädt das Portal die sechs zur Klassifizierung in die Warteschlange gestellten KI-Systeme.

7. Fall 1: E-Mail-Spamfilter

   Das erste KI-System zur Klassifizierung ist ein E-Mail-Spamfilter. Es nutzt maschinelles Lernen, um Spam anhand von Inhaltsmustern und der Reputation des Absenders zu erkennen und zu filtern.

8. Fall 2: Lebenslauf-Screening-Tool

   Das nächste System bewertet und ordnet die Lebensläufe von Bewerbern und filtert die Kandidaten automatisch heraus, bevor ein Mensch sie jemals überprüft.

9. Fall 3: Mitarbeiterproduktivitäts-Scorer

   Dieses System überwacht Tastenanschläge, Mausbewegungen und Pausenhäufigkeit, um für jeden Mitarbeiter einen Produktivitätswert von 0 bis 100 zu ermitteln. Die Ergebnisse werden vierteljährlich den Abteilungsleitern mitgeteilt und beeinflussen die Leistungsbeurteilung.

10. Warum der Produktivitäts-Scorer verboten ist

    Der Employee Productivity Scorer ist eines dieser Systeme, das wie ein vernünftiges Managementinstrument klingt, aber eine rechtliche Grenze gemäß dem EU-KI-Gesetz überschreitet.