Verbotene KI-Praktiken

What Is Verbotene KI-Praktiken?

The EU AI Act draws clear red lines. Article 5 bans six categories of AI practices outright, with the highest penalties in the regulation: up to 35 million euros or 7% of global turnover. In this exercise, you recognize prohibited deployments across your organization — including emotion recognition in the workplace, social scoring of customers, and untargeted scraping of facial images for biometric databases — and take the right action before each system goes live.

What You'll Learn in Verbotene KI-Praktiken

• Die sechs Kategorien der nach Artikel 5 der EU-KI-Verordnung verbotenen KI-Praktiken erkennen
• Verbotene Praktiken auch dann erkennen, wenn sie als nützliche Tools oder freiwillige Programme verpackt sind
• Verstehen, dass die Einwilligung von Mitarbeitenden die Verbote aus Artikel 5 nicht außer Kraft setzt
• Den richtigen Eskalationsweg kennen, wenn man eine verbotene KI-Einführung entdeckt
• Die Sanktionsstufe für verbotene Praktiken kennen (35 Mio. Euro / 7 % Umsatz)

Verbotene KI-Praktiken — Training Steps

1. Die absoluten roten Linien

   Artikel 5 der EU-KI-Verordnung legt bestimmte KI-Praktiken fest, die in der EU vollständig verboten sind. Keine Ausnahmen, keine Umgehungen. Die Sanktionen für verbotene Praktiken sind die höchste Stufe der Verordnung: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die sechs Kategorien verbotener KI umfassen: Manipulative oder täuschende KI-Techniken, die das Verhalten verzerren KI, die Schwachstellen bestimmter Gruppen ausnutzt (Alter, Behinderung, soziale Lage) Sozialbewertung — Bewertung von Personen anhand ihres Sozialverhaltens für eine unzusammenhängende benachteiligende Behandlung Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (mit eng begrenzten Ausnahmen für Strafverfolgungsbehörden) Biometrische Kategorisierung nach sensiblen Merkmalen (ethnische Herkunft, politische Meinungen, sexuelle Orientierung) Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen

2. Tag 1: Die Mood-Tracker-E-Mail

   Alice erhält eine E-Mail vom HR Director, der ein neues Pilotprogramm ankündigt. Die E-Mail beschreibt ein KI-Tool, das Mitarbeitende während Video-Meetings beobachtet.

3. Den Verstoß erkennen

   Das ist Emotionserkennung am Arbeitsplatz , was nach Artikel 5 Absatz 1 lit. f der EU-KI-Verordnung ausdrücklich verboten ist.

4. An Compliance eskalieren

   Alice erkennt das Compliance-Risiko sofort. Sie antwortet auf Davids E-Mail, markiert das Problem und setzt die Datenschutzbeauftragte in Kopie.

5. Wissenstest

   Bevor Sie weitermachen, stellen wir sicher, dass das Konzept klar ist.

6. Tag 3: Der Social Scorer

   Zwei Tage später erhält Alice eine WhatsApp-Nachricht von einer Kollegin über eine besorgniserregende neue CRM-Funktion, die das Sales-Team aktiviert hat.

7. Sozialbewertung erkennen

   Alice reads Jamie's message carefully. Two details stand out: customers are being scored on social media activity, and low-scoring customers are being routed to slower support queues.

8. Sozialbewertung verstehen

   Das ist Sozialbewertung , verboten nach Artikel 5 Absatz 1 lit. c. KI dafür einzusetzen, Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale zu bewerten — und diese Scores dann zur Benachteiligung zu nutzen — ist untersagt.

9. Tag 5: Der Gesichts-Scraper

   Zwei Tage später entdeckt Alice, dass das Marketing-Team eine interne Tool-Demo gebaut hat. Sie öffnet sie im Browser, um zu sehen, woran sie gearbeitet haben.

10. Ungezieltes Sammeln von Gesichtsbildern

    Das Tool FaceWatch scrapt öffentlich verfügbare Fotos aus Social-Media-Profilen, um eine Gesichtserkennungs-Datenbank aufzubauen. Nach Artikel 5 Absatz 1 lit. e ist das ungezielte Sammeln von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zum Aufbau oder Erweitern von Gesichtserkennungs-Datenbanken ausdrücklich verboten.