Verbotene KI-Praktiken

Was ist Verbotene KI-Praktiken?

Die EU-KI-Verordnung zieht klare rote Linien. Artikel 5 verbietet acht Kategorien von KI-Praktiken gänzlich, mit den höchsten Sanktionen der Verordnung: bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes. In dieser Übung erkennen Sie verbotene Einsätze in Ihrem Unternehmen: einschließlich Emotionserkennung am Arbeitsplatz, Sozialbewertung von Kunden und ungezieltes Auslesen von Gesichtsbildern für biometrische Datenbanken: und ergreifen Sie die richtigen Maßnahmen, bevor jedes System in Betrieb geht.

Was Sie lernen in Verbotene KI-Praktiken

• Die acht Kategorien der nach Artikel 5 der EU-KI-Verordnung verbotenen KI-Praktiken erkennen
• Verbotene Praktiken auch dann erkennen, wenn sie als nützliche Tools oder freiwillige Programme verpackt sind
• Verstehen, dass die Einwilligung von Mitarbeitenden die Verbote aus Artikel 5 nicht außer Kraft setzt
• Den richtigen Eskalationsweg kennen, wenn Sie eine verbotene KI-Praktik im Einsatz entdecken
• Die Sanktionsstufe für verbotene Praktiken kennen (35 Mio. Euro / 7 % Umsatz)

Verbotene KI-Praktiken — Trainingsschritte

1. Die absoluten roten Linien

   Artikel 5 verbietet bestimmte KI-Praktiken in der EU vollständig. Verstöße werden mit den höchsten Bußgeldern geahndet: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die acht verbotenen Kategorien nach Artikel 5 Absatz 1: (a) Manipulative oder täuschende Techniken, die das Verhalten wesentlich verzerren und erheblichen Schaden verursachen oder wahrscheinlich verursachen (b) Ausnutzen von Schwachstellen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage, um das Verhalten in einer Weise wesentlich zu verzerren, die erheblichen Schaden verursacht oder wahrscheinlich verursacht (c) Sozialbewertung, die zu einer benachteiligenden Behandlung in sachfremden Zusammenhängen oder zu einer ungerechtfertigten oder unverhältnismäßigen Behandlung führt (d) Vorhersage von Straftaten allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen (e) Ungezieltes Scraping von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken (f) Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) (g) Biometrische Kategorisierung zur Ableitung sensibler Merkmale (z. B. ethnische Herkunft, politische Meinungen, sexuelle Orientierung) (h) Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen für die Strafverfolgung, außer zur Suche nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie nach vermissten Personen, zur Abwehr einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder einer tatsächlichen und bestehenden oder vorhersehbaren Gefahr eines Terroranschlags oder zum Aufspüren von Verdächtigen bestimmter aufgeführter schwerer Straftaten

2. Tag 1: Die Mood-Tracker-E-Mail

   Alice erhält eine E-Mail vom Personalleiter, der ein neues Pilotprogramm ankündigt. Die E-Mail beschreibt ein KI-Tool, das Mitarbeitende während Video-Meetings beobachtet.

3. Den Verstoß erkennen

   Das ist Emotionserkennung am Arbeitsplatz , was nach Artikel 5 Absatz 1 lit. f der EU-KI-Verordnung ausdrücklich verboten ist. Dabei spielt es keine Rolle, dass die Maßnahme als 'Wellness-Initiative' dargestellt wird oder dass die Teilnahme als freiwillig beschrieben wird. Jedes KI-System, das am Arbeitsplatz Emotionen aus biometrischen Daten ableitet (Gesichtsausdruck, Stimmlage, Körpersprache), ist untersagt, es sei denn, es dient medizinischen oder Sicherheitszwecken — und Wohlbefinden und Stimmung zählen nicht dazu. Der Grad der Anonymisierung und die Frage, ob die Beschäftigten einwilligen, spielen keine Rolle.

4. An Compliance eskalieren

   Alice erkennt das Compliance-Risiko sofort. Sie antwortet auf Davids E-Mail, markiert das Problem und setzt die Datenschutzbeauftragte in Kopie.

5. Wissenscheck

6. Tag 3: Der Social Scorer

   Zwei Tage später erhält Alice eine WhatsApp-Nachricht von einer Kollegin über eine besorgniserregende neue CRM-Funktion, die das Vertriebsteam aktiviert hat.

7. Sozialbewertung erkennen

   Alice liest Jamies Nachricht sorgfältig. Zwei Details stechen hervor: Kundinnen und Kunden werden anhand ihrer Social-Media-Aktivitäten bewertet, und solche mit niedrigem Score werden in langsamere Support-Warteschlangen geleitet.

8. Sozialbewertung verstehen

   Das ist Sozialbewertung , verboten nach Artikel 5 Absatz 1 Buchstabe c. Retouren und Support-Tickets sind gewöhnliche Geschäftsdaten. Die Grenze überschreitet, wer Kunden anhand ihrer Social-Media-Aktivität bewertet, also anhand eines sachfremden Kontexts, und diesen Score nutzt, um ihre Support-Anfragen langsamer zu bearbeiten. Das ist eine benachteiligende Behandlung in einem sachfremden Kontext und zudem ungerechtfertigt und unverhältnismäßig; jede dieser Bedingungen genügt für sich allein. Das Verbot gilt für Bestandskunden wie für potenzielle Kunden.

9. Tag 5: Der Gesichts-Scraper

   Zwei Tage später entdeckt Alice, dass das Marketing-Team eine interne Tool-Demo gebaut hat. Sie öffnet sie im Browser, um zu sehen, woran sie gearbeitet haben.

10. Ungezieltes Sammeln von Gesichtsbildern

    Das Tool FaceWatch scrapt öffentlich verfügbare Fotos aus Social-Media-Profilen, um eine Gesichtserkennungs-Datenbank aufzubauen. Nach Artikel 5 Absatz 1 lit. e ist das ungezielte Sammeln von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zum Aufbau oder Erweitern von Gesichtserkennungs-Datenbanken ausdrücklich verboten.