Verboden AI-praktijken

Wat is Verboden AI-praktijken?

De EU AI Act trekt duidelijke rode lijnen. Artikel 5 verbiedt acht categorieën AI-praktijken ronduit, met de hoogste boetes in de verordening: tot 35 miljoen euro of 7% van de mondiale omzet. In deze oefening herkent u verboden implementaties in uw hele organisatie: inclusief emotieherkenning op de werkplek, sociale scores van klanten en het ongericht schrapen van gezichtsbeelden voor biometrische databases: en onderneemt u de juiste actie voordat elk systeem live gaat.

Wat je leert in Verboden AI-praktijken

• Identificeer de acht categorieën AI-praktijken die verboden zijn op grond van artikel 5 van de EU AI-wet
• Herken verboden praktijken, zelfs als ze vermomd zijn als nuttige instrumenten of vrijwillige programma’s
• Begrijp dat de toestemming van de werknemer niet voorrang heeft op de verbodsbepalingen van artikel 5
• Ken het juiste escalatiepad bij het ontdekken van een verboden AI-implementatie
• Begrijp het boeteniveau voor verboden praktijken (35 miljoen euro / 7% omzet)

Verboden AI-praktijken — Trainingsstappen

1. De absolute rode lijnen

   Article 5 of the EU AI Act defines certain AI practices that are outright banned in the EU. No workarounds. Penalties for prohibited practices are the highest tier under the Act: up to 35 million euros or 7% of global annual turnover, whichever is higher. The eight categories of prohibited AI under Article 5(1) are: (a) Manipulative or deceptive AI techniques that materially distort behavior and cause or are likely to cause significant harm (b) AI exploiting vulnerabilities of specific groups (age, disability, social or economic situation) to materially distort behavior and cause significant harm (c) Social scoring - evaluating or classifying people over time on social behavior or personal traits, leading to detrimental treatment in unrelated contexts or treatment that is unjustified or disproportionate (d) Predicting that a person will commit a crime based solely on profiling or personality traits (e) Untargeted scraping of facial images from the internet or CCTV to build facial recognition databases (f) Emotion recognition in workplace and educational settings (except for medical or safety reasons) (g) Biometric categorization to infer sensitive attributes (race, political opinions, sexual orientation) (h) Real-time remote biometric identification in publicly accessible spaces for law enforcement, with three narrow exceptions: searching for victims of abduction, trafficking or missing persons; preventing a specific, substantial and imminent threat to life or a terrorist attack; and locating suspects of listed serious crimes

2. Dag 1: De Mood Tracker-e-mail

   Alice ontvangt een e-mail van de HR-directeur waarin een nieuw pilotprogramma wordt aangekondigd. In de e-mail wordt een AI-tool beschreven die medewerkers tijdens videovergaderingen monitort.

3. Herkennen van de overtreding

   Dit is emotieherkenning op de werkplek , wat expliciet verboden is op grond van artikel 5(1)(f) van de EU AI Act. Het maakt niet uit of het wordt geframed als een ‘welzijnsinitiatief’ of dat deelname als vrijwillig wordt beschreven. Elk AI-systeem dat emoties afleidt uit biometrische gegevens (gezichtsuitdrukkingen, stemgeluid, lichaamstaal) op de werkplek is verboden, tenzij het om medische of veiligheidsredenen wordt gebruikt – en welzijn en moreel komen niet in aanmerking. De mate van anonimisering en de vraag of werknemers toestemming geven, maken geen verschil.

4. Escaleren naar compliance

   Alice onderkent het compliancerisico onmiddellijk. Ze beantwoordt de e-mail van David, markeert het probleem en kopieert de functionaris voor gegevensbescherming.

5. Kennischeck

6. Dag 3: De sociale scorer

   Twee dagen later ontvangt Alice een WhatsApp-bericht van een collega over een zorgwekkende nieuwe CRM-functie die het verkoopteam heeft geactiveerd.

7. Sociale scores herkennen

   Alice leest Jamie's bericht aandachtig. Twee details vallen op: klanten worden gescoord op sociale media-activiteit en laag scorende klanten worden doorgestuurd naar langzamere ondersteuningswachtrijen.

8. Sociale scores begrijpen

   This is social scoring , prohibited under Article 5(1)(c). Using AI to evaluate people based on their social behavior or personal characteristics - and then using those scores to treat them detrimentally - is banned. Returns and support tickets on their own are ordinary business data. What crosses the line is scoring customers on their social media activity, behaviour from an unrelated context, and using that score to push them into slower support: detrimental treatment in a context unrelated to where the data came from, and also unjustified and out of proportion. Either condition on its own is enough. The prohibition applies regardless of whether the scoring happens to existing customers or prospective ones.

9. Dag 5: De gezichtsschraper

   Twee dagen later ontdekt Alice dat het marketingteam een interne tooldemo heeft gebouwd. Ze opent het in haar browser om te bekijken waar ze aan hebben gewerkt.

10. Ongericht gezichtsschrapen

    De FaceWatch-tool schrapt openbaar beschikbare foto's van sociale-mediaprofielen om een database voor gezichtsherkenning op te bouwen. Op grond van artikel 5, lid 1, onder e), is het ongericht schrapen van gezichtsbeelden van internet of camerabeelden om databases voor gezichtsherkenning op te bouwen of uit te breiden uitdrukkelijk verboden.