Verboden AI-praktijken

Wat is Verboden AI-praktijken?

De EU AI Act trekt duidelijke rode lijnen. Artikel 5 verbiedt zes categorieën AI-praktijken ronduit, met de hoogste boetes in de verordening: tot 35 miljoen euro of 7% van de mondiale omzet. In deze oefening herkent u verboden implementaties in uw hele organisatie (waaronder emotieherkenning op de werkplek, sociale scores van klanten en het ongericht schrapen van gezichtsbeelden voor biometrische databases) en onderneemt u de juiste actie voordat elk systeem live gaat.

Wat je leert in Verboden AI-praktijken

• Identificeer de zes categorieën AI-praktijken die verboden zijn op grond van artikel 5 van de EU AI-wet
• Herken verboden praktijken, zelfs als ze vermomd zijn als nuttige instrumenten of vrijwillige programma’s
• Begrijp dat de toestemming van de werknemer niet voorrang heeft op de verbodsbepalingen van artikel 5
• Ken het juiste escalatiepad bij het ontdekken van een verboden AI-implementatie
• Begrijp het boeteniveau voor verboden praktijken (35 miljoen euro / 7% omzet)

Verboden AI-praktijken — Trainingsstappen

1. De absolute rode lijnen

   Artikel 5 van de EU AI Act definieert bepaalde AI-praktijken die ronduit verboden zijn in de EU. Geen uitzonderingen, geen oplossingen. Sancties voor verboden praktijken vormen het hoogste niveau onder de wet: tot 35 miljoen euro of 7% van de wereldwijde jaaromzet, afhankelijk van welke van de twee het hoogste is. De zes categorieën van verboden AI zijn onder meer: Manipulatieve of misleidende AI-technieken die gedrag verstoren AI die kwetsbaarheden van specifieke groepen uitbuit (leeftijd, handicap, sociale situatie) Sociale scores: mensen beoordelen op basis van sociaal gedrag op niet-gerelateerde nadelige behandeling Real-time biometrische identificatie op afstand in openbare ruimtes (met beperkte uitzonderingen op het gebied van wetshandhaving) Biometrische categorisering op basis van gevoelige kenmerken (ras, ras, politieke opvattingen, seksuele geaardheid) Emotieherkenning op de werkplek en in het onderwijs

2. Dag 1: De Mood Tracker-e-mail

   Alice ontvangt een e-mail van de HR-directeur waarin een nieuw pilotprogramma wordt aangekondigd. In de e-mail wordt een AI-tool beschreven die medewerkers tijdens videovergaderingen monitort.

3. Herkennen van de overtreding

   Dit is emotieherkenning op de werkplek , wat expliciet verboden is op grond van artikel 5, lid 1, onder f) van de EU AI-wet. Het maakt niet uit of het wordt geframed als een ‘welzijnsinitiatief’ of dat deelname als vrijwillig wordt omschreven. Het verbod is absoluut. Elk AI-systeem dat emoties afleidt uit biometrische gegevens (gezichtsuitdrukkingen, stemgeluid, lichaamstaal) op de werkplek is verboden – ongeacht het aangegeven doel, de mate van anonimisering en de vraag of werknemers ermee instemmen.

4. Escaleren naar compliance

   Alice onderkent het compliancerisico onmiddellijk. Ze beantwoordt de e-mail van David, markeert het probleem en kopieert de functionaris voor gegevensbescherming.

5. Kennischeck

   Voordat we verder gaan, moeten we ervoor zorgen dat het concept duidelijk is.

6. Dag 3: De sociale scorer

   Twee dagen later ontvangt Alice een WhatsApp-bericht van een collega over een zorgwekkende nieuwe CRM-functie die het verkoopteam heeft geactiveerd.

7. Sociale scores herkennen

   Alice leest Jamie's bericht aandachtig. Twee details vallen op: klanten worden gescoord op sociale media-activiteit en laag scorende klanten worden doorgestuurd naar langzamere ondersteuningswachtrijen.

8. Sociale scores begrijpen

   Dit is sociale scoring , verboden op grond van artikel 5, lid 1, onder c). Het gebruik van AI om mensen te beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken – en deze scores vervolgens te gebruiken om hen nadelig te behandelen – is verboden. Ook al zijn de gegevens afkomstig van legitieme zakelijke interacties (aankoopretouren, ondersteuningstickets), het samenvoegen ervan in een 'betrouwbaarheidsscore' die de servicekwaliteit bepaalt, gaat een grens over. Het verbod geldt ongeacht of de score betrekking heeft op bestaande of potentiële klanten.

9. Dag 5: De gezichtsschraper

   Twee dagen later ontdekt Alice dat het marketingteam een interne tooldemo heeft gebouwd. Ze opent het in haar browser om te bekijken waar ze aan hebben gewerkt.

10. Ongericht gezichtsschrapen

    De FaceWatch-tool schrapt openbaar beschikbare foto's van sociale-mediaprofielen om een database voor gezichtsherkenning op te bouwen. Op grond van artikel 5, lid 1, onder e), is het ongericht schrapen van gezichtsbeelden van internet of camerabeelden om databases voor gezichtsherkenning op te bouwen of uit te breiden uitdrukkelijk verboden.