Pratiques d'IA interdites

Qu'est-ce que Pratiques d'IA interdites?

La loi européenne sur l’IA trace des lignes rouges claires. L’article 5 interdit purement et simplement huit catégories de pratiques d’IA, avec les sanctions les plus élevées du règlement : jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Dans cet exercice, vous reconnaissez les déploiements interdits au sein de votre organisation : y compris la reconnaissance des émotions sur le lieu de travail, la notation sociale des clients et la récupération non ciblée d'images faciales pour les bases de données biométriques : et prenez les mesures appropriées avant la mise en service de chaque système.

Ce que vous apprendrez dans Pratiques d'IA interdites

• Identifier les huit catégories de pratiques d'IA interdites en vertu de l'article 5 de la loi de l'UE sur l'IA
• Reconnaître les pratiques interdites même lorsqu'elles sont déguisées en outils bénéfiques ou en programmes volontaires
• Comprendre que le consentement des employés ne prévaut pas sur les interdictions de l'article 5
• Connaître le chemin d'escalade correct lors de la découverte d'un déploiement d'IA interdit
• Comprendre le palier de pénalité pour pratiques interdites (35M euros / 7% de CA)

Pratiques d'IA interdites — Étapes de la formation

1. Les lignes rouges absolues

   Article 5 of the EU AI Act defines certain AI practices that are outright banned in the EU. No workarounds. Penalties for prohibited practices are the highest tier under the Act: up to 35 million euros or 7% of global annual turnover, whichever is higher. The eight categories of prohibited AI under Article 5(1) are: (a) Manipulative or deceptive AI techniques that materially distort behavior and cause or are likely to cause significant harm (b) AI exploiting vulnerabilities of specific groups (age, disability, social or economic situation) to materially distort behavior and cause significant harm (c) Social scoring - evaluating or classifying people over time on social behavior or personal traits, leading to detrimental treatment in unrelated contexts or treatment that is unjustified or disproportionate (d) Predicting that a person will commit a crime based solely on profiling or personality traits (e) Untargeted scraping of facial images from the internet or CCTV to build facial recognition databases (f) Emotion recognition in workplace and educational settings (except for medical or safety reasons) (g) Biometric categorization to infer sensitive attributes (race, political opinions, sexual orientation) (h) Real-time remote biometric identification in publicly accessible spaces for law enforcement, with three narrow exceptions: searching for victims of abduction, trafficking or missing persons; preventing a specific, substantial and imminent threat to life or a terrorist attack; and locating suspects of listed serious crimes

2. Jour 1 : L'e-mail de suivi de l'humeur

   Alice reçoit un email de la directrice RH annonçant un nouveau programme pilote. L'e-mail décrit un outil d'IA qui surveillera les employés lors des réunions vidéo.

3. Reconnaître la violation

   Il s’agit de reconnaissance des émotions sur le lieu de travail , qui est explicitement interdite en vertu de l’article 5(1)(f) de la loi européenne sur l’IA. Peu importe qu'elle soit présentée comme une « initiative de bien-être » ou que la participation soit décrite comme volontaire. Tout système d'IA qui déduit des émotions à partir de données biométriques (expressions faciales, ton de la voix, langage corporel) sur le lieu de travail est interdit, sauf s'il est utilisé pour des raisons médicales ou de sécurité – et le bien-être et le moral ne sont pas pris en compte. Le niveau d’anonymisation et le consentement des employés ne font aucune différence.

4. Passer à la conformité

   Alice reconnaît immédiatement le risque de non-conformité. Elle répond à l'e-mail de David en signalant le problème et en mettant en copie le délégué à la protection des données.

5. Vérification des connaissances

6. Jour 3 : Le marqueur social

   Deux jours plus tard, Alice reçoit un message WhatsApp d'un collègue concernant une nouvelle fonctionnalité CRM inquiétante que l'équipe commerciale a activée.

7. Repérer le score social

   Alice lit attentivement le message de Jamie. Deux détails ressortent : les clients sont notés sur leur activité sur les réseaux sociaux, et les clients ayant un score faible sont dirigés vers des files d'attente d'assistance plus lentes.

8. Comprendre la notation sociale

   This is social scoring , prohibited under Article 5(1)(c). Using AI to evaluate people based on their social behavior or personal characteristics - and then using those scores to treat them detrimentally - is banned. Returns and support tickets on their own are ordinary business data. What crosses the line is scoring customers on their social media activity, behaviour from an unrelated context, and using that score to push them into slower support: detrimental treatment in a context unrelated to where the data came from, and also unjustified and out of proportion. Either condition on its own is enough. The prohibition applies regardless of whether the scoring happens to existing customers or prospective ones.

9. Jour 5 : Le grattoir pour le visage

   Deux jours plus tard, Alice découvre que l'équipe marketing a construit une démo d'outil interne. Elle l'ouvre dans son navigateur pour revoir ce sur quoi ils ont travaillé.

10. Grattage du visage non ciblé

    L'outil FaceWatch récupère les photos accessibles au public à partir des profils de réseaux sociaux pour créer une base de données de reconnaissance faciale. En vertu de l’article 5, paragraphe 1, point e), la récupération non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance pour créer ou étendre des bases de données de reconnaissance faciale est explicitement interdite.