Pratiques d'IA interdites

Qu'est-ce que Pratiques d'IA interdites?

La loi européenne sur l’IA trace des lignes rouges claires. L’article 5 interdit purement et simplement six catégories de pratiques d’IA, avec les sanctions les plus élevées du règlement : jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Dans cet exercice, vous reconnaissez les déploiements interdits au sein de votre organisation : y compris la reconnaissance des émotions sur le lieu de travail, la notation sociale des clients et la récupération non ciblée d'images faciales pour les bases de données biométriques : et prenez les mesures appropriées avant la mise en service de chaque système.

Ce que vous apprendrez dans Pratiques d'IA interdites

• Identifier les six catégories de pratiques d'IA interdites en vertu de l'article 5 de la loi de l'UE sur l'IA
• Reconnaître les pratiques interdites même lorsqu'elles sont déguisées en outils bénéfiques ou en programmes volontaires
• Comprendre que le consentement des employés ne prévaut pas sur les interdictions de l'article 5
• Connaître le chemin d'escalade correct lors de la découverte d'un déploiement d'IA interdit
• Comprendre le palier de pénalité pour pratiques interdites (35M euros / 7% de CA)

Pratiques d'IA interdites — Étapes de la formation

1. Les lignes rouges absolues

   L’article 5 de la loi européenne sur l’IA définit certaines pratiques d’IA qui sont totalement interdites dans l’UE. Aucune exception, aucune solution de contournement. Les sanctions pour pratiques interdites constituent le niveau le plus élevé en vertu de la loi : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu. Les six catégories d'IA interdites comprennent : Techniques d'IA manipulatrices ou trompeuses qui déforment le comportement IA exploitant les vulnérabilités de groupes spécifiques (âge, handicap, situation sociale) Score social : évaluer les personnes en fonction de leur comportement social pour un traitement préjudiciable sans rapport. Identification biométrique à distance en temps réel dans les espaces publics (avec des exceptions étroites en matière d'application de la loi) Catégorisation biométrique par attributs sensibles (race, opinions politiques, sexualité). orientation) Reconnaissance des émotions en milieu de travail et en milieu éducatif

2. Jour 1 : L'e-mail de suivi de l'humeur

   Alice reçoit un email de la directrice RH annonçant un nouveau programme pilote. L'e-mail décrit un outil d'IA qui surveillera les employés lors des réunions vidéo.

3. Reconnaître la violation

   Il s'agit de reconnaissance des émotions sur le lieu de travail , qui est explicitement interdite en vertu de l'article 5(1)(f) de la loi de l'UE sur l'IA. Peu importe qu'elle soit présentée comme une « initiative de bien-être » ou que la participation soit décrite comme volontaire. L'interdiction est absolue. Tout système d'IA qui déduit des émotions à partir de données biométriques (expressions faciales, ton de la voix, langage corporel) sur le lieu de travail est interdit, quel que soit l'objectif déclaré, le niveau d'anonymisation ou le consentement des employés.

4. Passer à la conformité

   Alice reconnaît immédiatement le risque de non-conformité. Elle répond à l'e-mail de David en signalant le problème et en mettant en copie le délégué à la protection des données.

5. Vérification des connaissances

   Avant de continuer, assurons-nous que le concept est clair.

6. Jour 3 : Le marqueur social

   Deux jours plus tard, Alice reçoit un message WhatsApp d'un collègue concernant une nouvelle fonctionnalité CRM inquiétante que l'équipe commerciale a activée.

7. Repérer le score social

   Alice lit attentivement le message de Jamie. Deux détails ressortent : les clients sont notés sur leur activité sur les réseaux sociaux, et les clients ayant un score faible sont dirigés vers des files d'attente d'assistance plus lentes.

8. Comprendre la notation sociale

   Il s'agit d'un score social , interdit par l'article 5(1)(c). Utiliser l’IA pour évaluer les gens en fonction de leur comportement social ou de leurs caractéristiques personnelles – puis utiliser ces scores pour les traiter de manière préjudiciable – est interdit. Même si les données proviennent d'interactions commerciales légitimes (retours d'achats, tickets d'assistance), leur agrégation dans un « score de fiabilité » qui détermine la qualité du service dépasse les limites. L'interdiction s'applique indépendamment du fait que le scoring concerne des clients existants ou potentiels.

9. Jour 5 : Le grattoir pour le visage

   Deux jours plus tard, Alice découvre que l'équipe marketing a construit une démo d'outil interne. Elle l'ouvre dans son navigateur pour revoir ce sur quoi ils ont travaillé.

10. Grattage du visage non ciblé

    L'outil FaceWatch récupère les photos accessibles au public à partir des profils de réseaux sociaux pour créer une base de données de reconnaissance faciale. En vertu de l’article 5, paragraphe 1, point e), la récupération non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance pour créer ou étendre des bases de données de reconnaissance faciale est explicitement interdite.