Classification des risques liés à l'IA

Qu'est-ce que Classification des risques liés à l'IA?

La loi de l’UE sur l’IA classe les systèmes en quatre niveaux, et chaque niveau décide des obligations. Si vous vous trompez de classification, soit vous expédiez quelque chose d'interdit, soit vous passez des mois à vous conformer à un outil à risque minimal dont vous n'avez jamais besoin. Vous classerez les cas d'utilisation réels selon les niveaux, en déterminant lesquels sont purement interdits, ceux qui présentent un risque élevé et comportent des obligations strictes, qui ne nécessitent que de la transparence et qui peuvent fonctionner librement.

Ce que vous apprendrez dans Classification des risques liés à l'IA

• Identifier les quatre niveaux de risque définis par la loi européenne sur l'IA
• Classer les systèmes d'IA dans le niveau de risque approprié en fonction de leur fonction et de leur impact
• Reconnaître les pratiques d’IA interdites en vertu de l’article 5
• Comprendre les catégories à haut risque de l'Annexe III, y compris l'emploi et la solvabilité
• Distinguer les obligations de transparence à risque limité et les exigences de conformité à risque élevé

Classification des risques liés à l'IA — Étapes de la formation

1. Les quatre niveaux de risque

   The EU AI Act takes a risk-based approach that is commonly described as four risk tiers, and the classification determines everything that follows: Unacceptable Risk (Banned) - AI practices that are prohibited by Article 5. They cannot be placed on the market, put into service or used in the EU, apart from the narrow exceptions Article 5 sets out. High Risk - AI systems in sensitive areas like employment, credit scoring, and law enforcement. Permitted, but subject to strict compliance obligations. Limited Risk - AI systems that interact with people. The main obligation is transparency - users must know they are dealing with AI. Minimal Risk - The vast majority of AI systems. No specific obligations beyond general ones such as AI literacy.

2. Courriel du CCO

   Un e-mail arrive du responsable de la conformité avec une mission de classification urgente.

3. Ouvrez le portail d'évaluation

   Alice clique sur le lien dans l'e-mail pour ouvrir le portail Velox GRC où les six systèmes d'IA attendent d'être classés.

4. Examiner la référence du niveau de risque

   La page de destination du portail résume les quatre niveaux de risque qu'Alice utilisera pour classer chaque système d'IA. Chaque niveau comporte des obligations de conformité différentes : obtenir la bonne classification détermine le travail qui suit.

5. Commencer l'évaluation

   Pour commencer la classification, Alice doit se connecter au portail GRC avec ses informations d'identification Velox.

6. Connectez-vous au portail GRC

   Alice se connecte avec ses informations d'identification d'entreprise. Après authentification, le portail chargera les six systèmes d'IA en file d'attente pour classification.

7. Cas 1 : filtre anti-spam par courrier électronique

   Le premier système d’IA à classer est un filtre anti-spam. Il utilise l'apprentissage automatique pour détecter et filtrer le spam en fonction des modèles de contenu et de la réputation de l'expéditeur.

8. Cas 2 : Reprendre l'outil de sélection

   Le système suivant note et classe les CV des candidats, filtrant automatiquement les candidats avant qu'un humain ne les examine.

9. Cas 3 : Moniteur des émotions des employés

   Ce système utilise la vidéo webcam et la tonalité vocale lors des appels pour déduire les émotions de chaque collaborateur (stress, frustration, engagement). Les managers obtiennent un score d'engagement hebdomadaire pour chaque employé, et ces scores sont intégrés aux évaluations de performances. L'Employee Emotion Monitor est l'un de ces systèmes qui semble être un outil de gestion raisonnable, mais qui franchit une ligne juridique en vertu de la loi européenne sur l'IA.

10. Pourquoi le moniteur d'émotions est interdit