Classification des risques liés à l'IA

Qu'est-ce que Classification des risques liés à l'IA?

La loi de l’UE sur l’IA classe les systèmes en quatre niveaux, et chaque niveau décide des obligations. Si vous vous trompez de classification, soit vous expédiez quelque chose d'interdit, soit vous passez des mois à vous conformer à un outil à risque minimal dont vous n'avez jamais besoin. Vous classerez les cas d'utilisation réels selon les niveaux, en déterminant lesquels sont purement interdits, ceux qui présentent un risque élevé et comportent des obligations strictes, qui ne nécessitent que de la transparence et qui peuvent fonctionner librement.

Ce que vous apprendrez dans Classification des risques liés à l'IA

• Identifier les quatre niveaux de risque définis par la loi européenne sur l'IA
• Classer les systèmes d'IA dans le niveau de risque approprié en fonction de leur fonction et de leur impact
• Reconnaître les pratiques d’IA interdites en vertu de l’article 5
• Comprendre les catégories à haut risque de l'Annexe III, y compris l'emploi et la solvabilité
• Distinguer les obligations de transparence à risque limité et les exigences de conformité à risque élevé

Classification des risques liés à l'IA — Étapes de la formation

1. Les quatre niveaux de risque

   La loi de l'UE sur l'IA classe chaque système d'IA dans l'un des quatre niveaux de risque, et la classification détermine tout ce qui suit : Risque inacceptable (interdit) – Pratiques d'IA qui sont purement et simplement interdites. Ces systèmes ne peuvent en aucun cas être déployés dans l'UE. Risque élevé - Systèmes d'IA dans des domaines sensibles comme l'emploi, la notation de crédit et l'application de la loi. Autorisé, mais soumis à des obligations de conformité strictes. Risque limité – Systèmes d'IA qui interagissent avec les personnes. La principale obligation est la transparence : les utilisateurs doivent savoir qu'ils ont affaire à l'IA. Risque minimal – La grande majorité des systèmes d'IA. Aucune obligation spécifique en vertu de la loi.

2. Courriel du CCO

   Un e-mail arrive du responsable de la conformité avec une mission de classification urgente.

3. Ouvrez le portail d'évaluation

   Alice clique sur le lien dans l'e-mail pour ouvrir le portail Velox GRC où les six systèmes d'IA attendent d'être classés.

4. Examiner la référence du niveau de risque

   La page de destination du portail résume les quatre niveaux de risque qu'Alice utilisera pour classer chaque système d'IA. Chaque niveau comporte des obligations de conformité différentes : obtenir la bonne classification détermine le travail qui suit.

5. Commencer l'évaluation

   Pour commencer la classification, Alice doit se connecter au portail GRC avec ses informations d'identification Velox.

6. Connectez-vous au portail GRC

   Alice se connecte avec ses informations d'identification d'entreprise. Après authentification, le portail chargera les six systèmes d'IA en file d'attente pour classification.

7. Cas 1 : filtre anti-spam par courrier électronique

   Le premier système d’IA à classer est un filtre anti-spam. Il utilise l'apprentissage automatique pour détecter et filtrer le spam en fonction des modèles de contenu et de la réputation de l'expéditeur.

8. Cas 2 : Reprendre l'outil de sélection

   Le système suivant note et classe les CV des candidats, filtrant automatiquement les candidats avant qu'un humain ne les examine.

9. Cas 3 : Scoreur de productivité des employés

   Ce système surveille les frappes au clavier, les mouvements de la souris et la fréquence des pauses pour produire un score de productivité de 0 à 100 pour chaque employé. Les scores sont partagés chaque trimestre avec les chefs de service et influencent les évaluations de performances.

10. Pourquoi le marqueur de productivité est interdit

    L’Employee Productivity Scorer est l’un de ces systèmes qui semble être un outil de gestion raisonnable, mais qui franchit une ligne juridique en vertu de la loi européenne sur l’IA.