Analyse d'impact sur les droits fondamentaux

Qu'est-ce que Analyse d'impact sur les droits fondamentaux?

Découvrez comment l'article 27 de la loi de l'UE sur l'IA exige que les déployeurs de systèmes d'IA à haut risque effectuent une évaluation d'impact sur les droits fondamentaux avant la première utilisation. Réaliser une FRIA pour un système automatisé d'éligibilité aux allocations de logement social, évaluant les impacts sur la non-discrimination, la vie privée, les recours efficaces et la dignité humaine.

Ce que vous apprendrez dans Analyse d'impact sur les droits fondamentaux

• Comprendre quand et pourquoi une FRIA est requise en vertu de l'article 27 de la loi de l'UE sur l'IA
• Distinguer une FRIA d'une évaluation d'impact sur la protection des données du RGPD
• Identifier toutes les catégories de personnes concernées pour un système d'IA à haut risque
• Évaluer quels droits fondamentaux sont affectés par un système d’IA prenant des décisions d’éligibilité aux prestations
• Définir des mesures d’atténuation et des plans de surveillance appropriés pour assurer une conformité continue

Analyse d'impact sur les droits fondamentaux — Étapes de la formation

1. Article 27 : Analyse d'impact sur les droits fondamentaux

   L’article 27 de la loi de l’UE sur l’IA exige que les déployeurs de systèmes d’IA à haut risque effectuent une évaluation d’impact sur les droits fondamentaux avant la première utilisation. Une FRIA examine la manière dont le système d'IA pourrait affecter les droits fondamentaux : la dignité, la non-discrimination, la vie privée, la liberté d'expression et le droit à un recours effectif. Une FRIA diffère d’une évaluation d’impact sur la protection des données (DPIA) du RGPD. Alors qu’une DPIA se concentre uniquement sur les risques liés à la protection des données, une FRIA couvre tous les droits fondamentaux. Les deux évaluations peuvent être nécessaires pour le même système et elles peuvent être menées ensemble.

2. Détails du déploiement

   Un e-mail arrive d'Petra Novak, la chef de projet responsable du déploiement de l'IA pour les logements sociaux. Elle fournit les détails dont Alice a besoin pour commencer le FRIA.

3. Document d'orientation FRIA

   Avant de commencer l'évaluation, Alice ouvre le document d'orientation FRIA lié dans l'e-mail d'Petra. Il explique chaque section de l'évaluation, la différence entre une FRIA et une DPIA, ainsi que des conseils pratiques pour compléter chaque partie de manière approfondie.

4. Ouvrez le formulaire FRIA

   Une fois les instructions examinées, Alice clique sur Continuer pour ouvrir la liste de contrôle FRIA - cinq sections couvrant les piliers d'une évaluation d'impact sur les droits.

5. Section 1 : Description du système

   La première section demande à Alice de documenter l'objectif du système d'IA, les personnes qu'il affecte et la portée de son déploiement. Pour ce système, les personnes concernées comprennent : Demandeurs d'allocations - dont beaucoup se trouvent dans des situations financières vulnérables, directement affectées par les décisions d'éligibilité. Les travailleurs sociaux - qui s'appuient sur les recommandations de l'IA pour rendre les décisions finales. Les familles des demandeurs - qui dépendent des aides au logement recherchées par le demandeur. Le système prend des décisions qui affectent directement l'accès au logement - un besoin fondamental.

6. Section 2 : Analyse des droits fondamentaux

   Il s’agit de la section la plus critique de la FRIA. Alice doit évaluer quels droits fondamentaux le système d'IA pourrait affecter : Droit à la non-discrimination - l'IA peut établir une discrimination en fonction de la composition de la famille, de la nationalité ou de l'adresse résidentielle, en les utilisant comme variables proxy pour les caractéristiques protégées. Droit à la vie privée - le système traite des données personnelles sensibles, notamment le revenu, l'emploi et les informations familiales. Droit à un recours effectif - les candidats doivent être en mesure de contester les refus provoqués par l'IA via un processus d'appel clair et accessible. Droit à la dignité humaine : les décisions automatisées concernant l'accès au logement affectent un aspect fondamental de la vie et de la dignité d'une personne.

7. Section 3 : Évaluation des risques

   Alice note chaque impact sur les droits en fonction de sa gravité et de sa probabilité. Le refus d’accès au logement est très grave ; la probabilité dépend des contrôles de biais. La note combinée détermine quelles atténuations sont prioritaires.

8. Section 4 : Mesures d'atténuation

   Pour chaque risque identifié, Alice définit des garde-fous : un mécanisme d'appel pour les candidats rejetés, un examen humain de toutes les décisions négatives, des audits réguliers sur les préjugés entre les groupes démographiques et la transparence sur le rôle de l'IA.

9. Section 5 : Plan de surveillance

   Une FRIA est un document évolutif. Révisez-le au moins une fois par an et chaque fois que le système change de manière significative. Des chemins de remontée doivent être définis afin que les incidents affectant les droits déclenchent un examen immédiat.

10. Soumettre le FRIA

    Les cinq sections sont terminées. La barre de progression affiche 100 %. Alice peut désormais soumettre l'analyse d'impact sur les droits fondamentaux pour le système d'IA pour le logement social.