Analyse d'impact sur les droits fondamentaux

Qu'est-ce que Analyse d'impact sur les droits fondamentaux?

Découvrez comment l'article 27 de la loi de l'UE sur l'IA exige que les organismes publics, les prestataires de services publics et les déployeurs de notation de crédit ou d'assurance utilisant l'IA à haut risque effectuent une évaluation d'impact sur les droits fondamentaux avant la première utilisation. Réaliser une FRIA pour un système automatisé d'éligibilité aux allocations de logement social, évaluant les impacts sur la non-discrimination, la vie privée, les recours efficaces et la dignité humaine.

Ce que vous apprendrez dans Analyse d'impact sur les droits fondamentaux

• Comprendre quand et pourquoi une FRIA est requise en vertu de l'article 27 de la loi de l'UE sur l'IA
• Distinguer une FRIA d'une évaluation d'impact sur la protection des données du RGPD
• Identifier toutes les catégories de personnes concernées pour un système d'IA à haut risque
• Évaluer quels droits fondamentaux sont affectés par un système d’IA prenant des décisions d’éligibilité aux prestations
• Définir des mesures d’atténuation et des plans de surveillance appropriés pour assurer une conformité continue

Analyse d'impact sur les droits fondamentaux — Étapes de la formation

1. Article 27 : Analyse d'impact sur les droits fondamentaux

   Article 27 of the EU AI Act requires certain deployers of high-risk AI systems (public bodies, private entities providing public services, and deployers of credit-scoring or life and health insurance AI) to conduct a Fundamental Rights Impact Assessment before first use. A social housing benefit system that CivicTech runs on behalf of municipal councils is in scope: CivicTech provides a public service by deciding eligibility for public assistance (Annex III 5(a)), so Article 27 makes it a deployer that must complete the FRIA. A FRIA examines how the AI system might affect fundamental rights - dignity, non-discrimination, privacy, freedom of expression, and the right to an effective remedy. A FRIA differs from a GDPR Data Protection Impact Assessment (DPIA). While a DPIA focuses solely on data protection risks, a FRIA covers all fundamental rights. Both assessments may be required for the same system, and they can be conducted together.

2. Détails du déploiement

   Un e-mail arrive d'Petra Novak, la chef de projet responsable du déploiement de l'IA pour les logements sociaux. Elle fournit les détails dont Alice a besoin pour commencer le FRIA.

3. Document d'orientation FRIA

   Avant de commencer l'évaluation, Alice ouvre le document d'orientation FRIA lié dans l'e-mail d'Petra. Il explique chaque section de l'évaluation, la différence entre une FRIA et une DPIA, ainsi que des conseils pratiques pour compléter chaque partie de manière approfondie.

4. Ouvrez le formulaire FRIA

   Une fois les instructions examinées, Alice clique sur Continuer pour ouvrir la liste de contrôle FRIA - cinq sections couvrant les piliers d'une évaluation d'impact sur les droits.

5. Section 1 : Description du système

   La première section demande à Alice de documenter l'objectif du système d'IA, les personnes qu'il affecte et la portée de son déploiement. Pour ce système, les personnes concernées comprennent : Demandeurs d'allocations - dont beaucoup se trouvent dans des situations financières vulnérables, directement affectées par les décisions d'éligibilité. Les travailleurs sociaux - qui s'appuient sur les recommandations de l'IA pour rendre les décisions finales. Les familles des demandeurs - qui dépendent des aides au logement recherchées par le demandeur. Le système prend des décisions qui affectent directement l'accès au logement - un besoin fondamental.

6. Vérification de la section 1

7. Section 2 : Analyse des droits fondamentaux

   Il s’agit de la section la plus critique de la FRIA. Alice doit évaluer quels droits fondamentaux le système d'IA pourrait affecter : Droit à la non-discrimination - l'IA peut établir une discrimination en fonction de la composition de la famille, de la nationalité ou de l'adresse résidentielle, en les utilisant comme variables proxy pour les caractéristiques protégées. Droit à la vie privée - le système traite des données personnelles sensibles, notamment le revenu, l'emploi et les informations familiales. Droit à un recours effectif - les candidats doivent être en mesure de contester les refus provoqués par l'IA via un processus d'appel clair et accessible. Droit à la dignité humaine : les décisions automatisées concernant l'accès au logement affectent un aspect fondamental de la vie et de la dignité d'une personne.

8. Vérification de la section 2

9. Section 3 : Évaluation des risques

   Alice note chaque impact sur les droits en fonction de sa gravité et de sa probabilité. Le refus d’accès au logement est très grave ; la probabilité dépend des contrôles de biais. La note combinée détermine quelles atténuations sont prioritaires.

10. Vérification de la section 3