Effectbeoordeling van de grondrechten

Wat is Effectbeoordeling van de grondrechten?

Ontdek hoe artikel 27 van de EU AI Act vereist dat overheidsinstanties, openbare dienstverleners en aanbieders van krediet- of verzekeringsscores die AI met een hoog risico gebruiken, vóór het eerste gebruik een effectbeoordeling op de grondrechten uitvoeren. Voltooi een FRIA voor een geautomatiseerd systeem om in aanmerking te komen voor sociale huursubsidies, waarbij de impact op non-discriminatie, privacy, effectieve rechtsmiddelen en menselijke waardigheid wordt beoordeeld.

Wat je leert in Effectbeoordeling van de grondrechten

• Begrijp wanneer en waarom een FRIA vereist is op grond van artikel 27 van de EU AI Act
• Maak onderscheid tussen een FRIA- en een AVG-gegevensbeschermingseffectbeoordeling
• Identificeer alle categorieën van getroffen personen voor een AI-systeem met een hoog risico
• Beoordeel welke grondrechten worden beïnvloed door een AI-systeem dat beslissingen neemt over de geschiktheid van uitkeringen
• Definieer passende risicobeperkende maatregelen en monitoringplannen voor voortdurende naleving

Effectbeoordeling van de grondrechten — Trainingsstappen

1. Artikel 27: Effectbeoordeling van de grondrechten

   Article 27 of the EU AI Act requires certain deployers of high-risk AI systems (public bodies, private entities providing public services, and deployers of credit-scoring or life and health insurance AI) to conduct a Fundamental Rights Impact Assessment before first use. A social housing benefit system that CivicTech runs on behalf of municipal councils is in scope: CivicTech provides a public service by deciding eligibility for public assistance (Annex III 5(a)), so Article 27 makes it a deployer that must complete the FRIA. A FRIA examines how the AI system might affect fundamental rights - dignity, non-discrimination, privacy, freedom of expression, and the right to an effective remedy. A FRIA differs from a GDPR Data Protection Impact Assessment (DPIA). While a DPIA focuses solely on data protection risks, a FRIA covers all fundamental rights. Both assessments may be required for the same system, and they can be conducted together.

2. Implementatiedetails

   Er komt een e-mail binnen van Petra Novak, de projectmanager die verantwoordelijk is voor de AI-implementatie van de sociale woningbouw. Ze geeft de details die Alice nodig heeft om de FRIA te starten.

3. FRIA-leidraaddocument

   Voordat ze met het assessment begint, opent Alice het FRIA-richtlijnendocument dat in de e-mail van Petra staat. Hierin wordt per onderdeel van de beoordeling uitgelegd, wat het verschil is tussen een FRIA en een DPIA, en praktische tips om elk onderdeel goed in te vullen.

4. Open het FRIA-formulier

   Nu de richtlijnen zijn beoordeeld, klikt Alice op Doorgaan om de FRIA-checklist te openen: vijf secties die de pijlers van een rechteneffectbeoordeling bestrijken.

5. Sectie 1: Systeembeschrijving

   In het eerste deel wordt Alice gevraagd het doel van het AI-systeem te documenteren, de mensen die erdoor worden beïnvloed en de reikwijdte van de inzet ervan. Voor dit systeem zijn de betrokken personen onder meer: Uitkeringsaanvragers - velen in kwetsbare financiële situaties, die rechtstreeks worden getroffen door beslissingen over de geschiktheid. Casemedewerkers - die vertrouwen op de aanbevelingen van de AI om definitieve beslissingen te nemen. Families van aanvragers - die afhankelijk zijn van de huurtoeslag die de aanvrager zoekt. Het systeem neemt beslissingen die rechtstreeks van invloed zijn op de toegang tot huisvesting - een fundamentele behoefte.

6. Controle sectie 1

7. Deel 2: Analyse van de grondrechten

   Dit is het meest kritische onderdeel van de FRIA. Alice moet beoordelen welke fundamentele rechten het AI-systeem zou kunnen beïnvloeden: Recht op non-discriminatie - de AI kan discrimineren op basis van gezinssamenstelling, nationaliteit of woonadres, en gebruikt deze als proxy-variabelen voor beschermde kenmerken. Recht op privacy - het systeem verwerkt gevoelige persoonlijke gegevens, waaronder inkomen, werk en familie-informatie. Recht op een doeltreffende voorziening in rechte - aanvragers moeten door AI aangestuurde afwijzingen kunnen aanvechten via een duidelijke, toegankelijke beroepsprocedure. Recht op menselijke waardigheid - geautomatiseerde beslissingen over de toegang tot huisvesting beïnvloeden een fundamenteel aspect van iemands leven en waardigheid.

8. Controle sectie 2

9. Sectie 3: Risicobeoordeling

   Alice beoordeelt de impact van elke rechten op ernst en waarschijnlijkheid. Het weigeren van toegang tot huisvesting is zeer ernstig; De waarschijnlijkheid hangt af van bias-controles. De gecombineerde beoordeling bepaalt welke maatregelen prioriteit krijgen.

10. Controle sectie 3