Effectbeoordeling van de grondrechten

Wat is Effectbeoordeling van de grondrechten?

Ontdek hoe artikel 27 van de EU AI Act vereist dat overheidsinstanties, openbare dienstverleners en aanbieders van krediet- of verzekeringsscores die AI met een hoog risico gebruiken, vóór het eerste gebruik een effectbeoordeling op de grondrechten uitvoeren. Voltooi een FRIA voor een geautomatiseerd systeem om in aanmerking te komen voor sociale huursubsidies, waarbij de impact op non-discriminatie, privacy, effectieve rechtsmiddelen en menselijke waardigheid wordt beoordeeld.

Wat je leert in Effectbeoordeling van de grondrechten

• Begrijp wanneer en waarom een FRIA vereist is op grond van artikel 27 van de EU AI Act
• Maak onderscheid tussen een FRIA- en een AVG-gegevensbeschermingseffectbeoordeling
• Identificeer alle categorieën van getroffen personen voor een AI-systeem met een hoog risico
• Beoordeel welke grondrechten worden beïnvloed door een AI-systeem dat beslissingen neemt over de geschiktheid van uitkeringen
• Definieer passende risicobeperkende maatregelen en monitoringplannen voor voortdurende naleving

Effectbeoordeling van de grondrechten — Trainingsstappen

1. Artikel 27: Effectbeoordeling van de grondrechten

   Artikel 27 van de EU AI-wet vereist dat bepaalde gebruiksverantwoordelijken van AI-systemen met een hoog risico (overheidsinstanties, particuliere entiteiten die openbare diensten verlenen, en gebruiksverantwoordelijken van AI voor kredietscores of levens- en ziektekostenverzekeringen) vóór het eerste gebruik een effectbeoordeling op het gebied van de grondrechten uitvoeren. Een systeem voor sociale huursubsidies voor gemeentebesturen valt onder de reikwijdte: het bepaalt wie in aanmerking komt voor overheidssteun (bijlage III, 5(a)). Een FRIA onderzoekt hoe het AI-systeem de fundamentele rechten kan beïnvloeden: waardigheid, non-discriminatie, privacy, vrijheid van meningsuiting en het recht op een doeltreffende voorziening in rechte. Een FRIA verschilt van een AVG Data Protection Impact Assessment (DPIA). Terwijl een DPIA zich uitsluitend richt op gegevensbeschermingsrisico’s, dekt een FRIA alle fundamentele rechten. Beide beoordelingen kunnen vereist zijn voor hetzelfde systeem, maar kunnen ook samen worden uitgevoerd.

2. Implementatiedetails

   Er komt een e-mail binnen van Petra Novak, de projectmanager die verantwoordelijk is voor de AI-implementatie van de sociale woningbouw. Ze geeft de details die Alice nodig heeft om de FRIA te starten.

3. FRIA-leidraaddocument

   Voordat ze met het assessment begint, opent Alice het FRIA-richtlijnendocument dat in de e-mail van Petra staat. Hierin wordt per onderdeel van de beoordeling uitgelegd, wat het verschil is tussen een FRIA en een DPIA, en praktische tips om elk onderdeel goed in te vullen.

4. Open het FRIA-formulier

   Nu de richtlijnen zijn beoordeeld, klikt Alice op Doorgaan om de FRIA-checklist te openen: vijf secties die de pijlers van een rechteneffectbeoordeling bestrijken.

5. Sectie 1: Systeembeschrijving

   In het eerste deel wordt Alice gevraagd het doel van het AI-systeem te documenteren, de mensen die erdoor worden beïnvloed en de reikwijdte van de inzet ervan. Voor dit systeem zijn de betrokken personen onder meer: Uitkeringsaanvragers - velen in kwetsbare financiële situaties, die rechtstreeks worden getroffen door beslissingen over de geschiktheid. Casemedewerkers - die vertrouwen op de aanbevelingen van de AI om definitieve beslissingen te nemen. Families van aanvragers - die afhankelijk zijn van de huurtoeslag die de aanvrager zoekt. Het systeem neemt beslissingen die rechtstreeks van invloed zijn op de toegang tot huisvesting - een fundamentele behoefte.

6. Controle sectie 1

7. Deel 2: Analyse van de grondrechten

   Dit is het meest kritische onderdeel van de FRIA. Alice moet beoordelen welke fundamentele rechten het AI-systeem zou kunnen beïnvloeden: Recht op non-discriminatie - de AI kan discrimineren op basis van gezinssamenstelling, nationaliteit of woonadres, en gebruikt deze als proxy-variabelen voor beschermde kenmerken. Recht op privacy - het systeem verwerkt gevoelige persoonlijke gegevens, waaronder inkomen, werk en familie-informatie. Recht op een doeltreffende voorziening in rechte - aanvragers moeten door AI aangestuurde afwijzingen kunnen aanvechten via een duidelijke, toegankelijke beroepsprocedure. Recht op menselijke waardigheid - geautomatiseerde beslissingen over de toegang tot huisvesting beïnvloeden een fundamenteel aspect van iemands leven en waardigheid.

8. Controle sectie 2

9. Sectie 3: Risicobeoordeling

   Alice beoordeelt de impact van elke rechten op ernst en waarschijnlijkheid. Het weigeren van toegang tot huisvesting is zeer ernstig; De waarschijnlijkheid hangt af van bias-controles. De gecombineerde beoordeling bepaalt welke maatregelen prioriteit krijgen.

10. Controle sectie 3