Grundrechte-Folgenabschätzung

Was ist Grundrechte-Folgenabschätzung?

Learn how Article 27 of the EU AI Act requires public bodies, public-service providers, and credit or insurance scoring deployers using high-risk AI to conduct a Fundamental Rights Impact Assessment before first use. Complete a FRIA for an automated social housing benefit eligibility system, assessing impacts on non-discrimination, privacy, effective remedy, and human dignity.

Was Sie lernen in Grundrechte-Folgenabschätzung

• Verstehen, wann und warum nach Artikel 27 der EU-KI-Verordnung eine FRIA erforderlich ist
• Eine FRIA von einer Datenschutz-Folgenabschätzung nach DSGVO unterscheiden
• Alle Kategorien betroffener Personen für ein Hochrisiko-KI-System identifizieren
• Bewerten, welche Grundrechte von einem KI-System mit Anspruchs-Entscheidungen berührt werden
• Passende Minderungsmaßnahmen und Monitoring-Pläne für laufende Compliance festlegen

Grundrechte-Folgenabschätzung — Trainingsschritte

1. Artikel 27: Grundrechte-Folgenabschätzung

   Article 27 of the EU AI Act requires certain deployers of high-risk AI systems (public bodies, private entities providing public services, and deployers of credit-scoring or life and health insurance AI) to conduct a Fundamental Rights Impact Assessment before first use. A social housing benefit system run for municipal councils is in scope: it decides eligibility for public assistance (Annex III 5(a)). A FRIA examines how the AI system might affect fundamental rights - dignity, non-discrimination, privacy, freedom of expression, and the right to an effective remedy. A FRIA differs from a GDPR Data Protection Impact Assessment (DPIA). While a DPIA focuses solely on data protection risks, a FRIA covers all fundamental rights. Both assessments may be required for the same system, and they can be conducted together.

2. Einführungsdetails

   Eine E-Mail von Petra Novak, der für die Einführung des Sozialwohnungs-KI-Systems verantwortlichen Projektmanagerin, trifft ein. Sie liefert die Angaben, die Alice für den Start der FRIA braucht.

3. FRIA-Leitfaden-Dokument

   Bevor sie mit der Bewertung beginnt, öffnet Alice den in Petras E-Mail verlinkten FRIA-Leitfaden. Er erläutert jeden Abschnitt der Bewertung, den Unterschied zwischen einer FRIA und einer DSFA sowie praktische Hinweise, wie jeder Teil sorgfältig ausgefüllt wird.

4. FRIA-Formular öffnen

   Nachdem sie den Leitfaden gelesen hat, klickt Alice auf „Weiter“, um die FRIA-Checkliste zu öffnen — fünf Abschnitte zu den Säulen einer Grundrechte-Folgenabschätzung.

5. Abschnitt 1: Systembeschreibung

   Im ersten Abschnitt soll Alice den Zweck des KI-Systems, die betroffenen Personen und den Einsatzumfang dokumentieren. Für dieses System gehören zu den betroffenen Personen: Antragstellende — viele in finanziell prekären Lagen, unmittelbar von Anspruchs-Entscheidungen betroffen. Sachbearbeitende — die sich bei endgültigen Entscheidungen auf die KI-Empfehlungen stützen. Familien der Antragstellenden — die auf die beantragten Sozialwohnungsleistungen angewiesen sind. Das System trifft Entscheidungen, die unmittelbar den Zugang zu Wohnraum betreffen — ein Grundbedürfnis.

6. Section 1 Check

7. Abschnitt 2: Grundrechte-Analyse

   Dies ist der wichtigste Abschnitt der FRIA. Alice muss bewerten, welche Grundrechte das KI-System beeinträchtigen könnte: Recht auf Diskriminierungsfreiheit — die KI könnte anhand der Familienzusammensetzung, der Staatsangehörigkeit oder der Wohnadresse diskriminieren, wenn sie diese als Stellvertretervariablen für geschützte Merkmale verwendet. Recht auf Privatsphäre — das System verarbeitet sensible personenbezogene Daten, darunter Angaben zu Einkommen, Beschäftigung und Familie. Recht auf wirksamen Rechtsbehelf — Antragstellende müssen KI-gestützte Ablehnungen über ein klares, zugängliches Widerspruchsverfahren anfechten können. Recht auf Menschenwürde — automatisierte Entscheidungen über den Zugang zu Wohnraum betreffen einen grundlegenden Aspekt des Lebens und der Würde einer Person.

8. Section 2 Check

9. Abschnitt 3: Risikobewertung

   Alice bewertet jede Auswirkung auf Grundrechte nach Schweregrad und Eintrittswahrscheinlichkeit. Die Verweigerung des Zugangs zu Wohnraum hat einen hohen Schweregrad; die Eintrittswahrscheinlichkeit hängt von den Maßnahmen zur Bias-Kontrolle ab. Die Gesamtbewertung bestimmt, welche Minderungsmaßnahmen Vorrang haben.

10. Section 3 Check