Grundrechte-Folgenabschätzung

What Is Grundrechte-Folgenabschätzung?

Lernen Sie, wie Artikel 27 der EU-KI-Verordnung Betreiber von Hochrisiko-KI-Systemen verpflichtet, vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung durchzuführen. Schließen Sie eine FRIA für ein automatisiertes Anspruchsprüfungs-System für Sozialwohnungs-Leistungen ab und bewerten Sie Auswirkungen auf Diskriminierungsfreiheit, Privatsphäre, wirksamen Rechtsbehelf und Menschenwürde.

What You'll Learn in Grundrechte-Folgenabschätzung

• Verstehen, wann und warum nach Artikel 27 der EU-KI-Verordnung eine FRIA erforderlich ist
• Eine FRIA von einer Datenschutz-Folgenabschätzung nach DSGVO unterscheiden
• Alle Kategorien betroffener Personen für ein Hochrisiko-KI-System identifizieren
• Bewerten, welche Grundrechte von einem KI-System mit Anspruchs-Entscheidungen berührt werden
• Passende Minderungsmaßnahmen und Monitoring-Pläne für laufende Compliance festlegen

Grundrechte-Folgenabschätzung — Training Steps

1. Artikel 27: Grundrechte-Folgenabschätzung

   Artikel 27 der EU-KI-Verordnung verpflichtet Betreiber von Hochrisiko-KI-Systemen, vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung durchzuführen. Eine FRIA prüft, wie das KI-System die Grundrechte beeinflussen könnte — Würde, Diskriminierungsfreiheit, Privatsphäre, Meinungsfreiheit und das Recht auf wirksamen Rechtsbehelf. Eine FRIA unterscheidet sich von einer Datenschutz-Folgenabschätzung (DSFA) nach DSGVO. Während eine DSFA sich allein auf Datenschutzrisiken konzentriert, deckt eine FRIA alle Grundrechte ab. Beide Folgenabschätzungen können für dasselbe System erforderlich sein und gemeinsam durchgeführt werden.

2. Einführungs-Details

   Eine E-Mail von Elena Novak, der für die Einführung des Sozialwohnungs-KI-Systems verantwortlichen Projektmanagerin, trifft ein. Sie liefert die Angaben, die Alice für den Start der FRIA braucht.

3. FRIA-Leitfaden-Dokument

   Before starting the assessment, Alice opens the FRIA guidance document linked in Elena's email. It explains each section of the assessment, the difference between a FRIA and a DPIA, and practical tips for completing each part thoroughly.

4. FRIA-Formular öffnen

   With the guidance reviewed, Alice clicks Continue to open the FRIA checklist - five sections covering the pillars of a rights impact assessment.

5. Abschnitt 1: Systembeschreibung

   Im ersten Abschnitt soll Alice den Zweck des KI-Systems, die betroffenen Personen und den Einsatzumfang dokumentieren. Für dieses System gehören zu den betroffenen Personen: Antragstellende — viele in finanziell prekären Lagen, unmittelbar von Anspruchs-Entscheidungen betroffen. Sachbearbeitende — die sich bei endgültigen Entscheidungen auf die KI-Empfehlungen stützen. Familien der Antragstellenden — die auf die beantragten Wohngeld-Leistungen angewiesen sind. Das System trifft Entscheidungen, die unmittelbar den Zugang zu Wohnraum betreffen — ein Grundbedürfnis.

6. Abschnitt 2: Grundrechte-Analyse

   This is the most critical section of the FRIA. Alice must assess which fundamental rights the AI system could affect: Right to non-discrimination - the AI may discriminate based on family composition, nationality, or residential address, using these as proxy variables for protected characteristics. Right to privacy - the system processes sensitive personal data including income, employment, and family information. Right to an effective remedy - applicants must be able to challenge AI-driven rejections through a clear, accessible appeal process. Right to human dignity - automated decisions about housing access affect a fundamental aspect of a person's life and dignity.

7. Section 3: Risk Assessment

   Alice scores each rights impact for severity and likelihood. Housing-access denial is high severity; likelihood depends on bias controls. The combined rating drives which mitigations get priority.

8. Section 4: Mitigation Measures

   For each identified risk, Alice defines safeguards: an appeal mechanism for rejected applicants, human review of all negative decisions, regular bias auditing across demographic groups, and transparency about the AI's role.

9. Section 5: Monitoring Plan

   A FRIA is a living document. Review it at least annually and whenever the system changes significantly. Escalation paths must be defined so rights-affecting incidents trigger immediate review.

10. FRIA einreichen

    Alle fünf Abschnitte sind abgeschlossen. Der Fortschrittsbalken steht auf 100 %. Alice kann die Grundrechte-Folgenabschätzung für das Sozialwohnungs-KI-System nun einreichen.