Grundrechte-Folgenabschätzung

Was ist Grundrechte-Folgenabschätzung?

Lernen Sie, wie Artikel 27 der EU-KI-Verordnung Betreiber von Hochrisiko-KI-Systemen verpflichtet, vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung durchzuführen. Schließen Sie eine FRIA für ein automatisiertes Anspruchsprüfungs-System für Sozialwohnungs-Leistungen ab und bewerten Sie Auswirkungen auf Diskriminierungsfreiheit, Privatsphäre, wirksamen Rechtsbehelf und Menschenwürde.

Was Sie lernen in Grundrechte-Folgenabschätzung

• Verstehen, wann und warum nach Artikel 27 der EU-KI-Verordnung eine FRIA erforderlich ist
• Eine FRIA von einer Datenschutz-Folgenabschätzung nach DSGVO unterscheiden
• Alle Kategorien betroffener Personen für ein Hochrisiko-KI-System identifizieren
• Bewerten, welche Grundrechte von einem KI-System mit Anspruchs-Entscheidungen berührt werden
• Passende Minderungsmaßnahmen und Monitoring-Pläne für laufende Compliance festlegen

Grundrechte-Folgenabschätzung — Trainingsschritte

1. Artikel 27: Grundrechte-Folgenabschätzung

   Artikel 27 der EU-KI-Verordnung verpflichtet Betreiber von Hochrisiko-KI-Systemen, vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung durchzuführen. Eine FRIA prüft, wie das KI-System die Grundrechte beeinflussen könnte — Würde, Diskriminierungsfreiheit, Privatsphäre, Meinungsfreiheit und das Recht auf wirksamen Rechtsbehelf. Eine FRIA unterscheidet sich von einer Datenschutz-Folgenabschätzung (DSFA) nach DSGVO. Während eine DSFA sich allein auf Datenschutzrisiken konzentriert, deckt eine FRIA alle Grundrechte ab. Beide Folgenabschätzungen können für dasselbe System erforderlich sein und gemeinsam durchgeführt werden.

2. Einführungs-Details

   Eine E-Mail von Petra Novak, der für die Einführung des Sozialwohnungs-KI-Systems verantwortlichen Projektmanagerin, trifft ein. Sie liefert die Angaben, die Alice für den Start der FRIA braucht.

3. FRIA-Leitfaden-Dokument

   Bevor sie mit der Bewertung beginnt, öffnet Alice den in Petras E-Mail verlinkten FRIA-Leitfaden. Er erläutert jeden Abschnitt der Bewertung, den Unterschied zwischen einer FRIA und einer DSFA sowie praktische Hinweise, wie jeder Teil sorgfältig ausgefüllt wird.

4. FRIA-Formular öffnen

   Nachdem sie den Leitfaden gelesen hat, klickt Alice auf „Weiter“, um die FRIA-Checkliste zu öffnen — fünf Abschnitte zu den Säulen einer Grundrechte-Folgenabschätzung.

5. Abschnitt 1: Systembeschreibung

   Im ersten Abschnitt soll Alice den Zweck des KI-Systems, die betroffenen Personen und den Einsatzumfang dokumentieren. Für dieses System gehören zu den betroffenen Personen: Antragstellende — viele in finanziell prekären Lagen, unmittelbar von Anspruchs-Entscheidungen betroffen. Sachbearbeitende — die sich bei endgültigen Entscheidungen auf die KI-Empfehlungen stützen. Familien der Antragstellenden — die auf die beantragten Wohngeld-Leistungen angewiesen sind. Das System trifft Entscheidungen, die unmittelbar den Zugang zu Wohnraum betreffen — ein Grundbedürfnis.

6. Abschnitt 2: Grundrechte-Analyse

   Dies ist der wichtigste Abschnitt der FRIA. Alice muss bewerten, welche Grundrechte das KI-System beeinträchtigen könnte: Recht auf Diskriminierungsfreiheit — die KI könnte anhand der Familienzusammensetzung, der Staatsangehörigkeit oder der Wohnadresse diskriminieren, wenn sie diese als Stellvertretervariablen für geschützte Merkmale verwendet. Recht auf Privatsphäre — das System verarbeitet sensible personenbezogene Daten, darunter Angaben zu Einkommen, Beschäftigung und Familie. Recht auf wirksamen Rechtsbehelf — Antragstellende müssen KI-gestützte Ablehnungen über ein klares, zugängliches Widerspruchsverfahren anfechten können. Recht auf Menschenwürde — automatisierte Entscheidungen über den Zugang zu Wohnraum betreffen einen grundlegenden Aspekt des Lebens und der Würde einer Person.

7. Abschnitt 3: Risikobewertung

   Alice bewertet jede Auswirkung auf Grundrechte nach Schweregrad und Eintrittswahrscheinlichkeit. Die Verweigerung des Zugangs zu Wohnraum hat einen hohen Schweregrad; die Eintrittswahrscheinlichkeit hängt von den Maßnahmen zur Bias-Kontrolle ab. Die Gesamtbewertung bestimmt, welche Minderungsmaßnahmen Vorrang haben.

8. Abschnitt 4: Minderungsmaßnahmen

   Für jedes ermittelte Risiko legt Alice Schutzmaßnahmen fest: ein Widerspruchsverfahren für abgelehnte Antragstellende, eine menschliche Überprüfung aller negativen Entscheidungen, regelmäßige Bias-Prüfungen über demografische Gruppen hinweg und Transparenz über die Rolle der KI.

9. Abschnitt 5: Überwachungsplan

   Eine FRIA ist ein lebendes Dokument. Überprüfen Sie sie mindestens jährlich und bei jeder wesentlichen Änderung des Systems. Eskalationswege müssen festgelegt sein, damit Vorfälle mit Auswirkungen auf Grundrechte eine sofortige Überprüfung auslösen.

10. FRIA einreichen

    Alle fünf Abschnitte sind abgeschlossen. Der Fortschrittsbalken steht auf 100 %. Alice kann die Grundrechte-Folgenabschätzung für das Sozialwohnungs-KI-System nun einreichen.