Grundrechte-Folgenabschätzung

Was ist Grundrechte-Folgenabschätzung?

Lernen Sie, wie Artikel 27 der EU-KI-Verordnung öffentliche Stellen, Erbringer öffentlicher Dienste sowie Betreiber von Bonitäts- oder Versicherungs-Scoring, die Hochrisiko-KI einsetzen, verpflichtet, vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung durchzuführen. Schließen Sie eine FRIA für ein automatisiertes System zur Prüfung der Anspruchsberechtigung für Sozialwohnungsleistungen ab und bewerten Sie Auswirkungen auf Diskriminierungsfreiheit, Privatsphäre, wirksame Beschwerde- und Klagemöglichkeiten sowie Menschenwürde.

Was Sie lernen in Grundrechte-Folgenabschätzung

• Verstehen, wann und warum nach Artikel 27 der EU-KI-Verordnung eine FRIA erforderlich ist
• Eine FRIA von einer Datenschutz-Folgenabschätzung nach DSGVO unterscheiden
• Alle Kategorien betroffener Personen für ein Hochrisiko-KI-System identifizieren
• Bewerten, welche Grundrechte von einem KI-System berührt werden, das über Leistungsansprüche entscheidet
• Passende Minderungsmaßnahmen und Monitoring-Pläne für laufende Compliance festlegen

Grundrechte-Folgenabschätzung — Trainingsschritte

1. Artikel 27: Grundrechte-Folgenabschätzung

   Artikel 27 verpflichtet bestimmte Betreiber von Hochrisiko-KI, vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung (FRIA) durchzuführen: öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von KI zur Bonitätsbewertung oder für Lebens- und Krankenversicherungen. Das System für Sozialwohnungsleistungen von CivicTech entscheidet im Auftrag von Kommunalverwaltungen über den Anspruch auf öffentliche Unterstützung (Anhang III Nummer 5 Buchstabe a) und fällt damit in den Anwendungsbereich. Eine FRIA prüft die Auswirkungen auf Würde, Diskriminierungsfreiheit, Privatsphäre, Meinungsfreiheit und das Recht, sich wirksam zu wehren (im Gesetz: wirksamer Rechtsbehelf). Anders als eine Datenschutz-Folgenabschätzung (DSFA) nach DSGVO, die nur den Datenschutz abdeckt, erfasst eine FRIA alle Grundrechte. Beide können erforderlich sein und gemeinsam durchgeführt werden.

2. Einführungsdetails

   Eine E-Mail von Petra Novak, der für die Einführung des Sozialwohnungs-KI-Systems verantwortlichen Projektmanagerin, trifft ein. Sie liefert die Angaben, die Alice für den Start der FRIA braucht.

3. FRIA-Leitfaden-Dokument

   Bevor sie mit der Bewertung beginnt, öffnet Alice den in Petras E-Mail verlinkten FRIA-Leitfaden. Er erläutert jeden Abschnitt der Bewertung, den Unterschied zwischen einer FRIA und einer DSFA sowie praktische Hinweise, wie jeder Teil sorgfältig ausgefüllt wird.

4. FRIA-Formular öffnen

   Nachdem sie den Leitfaden gelesen hat, klickt Alice auf „Weiter zum FRIA-Formular“, um die FRIA-Checkliste zu öffnen — fünf Abschnitte zu den Säulen einer Grundrechte-Folgenabschätzung.

5. Abschnitt 1: Systembeschreibung

   Im ersten Abschnitt soll Alice den Zweck des KI-Systems, die betroffenen Personen und den Einsatzumfang dokumentieren. Für dieses System gehören zu den betroffenen Personen: Antragstellende — viele in finanziell prekären Lagen, unmittelbar von den Entscheidungen über ihre Ansprüche betroffen. Sachbearbeitende — die sich bei endgültigen Entscheidungen auf die KI-Empfehlungen stützen. Familien der Antragstellenden — die auf die beantragten Sozialwohnungsleistungen angewiesen sind. Das System trifft Entscheidungen, die unmittelbar den Zugang zu Wohnraum betreffen — ein Grundbedürfnis.

6. Wissenscheck: Abschnitt 1

7. Abschnitt 2: Grundrechte-Analyse

   Dies ist der wichtigste Abschnitt der FRIA. Alice muss bewerten, welche Grundrechte das KI-System beeinträchtigen könnte: Recht auf Diskriminierungsfreiheit — die KI könnte anhand der Familienzusammensetzung, der Staatsangehörigkeit oder der Wohnadresse diskriminieren, wenn sie diese als Proxy-Variablen für geschützte Merkmale verwendet. Recht auf Privatsphäre — das System verarbeitet sensible personenbezogene Daten, darunter Angaben zu Einkommen, Beschäftigung und Familie. Recht auf wirksamen Rechtsbehelf — Antragstellende müssen KI-gestützte Ablehnungen über ein klares, zugängliches Widerspruchsverfahren anfechten können. Recht auf Menschenwürde — automatisierte Entscheidungen über den Zugang zu Wohnraum betreffen einen grundlegenden Aspekt des Lebens und der Würde einer Person.

8. Wissenscheck: Abschnitt 2

9. Abschnitt 3: Risikobewertung

   Alice bewertet jede Auswirkung auf Grundrechte nach Schweregrad und Eintrittswahrscheinlichkeit. Die Verweigerung des Zugangs zu Wohnraum hat einen hohen Schweregrad; die Eintrittswahrscheinlichkeit hängt von den Maßnahmen zur Bias-Kontrolle ab. Die Gesamtbewertung bestimmt, welche Minderungsmaßnahmen Vorrang haben.

10. Wissenscheck: Abschnitt 3