KI-Daten-Governance

Was ist KI-Daten-Governance?

Artikel 10 des EU-KI-Gesetzes legt Data-Governance-Anforderungen für Hochrisiko-KI-Systeme fest, und die Verpflichtung gilt vor Beginn des Trainings und nicht erst, nachdem sich ein Modell schlecht verhält. Sie überprüfen einen Trainingsdatensatz auf Repräsentativität, Datenqualität, Lücken zwischen Trainings- und Testaufteilungen sowie personenbezogene Daten, die nie benötigt wurden, und entscheiden dann, ob der Satz für das Training geeignet ist. Sie können sagen, was einen Datensatz konform macht und was ihn blockiert.

Was Sie lernen in KI-Daten-Governance

• Die Anforderungen aus Artikel 10 an die Trainingsdaten-Qualität bei Hochrisiko-KI-Systemen verstehen
• Probleme der Datenrepräsentativität erkennen, die zu verzerrten KI-Vorhersagen führen können
• Data Leakage erkennen, das die Modellleistung künstlich aufbläht
• Den Grundsatz der Datenminimierung anwenden, um DSGVO-Compliance-Risiken in KI-Trainingsdaten zu reduzieren
• Daten-Governance-Befunde so dokumentieren, wie es die Compliance bei Hochrisiko-KI verlangt

KI-Daten-Governance — Trainingsschritte

1. Artikel 10: Daten-Governance

   Artikel 10 der EU-KI-Verordnung begründet Daten-Governance-Anforderungen für Hochrisiko-KI-Systeme. Trainings-, Validierungs- und Testdaten müssen strenge Qualitätskriterien erfüllen: Die Daten müssen relevant für die Aufgabe sein, die das KI-System erfüllen soll. Die Daten müssen hinreichend repräsentativ für die Bevölkerung sein, der das Modell dienen wird. Die Daten müssen so fehlerfrei wie möglich und für den vorgesehenen Zweck geeignet sein. Die Daten-Governance-Praktiken müssen mögliche Verzerrungen adressieren, die zu diskriminierenden Ergebnissen führen könnten. Schlechte Daten führen zu voreingenommener KI, und voreingenommene KI führt zu rechtlicher Haftung. Daten-Governance ist nach der EU-KI-Verordnung keine Best Practice — sondern eine Rechtspflicht.

2. Anfrage zur Datensatz-Prüfung

   Eine E-Mail von Marcus Rodriguez, dem Leiter des KI-Teams, trifft ein. Das Team bereitet das Training von ChurnPredict v3 vor; der Datensatz benötigt vor Beginn des Trainings eine Compliance-Prüfung. Die E-Mail verlinkt direkt zum Datensatz auf der DataOps-Plattform.

3. Problem 1: Regionale Unterrepräsentation

   Die DataOps-Plattform lädt die Prüfung des Datensatzes ChurnPredict v3. Die regionale Verteilung der Trainingsdaten fällt sofort auf — der Datensatz ist stark auf eine Region konzentriert, obwohl das Modell alle vier Regionen gleichermaßen bedienen soll.

4. Problem 2: Veraltete Daten aus der Vor-Pandemiezeit

   Der zeitliche Verlauf der Datenerfassung offenbart ein weiteres Problem. Ein erheblicher Teil der Datensätze stammt aus der Zeit vor einem grundlegenden Wandel im Kundenverhalten.

5. Problem 3: Data Leakage

   Ein genauerer Blick auf die Merkmalsliste deckt ein kritisches Datenqualitäts-Problem auf, das das Modell vollständig untergraben würde.

6. Wissenstest: Datenrepräsentativität

   Bevor Sie die Prüfung fortsetzen, eine Frage zum Problem der regionalen Verteilung.

7. Problem 4: Unnötige personenbezogene Daten

   Der letzte Abschnitt der Prüfung zeigt ein Compliance-Risiko auf, das über die KI-Verordnung hinaus in den DSGVO-Bereich reicht.

8. Zusammenfassung der Prüfung

   Alice hat die Daten-Governance-Prüfung abgeschlossen. Vier kritische Probleme müssen vor dem Modelltraining gelöst werden: Schwere regionale Unterrepräsentation — 72 % der Daten stammen aus der Nordregion, obwohl das Modell vier Regionen gleichermaßen bedienen soll. Der Datensatz muss neu gewichtet werden, um alle Einsatzregionen angemessen abzubilden. Veraltete Daten aus der Vor-Pandemiezeit — 38 % der Datensätze aus 2019–2020 spiegeln das aktuelle Kundenverhalten nicht mehr wider. Diese Datensätze sollten ausgeschlossen oder angemessen gewichtet werden. Data Leakage — das Merkmal account_status kodiert die Zielvariable direkt und muss entfernt werden, um künstlich aufgeblähte Trainingsgenauigkeit zu vermeiden. Unnötige personenbezogene Daten — Klarnamen, E-Mail-Adressen, Telefonnummern und Anschriften schaffen DSGVO-Risiken, ohne zur Churn-Prognose beizutragen. Diese Felder müssen entfernt oder pseudonymisiert werden.

9. Compliance-Bericht einreichen

   Lücken zu ermitteln, ist nur die halbe Aufgabe. Nach Artikel 10 muss die Daten-Governance-Prüfung dokumentiert und an den Leiter des KI-Teams sowie die Datenschutzbeauftragte weitergeleitet werden, damit das Modelltraining bis zur Behebung der Probleme pausiert.

10. Compliance-Bericht übermitteln

    Alice füllt den Bericht mit den Feststellungen, den vier Lücken mit Zuordnung zu Artikel 10 und DSGVO sowie den Maßnahmen aus, die das KI-Team vor Wiederaufnahme des Trainings erledigen muss.