KI-Daten-Governance

Review training data quality against EU AI Act Article 10 requirements.

What Is KI-Daten-Governance?

Lernen Sie, wie Artikel 10 der EU-KI-Verordnung die Daten-Governance-Anforderungen für Hochrisiko-KI-Systeme festlegt. Prüfen Sie einen Trainingsdatensatz auf Repräsentativität, Datenqualität, Data Leakage und unnötige personenbezogene Daten, bevor das Modelltraining starten kann.

What You'll Learn in KI-Daten-Governance

KI-Daten-Governance — Training Steps

  1. Artikel 10: Daten-Governance

    Artikel 10 der EU-KI-Verordnung begründet Daten-Governance-Anforderungen für Hochrisiko-KI-Systeme. Trainings-, Validierungs- und Testdaten müssen strenge Qualitätskriterien erfüllen: Die Daten müssen relevant für die Aufgabe sein, die das KI-System erfüllen soll. Die Daten müssen hinreichend repräsentativ für die Bevölkerung sein, der das Modell dienen wird. Die Daten müssen so fehlerfrei wie möglich und für den vorgesehenen Zweck geeignet sein. Die Daten-Governance-Praktiken müssen mögliche Verzerrungen adressieren, die zu diskriminierenden Ergebnissen führen könnten. Schlechte Daten führen zu voreingenommener KI, und voreingenommene KI führt zu rechtlicher Haftung. Daten-Governance ist nach der EU-KI-Verordnung keine Best Practice — sondern eine Rechtspflicht.

  2. Anfrage zur Datensatz-Prüfung

    An email arrives from Marcus Rodriguez, the AI Team Lead. The team is preparing to train ChurnPredict v3, and the dataset needs a compliance review before training can begin. The email links directly to the dataset on the DataOps platform.

  3. Problem 1: Regionale Unterrepräsentation

    The DataOps platform loads the ChurnPredict v3 dataset review. The regional distribution of the training data immediately stands out - the dataset is heavily concentrated in one region despite the model being designed to serve all four equally.

  4. Problem 2: Veraltete Daten aus der Vor-Pandemiezeit

    Der zeitliche Verlauf der Datenerfassung offenbart ein weiteres Problem. Ein erheblicher Teil der Datensätze stammt aus der Zeit vor einem grundlegenden Wandel im Kundenverhalten.

  5. Problem 3: Data Leakage

    Ein genauerer Blick auf die Merkmalsliste deckt ein kritisches Datenqualitäts-Problem auf, das das Modell vollständig untergraben würde.

  6. Wissenstest: Datenrepräsentativität

    Bevor Sie die Prüfung fortsetzen, eine Frage zum Problem der regionalen Verteilung.

  7. Problem 4: Unnötige personenbezogene Daten

    Der letzte Abschnitt der Prüfung zeigt ein Compliance-Risiko auf, das über die KI-Verordnung hinaus in den DSGVO-Bereich reicht.

  8. Zusammenfassung der Prüfung

    Alice has completed the data governance review. Four critical issues must be resolved before model training can proceed: Severe regional underrepresentation - 72% North region data for a model serving 4 regions equally. The dataset must be rebalanced to adequately represent all deployment regions. Stale pre-pandemic data - 38% of records from 2019-2020 no longer reflect current customer behavior. These records should be excluded or weighted appropriately. Data leakage - the account_status feature directly encodes the target variable and must be removed to prevent artificially inflated training accuracy. Unnecessary PII - raw names, emails, phone numbers, and addresses create GDPR exposure without contributing to churn prediction. These fields must be removed or pseudonymized.

  9. File a Compliance Report

    Identifying gaps is only half the job. Under Article 10, the data governance review must be documented and routed to the AI Team Lead and the Data Protection Officer so model training is paused until the issues are resolved.

  10. Submit the Compliance Report

    Alice fills in the report with the findings, the four gaps mapped to Article 10 and GDPR, and the actions the AI team must complete before training resumes.