KI-Governance in Ihrer Organisation

Was ist KI-Governance in Ihrer Organisation?

The EU AI Act requires more than per-system compliance. Organizations need governance structures that track all AI systems in use, assign responsible owners, define usage policies, and monitor compliance continuously. In this exercise, you register AI systems in a governance portal, respond to department heads asking whether they can keep using their tools, create governance policies, and address shadow AI incidents where employees use unapproved tools with sensitive data.

Was Sie lernen in KI-Governance in Ihrer Organisation

• Die organisatorischen Governance-Anforderungen der EU-KI-Verordnung verstehen
• Ein KI-Systeme-Register aufbauen und pflegen, das alle eingesetzten KI erfasst
• KI-Systemen Verantwortliche zuweisen und deren Compliance-Pflichten definieren
• KI-Nutzungsrichtlinien erstellen, die Tool-Freigabe, Dateneingabe, Offenlegung und Vorfallsmeldung abdecken
• Schatten-KI als Governance-Versagen erkennen und adressieren — nicht nur als individuellen Fehler

KI-Governance in Ihrer Organisation — Trainingsschritte

1. Warum KI-Governance nötig ist

   Die EU-KI-Verordnung verlangt mehr als nur Compliance pro System — Organisationen brauchen Governance-Strukturen. Das heißt: zu wissen, welche KI im Einsatz ist, wer verantwortlich ist, welche Richtlinien gelten und wie Compliance überwacht wird. Ohne Governance bleiben einzelne Compliance-Bemühungen Stückwerk, und Lücken werden nicht bemerkt.

2. Alarmierende Umfrageergebnisse

   Alice hat eine unternehmensweite Umfrage an alle Abteilungsleitungen verschickt und nach dem Einsatz von KI-Tools gefragt. Die Ergebnisse sind soeben eingetroffen und zeichnen ein besorgniserregendes Bild ungesteuerter KI-Nutzung.

3. Das leere Register

   Alice opens the AI Systems Registry on the governance portal via the link in her own announcement email. It is completely empty - not a single AI system has been registered despite 14 tools being in active use across the company.

4. SmartHire registrieren

   Das erste zu registrierende System ist SmartHire — das KI-Lebenslauf-Screening-Tool der HR-Abteilung. Es bewertet und filtert Bewerberinnen und Bewerber und fällt damit unter Anhang III Bereich 4 (Beschäftigung) der EU-KI-Verordnung. Systeme für Beschäftigungs-Entscheidungen gelten als Hochrisiko.

5. ChatAssist registrieren

   Das zweite zu registrierende System ist ChatAssist — der KI-Chatbot des Customer Service. Da er unmittelbar mit Kundinnen und Kunden interagiert, gilt er nach der EU-KI-Verordnung als KI mit begrenztem Risiko. Die zentrale Pflicht ist Transparenz: Kundinnen und Kunden müssen darüber informiert werden, dass sie mit einem KI-System interagieren.

6. Warum ein Register führen?

   Mit zwei registrierten Systemen — und zwölf weiteren vor uns — lohnt sich kurz die Frage, warum diese Arbeit wichtig ist.

7. Die KI-Governance-Richtlinie

   Before fielding the questions she knows are coming, Alice opens the governance policy template from the GRC Portal nav. A governance policy defines the rules everyone must follow - from how new AI tools get approved to what data can be input into them. Without a policy, there is no standard to enforce.

8. Fragen aus den Abteilungen

   Right on cue, two department heads ping the #general channel within minutes of each other. Both reveal the same gap the policy is designed to close: people assumed their informal AI usage did not need governance. Alice reads each question, then posts one reply that covers both.

9. Das Schatten-KI-Problem

   Tom from Engineering pings #general with exactly the kind of problem governance prevents: an intern has been pasting proprietary code into a free AI tool with no DPA for three weeks. This is not an individual mistake — it is a systemic failure. Alice needs to give Tom clear, immediate containment steps and reframe whose failure it really is.

10. Governance aufbauen, die trägt

    KI-Governance ist kein einmaliges Projekt. Es ist ein fortlaufender Prozess: neue Systeme registrieren, bestehende auditieren, Richtlinien aktualisieren und Mitarbeitende schulen. Die wesentlichen Elemente wirksamer KI-Governance: Ein KI-Systeme-Register, das alle eingesetzten KI erfasst Klare Rollen mit benannten Verantwortlichen je System Richtlinien zu Tool-Freigabe, Dateneingabe, Offenlegung und Vorfallsmeldung Regelmäßige Audits und Reviews Mitarbeiter-Schulung zu KI-Nutzungsregeln Die Rolle der AI Governance Officer wird so wichtig wie die der Datenschutzbeauftragten. Beide bestehen, um die Organisation vor den Risiken einer starken Technologie zu schützen, wenn sie ohne Aufsicht eingesetzt wird.