KI-Governance in Ihrer Organisation
Sie können die KI-Tools nicht steuern, die niemand gezählt hat.
Was ist KI-Governance in Ihrer Organisation?
Die Einhaltung der EU-KI-Verordnung verlangt mehr als Prüfungen einzelner Systeme. Organisationen benötigen Governance-Strukturen, die alle eingesetzten KI-Systeme erfassen, Verantwortliche benennen, Nutzungsrichtlinien festlegen und die Compliance fortlaufend überwachen. In dieser Übung registrieren Sie KI-Systeme in einem Governance-Portal, beantworten Fragen von Abteilungsleitungen zur weiteren Nutzung ihrer Tools, erstellen Governance-Richtlinien und behandeln Vorfälle mit Schatten-KI, bei denen Mitarbeitende nicht freigegebene Tools mit sensiblen Daten verwenden.
Was Sie lernen in KI-Governance in Ihrer Organisation
- Verstehen, warum die Einhaltung der EU-KI-Verordnung organisationsweite Governance erfordert
- Ein KI-Systemregister aufbauen und pflegen, das alle eingesetzten KI-Systeme erfasst
- KI-Systemen Verantwortliche zuweisen und deren Compliance-Pflichten definieren
- KI-Nutzungsrichtlinien erstellen, die Tool-Freigabe, Dateneingabe, Offenlegung und Vorfallsmeldung abdecken
- Schatten-KI als Governance-Versagen erkennen und adressieren — nicht nur als individuellen Fehler
KI-Governance in Ihrer Organisation — Trainingsschritte
-
Die Notwendigkeit von KI-Governance
Die Einhaltung der EU-KI-Verordnung verlangt mehr als Prüfungen pro System — Organisationen brauchen Governance-Strukturen. Das heißt: zu wissen, welche KI im Einsatz ist, wer verantwortlich ist, welche Richtlinien gelten und wie Compliance überwacht wird. Die Verordnung schreibt ein KI-Register nicht ausdrücklich vor, aber ohne ein solches lässt sich nicht belegen, welche Pflichten für welches System gelten. Ohne Governance bleiben einzelne Compliance-Bemühungen Stückwerk, und Lücken werden nicht bemerkt.
-
Alarmierende Umfrageergebnisse
Alice hat eine unternehmensweite Umfrage an alle Abteilungsleitungen verschickt und nach dem Einsatz von KI-Tools gefragt. Die Ergebnisse sind soeben eingetroffen und zeichnen ein besorgniserregendes Bild ungesteuerter KI-Nutzung.
-
Das leere Register
Alice öffnet über den Link in ihrer eigenen Ankündigungs-E-Mail das KI-Systemregister im Governance-Portal. Es ist völlig leer — obwohl im gesamten Unternehmen 14 Tools aktiv genutzt werden, wurde kein einziges KI-System registriert.
-
SmartHire registrieren
Das erste zu registrierende System ist SmartHire — das KI-Lebenslauf-Screening-Tool der HR-Abteilung. Es bringt Bewerbende in eine Rangfolge und filtert sie. Damit fällt es unter Anhang III Bereich 4 (Beschäftigung) der EU-KI-Verordnung. Systeme für Entscheidungen über Beschäftigung gelten als Hochrisiko-KI-Systeme.
-
ChatAssist registrieren
Das zweite zu registrierende System ist ChatAssist — der KI-Chatbot des Kundenservice. Da er unmittelbar mit Kundinnen und Kunden interagiert, gilt er nach der EU-KI-Verordnung als KI mit begrenztem Risiko. Die zentrale Pflicht ist Transparenz: Kundinnen und Kunden müssen darüber informiert werden, dass sie mit einem KI-System interagieren. Mit zwei registrierten Systemen und zwölf weiteren, die noch folgen, lohnt es sich innezuhalten und zu verstehen, warum diese Arbeit wichtig ist.
-
Warum ein Register führen?
-
Die KI-Governance-Richtlinie
Bevor sie die absehbaren Fragen beantwortet, öffnet Alice über die Navigation im GRC-Portal die Vorlage für die Governance-Richtlinie. Eine Governance-Richtlinie legt die Regeln fest, die alle befolgen müssen — von der Genehmigung neuer KI-Tools bis zu den Daten, die in sie eingegeben werden dürfen. Ohne Richtlinie gibt es keinen durchsetzbaren Standard.
-
Fragen aus den Abteilungen
Wie erwartet schreiben zwei Abteilungsleitungen innerhalb weniger Minuten im Kanal #general. Beide machen dieselbe Lücke sichtbar, die die Richtlinie schließen soll: Sie gingen davon aus, dass ihre informelle KI-Nutzung keine Governance erfordert. Alice liest beide Fragen und veröffentlicht dann eine Antwort, die beide abdeckt.
-
Das Schatten-KI-Problem
Tom from Engineering pings #general with exactly the kind of problem governance prevents: an intern has been pasting proprietary code into a free AI tool with no DPA for three weeks. This is not an individual mistake. It is a systemic failure. Alice needs to give Tom clear, immediate containment steps and reframe whose failure it really is.
-
Governance aufbauen, die trägt
KI-Governance ist kein einmaliges Projekt. Es ist ein fortlaufender Prozess: neue Systeme registrieren, bestehende auditieren, Richtlinien aktualisieren und Mitarbeitende schulen. Die wesentlichen Elemente wirksamer KI-Governance: Ein KI-Systemregister, das alle eingesetzten KI-Systeme erfasst Klare Rollen mit benannten Verantwortlichen je System Richtlinien zu Tool-Freigabe, Dateneingabe, Offenlegung und Vorfallsmeldung Regelmäßige Audits und Reviews Schulungen für Mitarbeitende zu KI-Nutzungsregeln Die Rolle der KI-Governance-Beauftragten wird so wichtig wie die der Datenschutzbeauftragten. Beide dienen dazu, die Organisation vor den Risiken leistungsfähiger Technologie ohne Aufsicht zu schützen.
Abdeckung der Sicherheits-Frameworks
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
NICE Framework
- OG-WRL-008 Privacy Compliance
- OG-WRL-002 Cybersecurity Policy and Planning
EU AI Act
- Art. 4 AI literacy
- Art. 26 Obligations of deployers of high-risk AI systems