KI-Governance in Ihrer Organisation

Establish AI governance structures from scratch when your company has been using AI tools with no oversight.

What Is KI-Governance in Ihrer Organisation?

Das EU-KI-Gesetz erfordert mehr als nur systemspezifische Compliance. Organisationen benötigen Governance-Strukturen, die alle verwendeten KI-Systeme verfolgen, verantwortliche Eigentümer zuweisen, Nutzungsrichtlinien definieren und die Einhaltung kontinuierlich überwachen. In dieser Übung registrieren Sie KI-Systeme in einem Governance-Portal, antworten auf die Frage von Abteilungsleitern, ob sie ihre Tools weiterhin verwenden können, erstellen Governance-Richtlinien und gehen auf Schatten-KI-Vorfälle ein, bei denen Mitarbeiter nicht genehmigte Tools mit sensiblen Daten verwenden.

What You'll Learn in KI-Governance in Ihrer Organisation

KI-Governance in Ihrer Organisation — Training Steps

  1. Die Notwendigkeit einer KI-Governance

    Das EU-KI-Gesetz erfordert mehr als nur die Einhaltung systembezogener Vorschriften – Organisationen benötigen Governance-Strukturen. Das bedeutet, dass Sie wissen, welche KI Sie verwenden, wer dafür verantwortlich ist, welche Richtlinien gelten und wie die Einhaltung überwacht wird. Ohne Governance sind die einzelnen Compliance-Bemühungen fragmentiert und Lücken bleiben unentdeckt.

  2. Alarmierende Umfrageergebnisse

    Alice schickte eine unternehmensweite Umfrage an alle Abteilungsleiter, in der sie nach der Nutzung von KI-Tools fragte. Die Ergebnisse sind gerade eingetroffen und zeichnen ein besorgniserregendes Bild der unkontrollierten Einführung von KI.

  3. Das leere Register

    Alice öffnet das AI Systems Registry im Governance-Portal über den Link in ihrer eigenen Ankündigungs-E-Mail. Es ist völlig leer – es wurde kein einziges KI-System registriert, obwohl unternehmensweit 14 Tools aktiv im Einsatz sind.

  4. SmartHire registrieren

    Das erste System, das sich registriert, ist SmartHire – das KI-Tool zur Lebenslaufprüfung der Personalabteilung. Dieses System bewertet und filtert Stellenbewerber, was unter Anhang III Bereich 4 (Beschäftigung) des EU-KI-Gesetzes fällt. Systeme, die bei Einstellungsentscheidungen eingesetzt werden, werden als risikoreich eingestuft.

  5. Registrieren von ChatAssist

    Das zweite zu registrierende System ist ChatAssist – der KI-Chatbot für den Kundenservice. Dieses System interagiert direkt mit Kunden und ist somit ein System mit begrenztem Risiko im Sinne des EU-KI-Gesetzes. Die wichtigste Verpflichtung ist Transparenz: Kunden müssen darüber informiert werden, dass sie mit einem KI-System interagieren.

  6. Warum ein Register führen?

    Da zwei Systeme registriert sind und noch zwölf weitere übrig sind, lohnt es sich, innezuhalten, um zu verstehen, warum diese Arbeit wichtig ist.

  7. Die KI-Governance-Richtlinie

    Bevor sie die Fragen beantwortet, von denen sie weiß, dass sie kommen werden, öffnet Alice die Governance-Richtlinienvorlage im GRC-Portal-Navigationssystem. Eine Governance-Richtlinie definiert die Regeln, die jeder befolgen muss – von der Art und Weise, wie neue KI-Tools genehmigt werden, bis hin zu den Daten, die in sie eingegeben werden können. Ohne eine Richtlinie gibt es keinen durchzusetzenden Standard.

  8. Fragen zur Abteilung

    Pünktlich aufs Stichwort rufen zwei Abteilungsleiter im Abstand von wenigen Minuten den Kanal #allgemein an. Beide offenbaren die gleiche Lücke, die die Richtlinie schließen soll: Die Menschen gingen davon aus, dass ihre informelle KI-Nutzung keiner Governance bedarf. Alice liest jede Frage und postet dann eine Antwort, die beide abdeckt.

  9. Das Schatten-KI-Problem

    Tom vom Engineering pingt #general mit genau der Art von Problem-Governance, die verhindert: Ein Praktikant hat drei Wochen lang proprietären Code in ein kostenloses KI-Tool ohne DPA eingefügt. Dies ist kein individueller Fehler, sondern ein systemisches Versagen. Alice muss Tom klare, sofortige Maßnahmen zur Eindämmung geben und neu definieren, wessen Versagen es wirklich ist.

  10. Aufbau einer dauerhaften Governance

    KI-Governance ist kein einmaliges Projekt. Es handelt sich um einen fortlaufenden Prozess: Neue Systeme registrieren, bestehende prüfen, Richtlinien aktualisieren und Mitarbeiter schulen. Die Schlüsselelemente einer effektiven KI-Governance sind: Ein KI-Systemregister, das die gesamte eingesetzte KI verfolgt Klare Rollen mit zugewiesenen Eigentümern für jedes System Richtlinien zur Tool-Genehmigung, Dateneingabe, Offenlegung und Meldung von Vorfällen Regelmäßige Audits und Überprüfungen Mitarbeiterschulung zu KI-Nutzungsrichtlinien Die Rolle des KI-Governance-Beauftragten wird genauso wichtig wie die des Datenschutzbeauftragten. Beide dienen dazu, das Unternehmen vor den Risiken leistungsstarker Technologie zu schützen, die ohne Aufsicht eingesetzt wird.