KI-Transparenz und Offenlegung

Was ist KI-Transparenz und Offenlegung?

Die EU-KI-Verordnung legt Transparenzpflichten für Chatbots, KI-generierte Inhalte und Deepfakes fest. In dieser Übung prüfen Sie einen Kunden-Chatbot, der seine KI-Identität verbirgt, und bearbeiten anschließend eine Content-Queue: Sie unterscheiden die gesetzliche Deepfake-Offenlegung von der unternehmenseigenen Kennzeichnungsrichtlinie und klären eine Grauzonen-Anfrage zu KI-überarbeitetem Text.

Was Sie lernen in KI-Transparenz und Offenlegung

• Die Transparenzpflichten aus Artikel 50 für KI-Systeme verstehen
• Erkennen, wann KI-Chatbots Nutzerinnen und Nutzer darüber informieren müssen, dass sie mit einem KI-System interagieren
• Die passenden Transparenz-Kennzeichnungen für KI-generierte und KI-unterstützte Inhalte vergeben
• Zwischen KI-generierten Inhalten, KI-unterstützten Inhalten und synthetischen Medien unterscheiden
• Den Grundsatz „im Zweifel offenlegen“ anwenden, wenn die KI-Beteiligung unklar ist

KI-Transparenz und Offenlegung — Trainingsschritte

1. Artikel 50: Transparenzpflichten

   Artikel 50 begründet Transparenzpflichten, die unabhängig von der Risikoklasse eines KI-Systems gelten: Chatbots – der Anbieter muss dafür sorgen, dass Menschen erkennen, dass sie es mit KI zu tun haben, wenn das nicht offensichtlich ist. Synthetische Inhalte – der Anbieter kennzeichnet sie maschinenlesbar als KI-erstellt. Deepfakes – der Betreiber legt offen, dass Bilder, Audio- oder Videoinhalte, die realen Personen, Orten, Gegenständen oder Ereignissen ähneln, von KI erstellt oder verändert wurden. Auch erkennbare Satire oder Kunst wird offengelegt, aber so, dass das Werk nicht verdorben wird. KI-Text, der zur Information der Öffentlichkeit veröffentlicht wird – muss offengelegt werden, es sei denn, ein Mensch hat ihn geprüft und jemand trägt die redaktionelle Verantwortung. Das sind Rechtspflichten, und Verstöße können mit einem Bußgeld geahndet werden.

2. Prüfung des Kampagnen-Launches

   Eine E-Mail von Sarah Mitchell, der Marketing Director, trifft ein. Die Kampagne startet am Freitag, und mehrere Deliverables benötigen eine Compliance-Prüfung, bevor sie online gehen.

3. Den Chatbot testen

   Alice folgt Sarahs Link zur Chatbot-Vorschau. Sie muss sich zunächst im CMS anmelden und sieht anschließend genau, wie eine Person den Chatbot beim ersten Besuch erlebt.

4. Die Chatbot-Offenlegung korrigieren

   Der Chatbot präsentiert sich als Mensch ohne jeden KI-Hinweis. Alice muss die Konfigurationsseite des Chatbots im CMS öffnen und den verpflichtenden KI-Offenlegungshinweis aktivieren.

5. Content-Prüfungs-Queue

   Mit der korrigierten Chatbot-Offenlegung wechselt Alice zur Content-Prüfungs-Queue. Fünf Marketing-Assets brauchen vor der Veröffentlichung Kennzeichnungen. Die Veröffentlichungsrichtlinie von Cascade kennzeichnet jedes Asset danach, wie viel KI darin steckt, und geht damit über das Gesetz hinaus. Die EU-KI-Verordnung selbst verlangt davon nur einen Teil: die Deepfake-Offenlegung, sobald ein Asset ein Deepfake ist, und die Offenlegung von KI-geschriebenem Text, der zur Information der Öffentlichkeit veröffentlicht wird, wenn ihn nicht ein Mensch geprüft hat und redaktionell verantwortet.

6. Inhalte kennzeichnen

   Alice arbeitet jedes Content-Element ab und wählt jeweils die passende KI-Transparenz-Kennzeichnung anhand der Entstehungsweise. Der Fortschrittsbalken zeigt, wie viele Elemente bereits gekennzeichnet sind.

7. Wissenscheck: Audio-Aufbereitung

   Bevor Sie weitermachen, eine Frage dazu, wo das Gesetz endet und die Unternehmensrichtlinie beginnt.

8. Die Grauzone

   Eine E-Mail von Tom Becker, einem Kollegen, trifft ein. Er fragt, ob eine Pressemitteilung eine KI-Kennzeichnung benötigt. Den gesamten Inhalt hat er selbst geschrieben, den Entwurf jedoch durch ein KI-Tool laufen lassen, um „die Grammatik zu überarbeiten und den Tonfall professioneller klingen zu lassen“. Alice muss entscheiden, wo dies auf dem Spektrum der Offenlegung einzuordnen ist.

9. Tom antworten

   Tom hat den Text selbst geschrieben, aber die KI Satzstrukturen und Wortwahl umgestalten lassen, um den Tonfall zu ändern. Die EU-KI-Verordnung verlangt keine Kennzeichnung für Text, den ein Mensch geschrieben hat und der unter der redaktionellen Verantwortung des Unternehmens veröffentlicht wird. Die eigene Richtlinie von Cascade kennzeichnet KI-Hilfe dieser Art aber, daher zieht Alice diese Grenze für ihn klar.

10. Abschluss: Transparenz ist die Grundregel

    Alice hat die Compliance-Prüfung abgeschlossen und Tom ihre Empfehlung geschickt. Hier sind die wichtigsten Punkte aus Artikel 50: Offenlegung bei Chatbots Ein Chatbot muss so gebaut sein, dass Menschen erkennen, dass sie mit KI sprechen, wenn das nicht offensichtlich ist. Die Pflicht liegt beim Anbieter, und ein menschlicher Name und eine Persona ohne Offenlegung verstoßen dagegen. Was die Verordnung verlangt und was die Richtlinie ergänzt Die Verordnung verlangt von Anbietern, synthetische Ausgaben maschinenlesbar zu kennzeichnen, und von Betreibern, Deepfakes und zur Information der Öffentlichkeit veröffentlichte KI-Texte offenzulegen, wenn nicht ein Mensch die redaktionelle Verantwortung trägt. Die Richtlinie von Cascade kennzeichnet mehr als das, danach, wie viel KI in das jeweilige Asset eingeflossen ist. Deepfakes Von KI erstellte oder veränderte Medien, die realen Personen, Gegenständen, Orten oder Ereignissen ähneln, muss die Organisation offenlegen, die sie veröffentlicht. Auch erkennbare Satire oder Kunst wird offengelegt, und zwar so, dass das Werk dadurch nicht verdorben wird. Im Zweifel offenlegen Die Kosten einer unnötigen Offenlegung sind nahezu null — eine kleine Kennzeichnung oder ein Hinweis. Eine erforderliche Offenlegung zu versäumen, ist ein regulatorischer Verstoß. Ist der Umfang der KI-Beteiligung unklar, entscheiden Sie sich stets für Transparenz.