Pflichten für GPAI-Modelle
Sie bauen auf dem Modell eines anderen auf. Die Pflichten treffen Sie trotzdem.
Was ist Pflichten für GPAI-Modelle?
Lernen Sie den Rahmen der EU-KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) kennen. Verstehen Sie die Pflichten der Anbieter zu technischer Dokumentation und Trainingsdaten-Transparenz, die Kriterien zur Einstufung als systemisches Risiko sowie die nachgelagerten Verantwortlichkeiten, die sich entlang der KI-Wertschöpfungskette an nachgelagerte Anbieter von Produkten auf Drittanbieter-Modellen weitergeben.
Was Sie lernen in Pflichten für GPAI-Modelle
- Die beiden Auslöser für die Einstufung als GPAI mit systemischem Risiko erkennen (Rechenleistungs-Schwelle und Einstufung durch das KI-Büro)
- Grundpflichten für GPAI (für alle Modelle) von zusätzlichen Pflichten bei systemischem Risiko unterscheiden
- Erklären, warum Geschäftsgeheimnisse GPAI-Anbieter nicht davon befreien, eine Zusammenfassung der Trainingsdaten zu veröffentlichen
- Die Verantwortlichkeiten nachgelagerter Anbieter beim Aufbau von Produkten auf GPAI-Modellen verstehen
- Urheberrechtliche Pflichten erkennen, die sich entlang der KI-Wertschöpfungskette weitergeben
Pflichten für GPAI-Modelle — Trainingsschritte
-
Artikel 51 bis 56: KI-Modelle mit allgemeinem Verwendungszweck
Die EU-KI-Verordnung schafft mit den Artikeln 51-56 einen eigenen Rechtsrahmen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI). GPAI-Modelle sind KI-Modelle, die auf breit angelegten Daten trainiert wurden und eine Vielzahl von Aufgaben erfüllen können — Large Language Models sind das Hauptbeispiel. GPAI-Anbieter müssen technische Dokumentation (einschließlich des Energieverbrauchs des Modells) bereitstellen, das EU-Urheberrecht einhalten und eine hinreichend detaillierte Zusammenfassung ihrer Trainingsdaten veröffentlichen. GPAI mit systemischem Risiko — Modelle, die mit einer Rechenleistung von mehr als 10^25 FLOPs trainiert wurden oder vom KI-Büro entsprechend eingestuft werden — unterliegen zusätzlichen Pflichten: kontradiktorische Tests (Red-Teaming), Bewertung und Minderung systemischer Risiken, Vorfallsmeldung und Cybersicherheitsmaßnahmen. Diese Pflichten gelten für den Modellanbieter. Nachgelagerte Unternehmen, die Produkte auf GPAI-Modellen aufbauen, übernehmen jedoch eigene Verantwortlichkeiten.
-
Prüfung der Modellauswahl
Eine E-Mail von Raj Patel, dem CTO von NovaMind Labs, trifft ein. Zwei GPAI-Modelle stehen für die Kundensupport-Plattform zur Auswahl, und Alice soll die Compliance-Dokumentation beider Modelle prüfen.
-
Prüfung der Modellkarten
Alice öffnet über den Link in Rajs E-Mail die Seite zur Modellbewertung. Dort werden beide Kandidaten nebeneinander angezeigt — mit ihrem Rechenaufwand, Dokumentationsstatus, Trainingsdaten und Bewertungsergebnissen.
-
Wissenscheck: Trainingsdaten-Transparenz
-
Bewertung des systemischen Risikos
Die Checkliste zum systemischen Risiko beschreibt beide regulatorischen Wege zu Artikel 55 (Rechenschwelle und Einstufung durch das KI-Büro) sowie die zusätzlichen Pflichten, die sie gegenüber Standard-GPAI auslösen.
-
Nachgelagerte Pflichten und Urheberrecht
Baut NovaMind eine Kundensupport-Plattform auf einem GPAI-Modell auf, erhält diese eine eigene Risikoeinstufung. Ein allgemeiner FAQ-Bot ist vermutlich KI mit begrenztem Risiko (nur Transparenzpflichten); ein System, das über den Zugang zu Dienstleistungen, Krediten oder Versicherungen entscheidet, kann ein Hochrisiko-KI-System sein, was Konformitätsbewertung, menschliche Aufsicht und die Meldung von Vorfällen nach sich zieht. NovaMind muss das selbst prüfen. GPAI-Anbieter müssen das EU-Urheberrecht einhalten, einschließlich des Text- und Data-Mining-Opt-out (Artikel 4 der DSM-Richtlinie). Stellt NovaMind Ausgaben bereit, die urheberrechtlich geschütztem Material ähneln, können sowohl der Anbieter als auch NovaMind haftbar sein . Prüfen Sie die Urheberrechtsdokumentation des Anbieters und ziehen Sie eine Inhaltsfilterung in Betracht.
-
Bewertung einreichen
Alice hat jetzt den vollständigen Überblick: Dokumentationslücken, Einstufung als systemisches Risiko und die nachgelagerten Pflichten, für die NovaMind verantwortlich sein wird. Nun antwortet sie Raj mit einer strukturierten Bewertung — nach Modell aufgeschlüsselte Feststellungen mit Zuordnung zu konkreten Artikeln sowie einer klaren Empfehlung.
-
Warum jeder Teil des Berichts wichtig ist
Eine gute GPAI-Bewertung ist kein Urteil, sondern ein Prüfpfad. Jeder Abschnitt von Alices Antwort erfüllt eine konkrete Funktion für Raj und die Beschaffungsunterlagen.
-
Abschluss: GPAI in der Wertschöpfungskette
Alice hat die Bewertung der GPAI-Modelle abgeschlossen und ihre Empfehlung eingereicht. Hier sind die wichtigsten Erkenntnisse aus den Artikeln 51 bis 56: Gestaffelte Pflichten Die GPAI-Pflichten setzen sich entlang der Wertschöpfungskette fort: Der Modellanbieter hat Grundpflichten, und der nachgelagerte Anbieter übernimmt zusätzliche Verantwortlichkeiten, je nachdem, wie das Modell eingesetzt wird. Grundpflichten der Anbieter GPAI-Anbieter müssen technische Dokumentation, einschließlich des Energieverbrauchs, und eine hinreichend detaillierte Zusammenfassung der Trainingsdaten bereitstellen. Geschäftsgeheimnisse setzen diese Anforderung nicht außer Kraft. Schwellenwert für systemisches Risiko GPAI-Modelle, die mit einer Rechenleistung von mehr als 10^25 FLOPs trainiert wurden oder vom KI-Büro entsprechend eingestuft werden, gelten als GPAI-Modelle mit systemischem Risiko. Dies löst zusätzliche Pflichten aus: kontradiktorische Tests, Bewertung und Minderung systemischer Risiken, Vorfallsmeldung und Cybersicherheitsmaßnahmen. Eigenständige Risikobewertung Nachgelagerte Anbieter müssen die Risikoeinstufung des Produkts, das sie auf einem GPAI-Modell aufbauen, eigenständig bewerten. Die Compliance des Modellanbieters deckt das Produkt nicht ab. Urheberrecht entlang der Kette Die Einhaltung des Urheberrechts ist nicht nur Sache des Anbieters. Erzeugt ein GPAI-Modell urheberrechtlich geschützte Inhalte und stellt der nachgelagerte Anbieter sie bereit, können beide Parteien haftbar sein.
Abdeckung der Sicherheits-Frameworks
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
NICE Framework
- OG-WRL-008 Privacy Compliance
- OG-WRL-002 Cybersecurity Policy and Planning
EU AI Act
- Art. 53 Obligations for providers of general-purpose AI models
- Art. 55 Obligations for providers of GPAI models with systemic risk
- Art. 51 Classification of general-purpose AI models as general-purpose AI models with systemic risk