Pflichten für GPAI-Modelle

Pflichten für GPAI-Modelle

Sie bauen auf dem Modell eines anderen auf. Die Pflichten treffen Sie trotzdem.

Was ist Pflichten für GPAI-Modelle?

Lernen Sie den Rahmen der EU-KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) kennen. Verstehen Sie die Pflichten der Anbieter zu technischer Dokumentation und Trainingsdaten-Transparenz, die Kriterien zur Einstufung als systemisches Risiko sowie die nachgelagerten Verantwortlichkeiten, die sich entlang der KI-Wertschöpfungskette an nachgelagerte Anbieter von Produkten auf Drittanbieter-Modellen weitergeben.

Was Sie lernen in Pflichten für GPAI-Modelle

Pflichten für GPAI-Modelle — Trainingsschritte

  1. Artikel 51 bis 56: KI-Modelle mit allgemeinem Verwendungszweck

    Die EU-KI-Verordnung schafft mit den Artikeln 51-56 einen eigenen Rechtsrahmen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI). GPAI-Modelle sind KI-Modelle, die auf breit angelegten Daten trainiert wurden und eine Vielzahl von Aufgaben erfüllen können — Large Language Models sind das Hauptbeispiel. GPAI-Anbieter müssen technische Dokumentation (einschließlich des Energieverbrauchs des Modells) bereitstellen, das EU-Urheberrecht einhalten und eine hinreichend detaillierte Zusammenfassung ihrer Trainingsdaten veröffentlichen. GPAI mit systemischem Risiko — Modelle, die mit einer Rechenleistung von mehr als 10^25 FLOPs trainiert wurden oder vom KI-Büro entsprechend eingestuft werden — unterliegen zusätzlichen Pflichten: kontradiktorische Tests (Red-Teaming), Bewertung und Minderung systemischer Risiken, Vorfallsmeldung und Cybersicherheitsmaßnahmen. Diese Pflichten gelten für den Modellanbieter. Nachgelagerte Unternehmen, die Produkte auf GPAI-Modellen aufbauen, übernehmen jedoch eigene Verantwortlichkeiten.

  2. Prüfung der Modellauswahl

    Eine E-Mail von Raj Patel, dem CTO von NovaMind Labs, trifft ein. Zwei GPAI-Modelle stehen für die Kundensupport-Plattform zur Auswahl, und Alice soll die Compliance-Dokumentation beider Modelle prüfen.

  3. Prüfung der Modellkarten

    Alice öffnet über den Link in Rajs E-Mail die Seite zur Modellbewertung. Dort werden beide Kandidaten nebeneinander angezeigt — mit ihrem Rechenaufwand, Dokumentationsstatus, Trainingsdaten und Bewertungsergebnissen.

  4. Wissenscheck: Trainingsdaten-Transparenz

  5. Bewertung des systemischen Risikos

    Die Checkliste zum systemischen Risiko beschreibt beide regulatorischen Wege zu Artikel 55 (Rechenschwelle und Einstufung durch das KI-Büro) sowie die zusätzlichen Pflichten, die sie gegenüber Standard-GPAI auslösen.

  6. Nachgelagerte Pflichten und Urheberrecht

    Baut NovaMind eine Kundensupport-Plattform auf einem GPAI-Modell auf, erhält diese eine eigene Risikoeinstufung. Ein allgemeiner FAQ-Bot ist vermutlich KI mit begrenztem Risiko (nur Transparenzpflichten); ein System, das über den Zugang zu Dienstleistungen, Krediten oder Versicherungen entscheidet, kann ein Hochrisiko-KI-System sein, was Konformitätsbewertung, menschliche Aufsicht und die Meldung von Vorfällen nach sich zieht. NovaMind muss das selbst prüfen. GPAI-Anbieter müssen das EU-Urheberrecht einhalten, einschließlich des Text- und Data-Mining-Opt-out (Artikel 4 der DSM-Richtlinie). Stellt NovaMind Ausgaben bereit, die urheberrechtlich geschütztem Material ähneln, können sowohl der Anbieter als auch NovaMind haftbar sein . Prüfen Sie die Urheberrechtsdokumentation des Anbieters und ziehen Sie eine Inhaltsfilterung in Betracht.

  7. Bewertung einreichen

    Alice hat jetzt den vollständigen Überblick: Dokumentationslücken, Einstufung als systemisches Risiko und die nachgelagerten Pflichten, für die NovaMind verantwortlich sein wird. Nun antwortet sie Raj mit einer strukturierten Bewertung — nach Modell aufgeschlüsselte Feststellungen mit Zuordnung zu konkreten Artikeln sowie einer klaren Empfehlung.

  8. Warum jeder Teil des Berichts wichtig ist

    Eine gute GPAI-Bewertung ist kein Urteil, sondern ein Prüfpfad. Jeder Abschnitt von Alices Antwort erfüllt eine konkrete Funktion für Raj und die Beschaffungsunterlagen.

  9. Abschluss: GPAI in der Wertschöpfungskette

    Alice hat die Bewertung der GPAI-Modelle abgeschlossen und ihre Empfehlung eingereicht. Hier sind die wichtigsten Erkenntnisse aus den Artikeln 51 bis 56: Gestaffelte Pflichten Die GPAI-Pflichten setzen sich entlang der Wertschöpfungskette fort: Der Modellanbieter hat Grundpflichten, und der nachgelagerte Anbieter übernimmt zusätzliche Verantwortlichkeiten, je nachdem, wie das Modell eingesetzt wird. Grundpflichten der Anbieter GPAI-Anbieter müssen technische Dokumentation, einschließlich des Energieverbrauchs, und eine hinreichend detaillierte Zusammenfassung der Trainingsdaten bereitstellen. Geschäftsgeheimnisse setzen diese Anforderung nicht außer Kraft. Schwellenwert für systemisches Risiko GPAI-Modelle, die mit einer Rechenleistung von mehr als 10^25 FLOPs trainiert wurden oder vom KI-Büro entsprechend eingestuft werden, gelten als GPAI-Modelle mit systemischem Risiko. Dies löst zusätzliche Pflichten aus: kontradiktorische Tests, Bewertung und Minderung systemischer Risiken, Vorfallsmeldung und Cybersicherheitsmaßnahmen. Eigenständige Risikobewertung Nachgelagerte Anbieter müssen die Risikoeinstufung des Produkts, das sie auf einem GPAI-Modell aufbauen, eigenständig bewerten. Die Compliance des Modellanbieters deckt das Produkt nicht ab. Urheberrecht entlang der Kette Die Einhaltung des Urheberrechts ist nicht nur Sache des Anbieters. Erzeugt ein GPAI-Modell urheberrechtlich geschützte Inhalte und stellt der nachgelagerte Anbieter sie bereit, können beide Parteien haftbar sein.

Abdeckung der Sicherheits-Frameworks

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind

NICE Framework

  • OG-WRL-008 Privacy Compliance
  • OG-WRL-002 Cybersecurity Policy and Planning

EU AI Act

  • Art. 53 Obligations for providers of general-purpose AI models
  • Art. 55 Obligations for providers of GPAI models with systemic risk
  • Art. 51 Classification of general-purpose AI models as general-purpose AI models with systemic risk