Verplichtingen voor AI-modellen voor algemeen gebruik

Verplichtingen voor AI-modellen voor algemeen gebruik

Je bouwt voort op het model van iemand anders. De taken bereiken je nog steeds.

Wat is Verplichtingen voor AI-modellen voor algemeen gebruik?

Lees meer over het raamwerk van de EU AI Act voor General-Purpose AI (GPAI)-modellen. Begrijp de verplichtingen van leveranciers op het gebied van technische documentatie en transparantie van trainingsgegevens, criteria voor systeemrisicoclassificatie en de downstream-verantwoordelijkheden die door de AI-waardeketen stromen naar downstream-providers die producten bouwen op basis van modellen van derden.

Wat je leert in Verplichtingen voor AI-modellen voor algemeen gebruik

Verplichtingen voor AI-modellen voor algemeen gebruik — Trainingsstappen

  1. Artikelen 51-56: AI voor algemeen gebruik

    The EU AI Act introduces a dedicated framework for General-Purpose AI (GPAI) models under Articles 51-56. GPAI models are AI models trained on broad data that can perform a wide range of tasks - large language models are the primary example. GPAI providers must supply technical documentation (including the model's energy consumption), comply with EU copyright law, and publish a sufficiently detailed summary of their training data. Systemic risk GPAI - models trained with compute exceeding 10^25 FLOPs, or designated by the AI Office - have additional obligations including adversarial testing (red-teaming), systemic risk assessment and mitigation, incident reporting, and cybersecurity measures. These obligations apply to the model provider. But downstream companies building products on GPAI models inherit their own set of responsibilities.

  2. Beoordeling van modelselectie

    Er komt een e-mail binnen van Raj Patel, de CTO van NovaMind Labs. Er worden twee GPAI-modellen geëvalueerd voor het klantenondersteuningsplatform, en Alice moet voor beide de nalevingsdocumentatie beoordelen.

  3. Het beoordelen van de modelkaarten

    Alice opent de modelevaluatiepagina via de link in Raj's e-mail. Op de pagina worden beide kandidaatmodellen naast elkaar weergegeven: hun rekenvoetafdruk, documentatiestatus, trainingsgegevens en evaluatieresultaten.

  4. Kennischeck: transparantie van trainingsgegevens

  5. Systeemrisicobeoordeling

    De checklist voor systeemrisico's beschrijft zowel de regelgevingstrajecten in artikel 55 (rekendrempel en AI Office-aanduiding) als de aanvullende verplichtingen die deze met zich meebrengen in vergelijking met de standaard GPAI.

  6. Downstreamverplichtingen en auteursrecht

    Wanneer NovaMind een klantenserviceplatform bouwt op een GPAI-model, kan het resulterende systeem zelfstandig worden ingedeeld onder het risicokader van de EU AI Act. Een algemene FAQ-bot voor klanten valt waarschijnlijk onder beperkt risico (alleen transparantie). Maar als het systeem beslissingen neemt die de toegang van klanten tot diensten, krediet of verzekeringen beïnvloeden, kan het een hoog risico vormen -- met conformiteitsbeoordeling, menselijk toezicht en het melden van incidenten tot gevolg. NovaMind moet dit zelfstandig beoordelen; de verplichtingen van de GPAI-aanbieder dekken de risicoclassificatie van de downstreamaanbieder niet. Ook de naleving van het auteursrecht loopt door de waardeketen. GPAI-aanbieders moeten voldoen aan het EU-auteursrecht, inclusief de opt-out voor tekst- en datamining (artikel 4, DSM-richtlijn). Als een GPAI-model inhoud genereert die lijkt op auteursrechtelijk beschermd materiaal en NovaMind die aan klanten aanbiedt, kunnen zowel de aanbieder als NovaMind aansprakelijk zijn . Controleer voordat u op een GPAI-model gaat bouwen de documentatie van de aanbieder over naleving van het auteursrecht en overweeg waarborgen voor het filteren van inhoud.

  7. Het indienen van de evaluatie

    Alice heeft het volledige beeld: lacunes in de documentatie, classificatie van systeemrisico's en de downstreamverplichtingen die NovaMind zal bezitten. Nu antwoordt ze Raj met een gestructureerde evaluatie: de bevindingen per model zijn toegewezen aan specifieke artikelen, plus een duidelijke aanbeveling.

  8. Waarom elk deel van het rapport ertoe doet

    Een goede GPAI-evaluatie is geen oordeel, het is een audittrail. Elke sectie van het antwoord van Alice doet specifiek werk voor Raj en voor het aanbestedingsdossier.

  9. Samenvatting: GPAI in de waardeketen

    Alice has completed the GPAI model evaluation and filed her recommendation. Here are the key takeaways from Articles 51-56: Layered obligations GPAI obligations flow through the value chain: the model provider has baseline duties, and the downstream provider inherits additional responsibilities based on how the model is used. Baseline provider duties GPAI providers must supply technical documentation, including energy consumption, and a sufficiently detailed training data summary. Trade secrets do not override this requirement. Systemic risk threshold GPAI models trained with compute exceeding 10^25 FLOPs, or designated by the AI Office, are classified as systemic risk. This triggers additional obligations: adversarial testing, systemic risk assessment and mitigation, incident reporting, and cybersecurity measures. Independent risk assessment Downstream providers must independently assess the risk classification of the product they build on a GPAI model. The model provider's compliance does not cover the product. Copyright runs through the chain Copyright compliance is not just the provider's problem. If a GPAI model generates copyrighted content and the downstream provider serves it, both parties may face liability.

Dekking van beveiligingsframeworks

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind

NICE Framework

  • OG-WRL-008 Privacy Compliance
  • OG-WRL-002 Cybersecurity Policy and Planning

EU AI Act

  • Art. 53 Obligations for providers of general-purpose AI models
  • Art. 55 Obligations for providers of GPAI models with systemic risk
  • Art. 51 Classification of general-purpose AI models as general-purpose AI models with systemic risk