Aanbieder versus gebruiksverantwoordelijke: wie is verantwoordelijk?

Wat is Aanbieder versus gebruiksverantwoordelijke: wie is verantwoordelijk??

De EU AI Act verdeelt de verplichtingen tussen de aanbieder die een AI-systeem bouwt en de gebruiksverantwoordelijke die het in gebruik neemt, en het kopen van een product dat aan de eisen voldoet, draagt de taken van de gebruiksverantwoordelijke niet over aan de verkoper. Je scheidt de twee rollen, gaat na welke verplichtingen jouw plicht zijn en evalueert de nalevingsdocumentatie van leveranciers tijdens de aanbesteding, zodat hiaten aan het licht komen voordat een contract wordt ondertekend in plaats van tijdens een audit.

Wat je leert in Aanbieder versus gebruiksverantwoordelijke: wie is verantwoordelijk?

• Maak onderscheid tussen de rollen van aanbieder en gebruiksverantwoordelijke in het kader van de EU AI Act
• Identificeer de specifieke verplichtingen die bij elke rol horen
• Begrijp waarom compliance van leveranciers niet voldoet aan de verplichtingen van de implementatie
• Herken verkeerd geclassificeerde AI-producten tijdens de inkoopbeoordeling
• Pas een onafhankelijke risicobeoordeling toe als onderdeel van het due diligence-onderzoek bij aanbestedingen

Aanbieder versus gebruiksverantwoordelijke: wie is verantwoordelijk? — Trainingsstappen

1. Aanbieder versus gebruiksverantwoordelijke

   De EU AI Act kent verschillende verplichtingen toe, afhankelijk van jouw rol in de AI-waardeketen: Aanbieder - Het bedrijf dat een AI-systeem ontwikkelt, of laat ontwikkelen, en dit onder eigen naam op de markt brengt of in gebruik neemt. Verantwoordelijk voor conformiteitsbeoordeling, CE-markering en technische documentatie. Gebruiksverantwoordelijke - Het bedrijf dat onder eigen gezag een AI-systeem gebruikt. Verantwoordelijk voor menselijk toezicht, monitoring, het bijhouden van logboeken, het informeren van de getroffen personen en het melden van incidenten. Overheidsinstanties, openbare dienstverleners en gebruiksverantwoordelijken die krediet- of verzekeringsscores toekennen moeten ook een effectbeoordeling op de grondrechten uitvoeren (artikel 27). BrightPath Consulting is een gebruiksverantwoordelijke. Wanneer het bedrijf een AI-tool van een leverancier koopt, ontslaat de naleving door de leverancier BrightPath niet van zijn eigen wettelijke verplichtingen onder de wet.

2. E-mail van IT-directeur

   Er komt een e-mail binnen van Rachel Kim, IT-directeur van BrightPath. Drie AI-leveranciers hebben voorstellen ingediend en Alice moet hun nalevingspositie evalueren voordat er inkoopbeslissingen worden genomen.

3. Leverancier 1: TalentMatch AI

   Alice clicks the TalentMatch AI link in Rachel's email to open the vendor's compliance documentation. This vendor has done their provider obligations well: conformity assessment completed, CE marking obtained, technical documentation available, and intended purpose clearly stated. The system is classified as High Risk under Annex III area 4 (employment).

4. Verplichtingen van ontwikkelaars voor AI met een hoog risico

   Hoewel TalentMatch AI een compliant leverancier is, heeft BrightPath als gebruiksverantwoordelijke zijn eigen reeks verplichtingen onder de EU AI Act. Deze verplichtingen bestaan onafhankelijk van de nalevingsstatus van de leverancier. Alice opent de checklist met verplichtingen voor gebruiksverantwoordelijken die in de e-mail van Rachel staat.

5. Kennischeck: verantwoordelijkheid van de gebruiksverantwoordelijke

6. Leverancier 2: QuickReply Bot

   The next vendor is QuickReply Bot, a customer service chatbot. Alice clicks the QuickReply Bot link in Rachel's email. This is a Limited Risk AI system. Its main duty is transparency: the provider must build the bot so customers know they are talking to AI, not a human, and it is built that way. BrightPath's part as deployer is simpler: keep that disclosure visible in its own chat widget.

7. Leverancier 3: InsightIQ

   De uiteindelijke leverancier is InsightIQ, een AI-aangedreven platform voor analyse van werknemersprestaties. Alice klikt op de InsightIQ-link in Rachels e-mail om de productpagina te openen. Iets aan de beweringen van deze leverancier zou een alarmsignaal moeten oproepen.

8. Het misclassificatieprobleem

   InsightIQ processes employee performance data to make promotion and team composition recommendations. This is employment-related AI decision-making, which is High Risk under Annex III of the EU AI Act. The vendor either deliberately misclassified the product to avoid compliance costs, or genuinely does not understand the regulation. Either way, BrightPath cannot rely on the vendor's self-classification. As a deployer, the company should verify the risk classification itself before deployment: it must use the system in line with the provider's instructions (Article 26(1)), and a deployer that puts its own name on a high-risk system or changes its purpose takes on the provider's obligations (Article 25).

9. Kenniscontrole: verkeerd geclassificeerde leverancier

10. Aanbestedingsaanbevelingen verzenden

    Alice antwoordt Rachel met een aanbeveling per leverancier: welke tools BrightPath kan inzetten, onder welke implementatievoorwaarden, en welke direct moeten worden afgewezen.