Aanbieder versus opdrachtgever: wie is verantwoordelijk?

Wat is Aanbieder versus opdrachtgever: wie is verantwoordelijk??

Begrijp het cruciale onderscheid tussen AI-aanbieders en -ontwikkelaars in het kader van de EU AI Act. Ontdek waarom het kopen van een product van een leverancier die aan de eisen voldoet uw bedrijf niet ontslaat van zijn eigen wettelijke verplichtingen, en oefen met het evalueren van de nalevingsdocumentatie van leveranciers tijdens aanbestedingen.

Wat je leert in Aanbieder versus opdrachtgever: wie is verantwoordelijk?

• Maak onderscheid tussen de rollen van aanbieder en uitvoerder in het kader van de EU AI Act
• Identificeer de specifieke verplichtingen die bij elke rol horen
• Begrijp waarom compliance van leveranciers niet voldoet aan de verplichtingen van de implementatie
• Herken verkeerd geclassificeerde AI-producten tijdens de inkoopbeoordeling
• Pas een onafhankelijke risicobeoordeling toe als onderdeel van het due diligence-onderzoek bij aanbestedingen

Aanbieder versus opdrachtgever: wie is verantwoordelijk? — Trainingsstappen

1. Provider versus implementeerder

   De EU AI-wet kent verschillende verplichtingen toe, afhankelijk van uw rol in de AI-waardeketen: Aanbieder - Het bedrijf dat een AI-systeem ontwikkelt of op de markt brengt. Verantwoordelijk voor conformiteitsbeoordeling, CE-markering en technische documentatie. Uitvoerder - Het bedrijf dat onder eigen gezag een AI-systeem gebruikt. Verantwoordelijk voor de effectbeoordeling van de grondrechten, menselijk toezicht, monitoring en incidentrapportage. BrightPath Consulting is een implementeerder. Wanneer het bedrijf een AI-tool van een leverancier koopt, ontslaat de naleving door de leverancier BrightPath niet van zijn eigen wettelijke verplichtingen onder de wet.

2. E-mail van IT-directeur

   Er komt een e-mail binnen van Rachel Kim, IT-directeur van BrightPath. Drie AI-leveranciers hebben voorstellen ingediend en Alice moet hun nalevingspositie evalueren voordat er inkoopbeslissingen worden genomen.

3. Leverancier 1: TalentMatch AI

   Alice klikt op de TalentMatch AI-link in de e-mail van Rachel om de nalevingsdocumentatie van de leverancier te openen. Deze leverancier heeft zijn leveranciersverplichtingen goed nagekomen: de conformiteitsbeoordeling is voltooid, de CE-markering is verkregen, de technische documentatie is beschikbaar en het beoogde doel is duidelijk vermeld. Het systeem is geclassificeerd als Hoog Risico onder bijlage III, gebied 4 (werkgelegenheid).

4. Verplichtingen van ontwikkelaars voor AI met een hoog risico

   Hoewel TalentMatch AI een compliant leverancier is, heeft BrightPath als implementeerder zijn eigen reeks verplichte verplichtingen onder de EU AI Act. Deze verplichtingen bestaan ​​onafhankelijk van de nalevingsstatus van de leverancier. Alice opent de checklist voor implementatieverplichtingen die in de e-mail van Rachel staat.

5. Kennischeck: FRIA-verantwoordelijkheid

   Voordat we de volgende leverancier beoordelen, moeten we een belangrijk concept over de verplichtingen van de implementatie bevestigen.

6. Leverancier 2: QuickReply Bot

   De volgende leverancier is QuickReply Bot, een chatbot voor de klantenservice. Alice klikt op de QuickReply Bot-link in Rachels e-mail. Dit is een AI-systeem met beperkt risico - de belangrijkste verplichting van de leverancier is transparantiedocumentatie, waaraan is voldaan. De verplichting voor de implementeerder van BrightPath is hier eenvoudiger: zorg ervoor dat klanten weten dat ze met AI praten en niet met een mens.

7. Leverancier 3: InsightIQ

   De uiteindelijke leverancier is InsightIQ, een AI-aangedreven platform voor analyse van werknemersprestaties. Alice klikt op de InsightIQ-link in Rachels e-mail om de productpagina te openen. Iets aan de beweringen van deze leverancier zou een alarmsignaal moeten oproepen.

8. Het misclassificatieprobleem

   InsightIQ verwerkt prestatiegegevens van medewerkers om aanbevelingen te doen voor promotie en teamsamenstelling. Dit is werkgelegenheidsgerelateerde AI-besluitvorming, die een hoog risico inhoudt volgens bijlage III van de EU AI-wet. De verkoper heeft het product opzettelijk verkeerd geclassificeerd om nalevingskosten te vermijden, of begrijpt de regelgeving werkelijk niet. Hoe dan ook, BrightPath kan niet vertrouwen op de zelfclassificatie van de leverancier. Als uitvoerder heeft het bedrijf een onafhankelijke plicht om vóór inzet de risicoclassificatie te verifiëren.

9. Kenniscontrole: verkeerd geclassificeerde leverancier

   Een cruciaal inkoopscenario dat uw begrip van de verantwoordelijkheden van de implementatie op de proef stelt wanneer claims van leveranciers niet overeenkomen met de werkelijkheid.

10. Aanbestedingsaanbevelingen verzenden

    Alice antwoordt Rachel met een aanbeveling per leverancier: welke tools BrightPath kan inzetten, onder welke implementatievoorwaarden, en welke direct moeten worden afgewezen.