AI-risicoclassificatie

Wat is AI-risicoclassificatie?

De EU AI Act verdeelt systemen in vier lagen, en de laag bepaalt de verplichtingen. Als de classificatie verkeerd is, verzendt u iets dat verboden is, of bent u maanden bezig met het naleven van een hulpmiddel met een minimaal risico dat nooit nodig is. Je classificeert echte gebruiksscenario's over de lagen heen, waarbij je uitzoekt welke ronduit verboden zijn, welke een hoog risico met zich meebrengen en strikte plichten met zich meebrengen, die alleen transparantie behoeven en die vrij kunnen opereren.

Wat je leert in AI-risicoclassificatie

• Identificeer de vier risiconiveaus gedefinieerd door de EU AI Act
• Classificeer AI-systemen in de juiste risicolaag op basis van hun functie en impact
• Erken verboden AI-praktijken op grond van artikel 5
• Begrijp de risicocategorieën van bijlage III, waaronder werkgelegenheid en kredietwaardigheid
• Maak onderscheid tussen transparantieverplichtingen met een beperkt risico en nalevingsvereisten met een hoog risico

AI-risicoclassificatie — Trainingsstappen

1. De vier risiconiveaus

   De EU AI Act classificeert elk AI-systeem in een van de vier risiconiveaus, en de classificatie bepaalt alles wat volgt: Onaanvaardbaar risico (verboden) - AI-praktijken die ronduit verboden zijn. Deze systemen kunnen onder geen enkele omstandigheid in de EU worden ingezet. Hoog risico - AI-systemen op gevoelige gebieden zoals werkgelegenheid, kredietscore en wetshandhaving. Toegestaan, maar onderworpen aan strikte nalevingsverplichtingen. Beperkt risico - AI-systemen die communiceren met mensen. De belangrijkste verplichting is transparantie: gebruikers moeten weten dat ze met AI te maken hebben. Minimaal risico - De overgrote meerderheid van AI-systemen. Geen specifieke verplichtingen op grond van de wet.

2. E-mail van de CCO

   Er komt een e-mail binnen van de Chief Compliance Officer met een urgente classificatieopdracht.

3. Open het beoordelingsportaal

   Alice klikt op de link in de e-mail om de Velox GRC Portal te openen waar de zes AI-systemen wachten op classificatie.

4. Bekijk de risiconiveaureferentie

   De landingspagina van het portaal vat de vier risiconiveaus samen die Alice zal gebruiken om elk AI-systeem te classificeren. Elke laag heeft verschillende nalevingsverplichtingen. Het verkrijgen van de juiste classificatie bepaalt welk werk volgt.

5. Start de beoordeling

   Om te beginnen met classificeren moet Alice zich aanmelden bij het GRC-portaal met haar Velox-inloggegevens.

6. Meld u aan bij het GRC-portaal

   Alice logt in met haar bedrijfsgegevens. Na authenticatie laadt het portaal de zes AI-systemen die in de wachtrij staan ​​voor classificatie.

7. Geval 1: E-mailspamfilter

   Het eerste AI-systeem dat wordt geclassificeerd is een e-mailspamfilter. Het maakt gebruik van machine learning om spam te detecteren en te filteren op basis van inhoudspatronen en de reputatie van de afzender.

8. Geval 2: CV-screeningtool

   Het volgende systeem beoordeelt en rangschikt de cv's van sollicitanten, waarbij kandidaten automatisch worden uitgefilterd voordat iemand ze ooit beoordeelt.

9. Geval 3: Scorer voor productiviteit van werknemers

   Dit systeem controleert toetsaanslagen, muisbewegingen en pauzefrequentie om voor elke medewerker een productiviteitsscore van 0-100 te genereren. Scores worden elk kwartaal gedeeld met afdelingshoofden en beïnvloeden prestatiebeoordelingen.

10. Waarom de productiviteitsscorer verboden is

    De Employee Productivity Scorer is een van die systemen die klinkt als een redelijk managementinstrument, maar een wettelijke grens overschrijdt onder de EU AI Act.