Classificazione del rischio AI

Cos’è Classificazione del rischio AI?

L’EU AI Act suddivide i sistemi in quattro livelli e il livello decide gli obblighi. Se sbagli la classificazione, o spedisci qualcosa di vietato o dedichi mesi alla conformità, uno strumento a rischio minimo mai necessario. Classificherai i casi d'uso reali tra i livelli, individuando quali sono completamente vietati, quali sono ad alto rischio e comportano compiti rigorosi, che necessitano solo di trasparenza e che possono operare liberamente.

Cosa imparerai in Classificazione del rischio AI

• Identificare i quattro livelli di rischio definiti dall’EU AI Act
• Classificare i sistemi di intelligenza artificiale nel livello di rischio corretto in base alla loro funzione e impatto
• Riconoscere le pratiche di IA vietate ai sensi dell’articolo 5
• Comprendere le categorie ad alto rischio dell’allegato III, tra cui l’occupazione e l’affidabilità creditizia
• Distinguere tra obblighi di trasparenza a rischio limitato e requisiti di conformità ad alto rischio

Classificazione del rischio AI — Fasi della formazione

1. I quattro livelli di rischio

   L'EU AI Act classifica ogni sistema di IA in uno dei quattro livelli di rischio e la classificazione determina tutto ciò che segue: Rischio inaccettabile (vietato) - Pratiche di IA che sono completamente vietate. Questi sistemi non possono essere implementati nell'UE in nessun caso. Rischio elevato - Sistemi di intelligenza artificiale in aree sensibili come l'occupazione, il punteggio di credito e le forze dell'ordine. Consentito, ma soggetto a rigorosi obblighi di conformità. Rischio limitato - Sistemi di intelligenza artificiale che interagiscono con le persone. L'obbligo principale è la trasparenza: gli utenti devono sapere che hanno a che fare con l'intelligenza artificiale. Rischio minimo : la stragrande maggioranza dei sistemi di intelligenza artificiale. Nessun obbligo specifico ai sensi della legge.

2. E-mail dal CCO

   Arriva un'e-mail dal Chief Compliance Officer con un incarico urgente di classificazione.

3. Apri il portale di valutazione

   Alice fa clic sul collegamento nell'e-mail per aprire il portale Velox GRC dove i sei sistemi di intelligenza artificiale sono in attesa di classificazione.

4. Esaminare il riferimento del livello di rischio

   La pagina di destinazione del portale riassume i quattro livelli di rischio che Alice utilizzerà per classificare ciascun sistema di intelligenza artificiale. Ogni livello comporta obblighi di conformità diversi: ottenere la giusta classificazione determina quale lavoro segue.

5. Avvia la valutazione

   Per iniziare la classificazione, Alice deve accedere al portale GRC con le sue credenziali Velox.

6. Accedi al portale GRC

   Alice accede con le sue credenziali aziendali. Dopo l'autenticazione, il portale caricherà i sei sistemi AI in coda per la classificazione.

7. Caso 1: filtro antispam per posta elettronica

   Il primo sistema di intelligenza artificiale da classificare è un filtro antispam per la posta elettronica. Utilizza l'apprendimento automatico per rilevare e filtrare lo spam in base ai modelli di contenuto e alla reputazione del mittente.

8. Caso 2: strumento di screening del riprendi

   Il sistema successivo valuta e classifica i curriculum dei candidati, filtrando automaticamente i candidati prima che un essere umano li esamini.

9. Caso 3: monitoraggio delle emozioni dei dipendenti

   Questo sistema utilizza il video della webcam e il tono vocale durante le chiamate per dedurre le emozioni di ciascun dipendente (stress, frustrazione, coinvolgimento). I manager ricevono un punteggio di coinvolgimento settimanale per ciascun dipendente e i punteggi confluiscono nelle revisioni delle prestazioni. L’Employee Emotion Monitor è uno di quei sistemi che sembra uno strumento di gestione ragionevole ma supera il limite legale ai sensi della legge sull’intelligenza artificiale dell’UE.

10. Perché il monitor delle emozioni è vietato