Classificazione del rischio AI

Cos’è Classificazione del rischio AI?

L’EU AI Act suddivide i sistemi in quattro livelli e il livello decide gli obblighi. Se sbagli la classificazione, o spedisci qualcosa di vietato o dedichi mesi alla conformità, uno strumento a rischio minimo mai necessario. Classificherai i casi d'uso reali tra i livelli, individuando quali sono completamente vietati, quali sono ad alto rischio e comportano compiti rigorosi, che necessitano solo di trasparenza e che possono operare liberamente.

Cosa imparerai in Classificazione del rischio AI

• Identificare i quattro livelli di rischio definiti dall’EU AI Act
• Classificare i sistemi di intelligenza artificiale nel livello di rischio corretto in base alla loro funzione e impatto
• Riconoscere le pratiche di IA vietate ai sensi dell’articolo 5
• Comprendere le categorie ad alto rischio dell’allegato III, tra cui l’occupazione e l’affidabilità creditizia
• Distinguere tra obblighi di trasparenza a rischio limitato e requisiti di conformità ad alto rischio

Classificazione del rischio AI — Fasi della formazione

1. I quattro livelli di rischio

   The EU AI Act takes a risk-based approach that is commonly described as four risk tiers, and the classification determines everything that follows: Unacceptable Risk (Banned) - AI practices that are prohibited by Article 5. They cannot be placed on the market, put into service or used in the EU, apart from the narrow exceptions Article 5 sets out. High Risk - AI systems in sensitive areas like employment, credit scoring, and law enforcement. Permitted, but subject to strict compliance obligations. Limited Risk - AI systems that interact with people. The main obligation is transparency - users must know they are dealing with AI. Minimal Risk - The vast majority of AI systems. No specific obligations beyond general ones such as AI literacy.

2. E-mail dal CCO

   Arriva un'e-mail dal Chief Compliance Officer con un incarico urgente di classificazione.

3. Apri il portale di valutazione

   Alice fa clic sul collegamento nell'e-mail per aprire il portale Velox GRC dove i sei sistemi di intelligenza artificiale sono in attesa di classificazione.

4. Esaminare il riferimento del livello di rischio

   La pagina di destinazione del portale riassume i quattro livelli di rischio che Alice utilizzerà per classificare ciascun sistema di intelligenza artificiale. Ogni livello comporta obblighi di conformità diversi: ottenere la giusta classificazione determina quale lavoro segue.

5. Avvia la valutazione

   Per iniziare la classificazione, Alice deve accedere al portale GRC con le sue credenziali Velox.

6. Accedi al portale GRC

   Alice accede con le sue credenziali aziendali. Dopo l'autenticazione, il portale caricherà i sei sistemi AI in coda per la classificazione.

7. Caso 1: filtro antispam per posta elettronica

   Il primo sistema di intelligenza artificiale da classificare è un filtro antispam per la posta elettronica. Utilizza l'apprendimento automatico per rilevare e filtrare lo spam in base ai modelli di contenuto e alla reputazione del mittente.

8. Caso 2: strumento di screening del riprendi

   Il sistema successivo valuta e classifica i curriculum dei candidati, filtrando automaticamente i candidati prima che un essere umano li esamini.

9. Caso 3: monitoraggio delle emozioni dei dipendenti

   Questo sistema utilizza il video della webcam e il tono vocale durante le chiamate per dedurre le emozioni di ciascun dipendente (stress, frustrazione, coinvolgimento). I manager ricevono un punteggio di coinvolgimento settimanale per ciascun dipendente e i punteggi confluiscono nelle revisioni delle prestazioni. L’Employee Emotion Monitor è uno di quei sistemi che sembra uno strumento di gestione ragionevole ma supera il limite legale ai sensi della legge sull’intelligenza artificiale dell’UE.

10. Perché il monitor delle emozioni è vietato