Pratiche di intelligenza artificiale vietate

Cos’è Pratiche di intelligenza artificiale vietate?

La legge dell’UE sull’intelligenza artificiale traccia chiare linee rosse. L’articolo 5 vieta completamente otto categorie di pratiche di intelligenza artificiale, con le sanzioni più elevate previste dal regolamento: fino a 35 milioni di euro o il 7% del fatturato globale. In questo esercizio, riconoscerai le implementazioni vietate all'interno della tua organizzazione, incluso il riconoscimento delle emozioni sul posto di lavoro, il punteggio sociale dei clienti e lo scraping non mirato di immagini facciali per database biometrici: e intraprendi le azioni giuste prima che ogni sistema entri in funzione.

Cosa imparerai in Pratiche di intelligenza artificiale vietate

• Identificare le otto categorie di pratiche di IA vietate ai sensi dell’articolo 5 della legge UE sull’IA
• Riconoscere le pratiche vietate anche se camuffate da strumenti benefici o programmi volontari
• Comprendere che il consenso del dipendente non prevale sui divieti dell'Articolo 5
• Conoscere il percorso di escalation corretto quando si scopre una distribuzione IA vietata
• Comprendere il livello di penalità per le pratiche vietate (35 milioni di euro / 7% di fatturato)

Pratiche di intelligenza artificiale vietate — Fasi della formazione

1. Le linee rosse assolute

   Article 5 of the EU AI Act defines certain AI practices that are outright banned in the EU. No workarounds. Penalties for prohibited practices are the highest tier under the Act: up to 35 million euros or 7% of global annual turnover, whichever is higher. The eight categories of prohibited AI under Article 5(1) are: (a) Manipulative or deceptive AI techniques that materially distort behavior and cause or are likely to cause significant harm (b) AI exploiting vulnerabilities of specific groups (age, disability, social or economic situation) to materially distort behavior and cause significant harm (c) Social scoring - evaluating or classifying people over time on social behavior or personal traits, leading to detrimental treatment in unrelated contexts or treatment that is unjustified or disproportionate (d) Predicting that a person will commit a crime based solely on profiling or personality traits (e) Untargeted scraping of facial images from the internet or CCTV to build facial recognition databases (f) Emotion recognition in workplace and educational settings (except for medical or safety reasons) (g) Biometric categorization to infer sensitive attributes (race, political opinions, sexual orientation) (h) Real-time remote biometric identification in publicly accessible spaces for law enforcement, with three narrow exceptions: searching for victims of abduction, trafficking or missing persons; preventing a specific, substantial and imminent threat to life or a terrorist attack; and locating suspects of listed serious crimes

2. Giorno 1: l'e-mail del rilevatore dell'umore

   Alice riceve un'e-mail dal direttore delle risorse umane che annuncia un nuovo programma pilota. L'e-mail descrive uno strumento di intelligenza artificiale che monitorerà i dipendenti durante le riunioni video.

3. Riconoscere la violazione

   Si tratta del riconoscimento emotivo sul posto di lavoro , che è esplicitamente vietato ai sensi dell'articolo 5, paragrafo 1, lettera f), della legge dell'UE sull'IA. Non importa che sia inquadrata come “iniziativa di benessere” o che la partecipazione sia descritta come volontaria. Qualsiasi sistema di intelligenza artificiale che deduca emozioni da dati biometrici (espressioni facciali, tono della voce, linguaggio del corpo) sul posto di lavoro è vietato a meno che non venga utilizzato per ragioni mediche o di sicurezza – e il benessere e il morale non sono idonei. Il livello di anonimizzazione e il consenso dei dipendenti non fanno alcuna differenza.

4. Passaggio alla conformità

   Alice riconosce immediatamente il rischio di conformità. Risponde all'e-mail di David, segnalando il problema e copiando il responsabile della protezione dei dati.

5. Verifica della conoscenza

6. Giorno 3: Il marcatore sociale

   Due giorni dopo, Alice riceve un messaggio WhatsApp da un collega su una nuova funzionalità CRM preoccupante che il team di vendita ha attivato.

7. Individuazione del punteggio sociale

   Alice legge attentamente il messaggio di Jamie. Emergono due dettagli: ai clienti viene assegnato un punteggio in base all’attività sui social media e i clienti con punteggi bassi vengono indirizzati verso code di supporto più lente.

8. Comprendere il punteggio sociale

   This is social scoring , prohibited under Article 5(1)(c). Using AI to evaluate people based on their social behavior or personal characteristics - and then using those scores to treat them detrimentally - is banned. Returns and support tickets on their own are ordinary business data. What crosses the line is scoring customers on their social media activity, behaviour from an unrelated context, and using that score to push them into slower support: detrimental treatment in a context unrelated to where the data came from, and also unjustified and out of proportion. Either condition on its own is enough. The prohibition applies regardless of whether the scoring happens to existing customers or prospective ones.

9. Giorno 5: Il raschietto per il viso

   Due giorni dopo, Alice scopre che il team di marketing ha creato una demo interna dello strumento. Lo apre nel suo browser per rivedere su cosa hanno lavorato.

10. Raschiamento facciale non mirato

    Lo strumento FaceWatch estrae le foto disponibili pubblicamente dai profili dei social media per creare un database di riconoscimento facciale. Ai sensi dell’articolo 5, paragrafo 1, lettera e), è esplicitamente vietato l’estrazione non mirata di immagini facciali da Internet o da filmati CCTV per creare o espandere database di riconoscimento facciale.