Valutazione d'impatto sui diritti fondamentali

Cos’è Valutazione d'impatto sui diritti fondamentali?

Scopri come l'articolo 27 della legge dell'UE sull'intelligenza artificiale impone agli enti pubblici, ai fornitori di servizi pubblici e agli erogatori di punteggi creditizi o assicurativi che utilizzano l'intelligenza artificiale ad alto rischio di condurre una valutazione d'impatto sui diritti fondamentali prima del primo utilizzo. Completare una FRIA per un sistema automatizzato di ammissibilità dei benefici per l’edilizia sociale, valutando gli impatti sulla non discriminazione, sulla privacy, sul rimedio efficace e sulla dignità umana.

Cosa imparerai in Valutazione d'impatto sui diritti fondamentali

• Comprendere quando e perché è necessaria una FRIA ai sensi dell'articolo 27 della legge UE sull'AI
• Distinguere tra una FRIA e una valutazione di impatto sulla protezione dei dati GDPR
• Identificare tutte le categorie di persone interessate per un sistema di IA ad alto rischio
• Valutare quali diritti fondamentali sono influenzati da un sistema di intelligenza artificiale che prende decisioni sull’ammissibilità dei benefici
• Definire misure di mitigazione adeguate e piani di monitoraggio per la conformità continua

Valutazione d'impatto sui diritti fondamentali — Fasi della formazione

1. Articolo 27: Valutazione d'impatto sui diritti fondamentali

   L’articolo 27 della legge dell’UE sull’IA impone ad alcuni deployer di sistemi di IA ad alto rischio (enti pubblici, soggetti privati che forniscono servizi pubblici e deployer di IA con credit scoring o assicurazioni sulla vita e sulla salute) di condurre una valutazione d’impatto sui diritti fondamentali prima del primo utilizzo. È previsto un sistema di sussidi per l'edilizia sociale gestito dai consigli comunali: esso decide l'ammissibilità all'assistenza pubblica (Allegato III 5(a)). Una FRIA esamina in che modo il sistema di IA potrebbe incidere sui diritti fondamentali: dignità, non discriminazione, privacy, libertà di espressione e diritto a un ricorso effettivo. Una FRIA differisce da una valutazione dell’impatto della protezione dei dati GDPR (DPIA). Mentre una DPIA si concentra esclusivamente sui rischi legati alla protezione dei dati, una FRIA copre tutti i diritti fondamentali. Entrambe le valutazioni possono essere necessarie per lo stesso sistema e possono essere condotte insieme.

2. Dettagli di distribuzione

   Arriva un'e-mail da Petra Novak, la project manager responsabile dell'implementazione dell'intelligenza artificiale per l'edilizia sociale. Fornisce i dettagli di cui Alice ha bisogno per iniziare la FRIA.

3. Documento guida FRIA

   Prima di iniziare la valutazione, Alice apre il documento guida FRIA collegato nell'e-mail di Petra. Spiega ogni sezione della valutazione, la differenza tra una FRIA e una DPIA e suggerimenti pratici per completare accuratamente ciascuna parte.

4. Apri il Modulo FRIA

   Una volta esaminata la guida, Alice fa clic su Continua per aprire la lista di controllo FRIA: cinque sezioni che coprono i pilastri di una valutazione dell'impatto sui diritti.

5. Sezione 1: Descrizione del sistema

   La prima sezione chiede ad Alice di documentare lo scopo del sistema di intelligenza artificiale, le persone che colpisce e l'ambito della sua implementazione. In questo sistema, le persone interessate includono: Richiedenti benefici - molti in situazioni finanziarie vulnerabili, direttamente interessati dalle decisioni di ammissibilità. Operatori sociali - che si affidano alle raccomandazioni dell'AI per emettere decisioni finali. Famiglie dei richiedenti - che dipendono dai benefici abitativi che il richiedente sta cercando. Il sistema prende decisioni che influiscono direttamente sull'accesso all'alloggio: un'esigenza fondamentale.

6. Verifica della sezione 1

7. Sezione 2: Analisi dei diritti fondamentali

   Questa è la sezione più critica della FRIA. Alice deve valutare quali diritti fondamentali il sistema di IA potrebbe influenzare: Diritto alla non discriminazione : l'IA può discriminare in base alla composizione familiare, alla nazionalità o all'indirizzo di residenza, utilizzando questi come variabili proxy per le caratteristiche protette. Diritto alla privacy : il sistema tratta dati personali sensibili, comprese informazioni su reddito, lavoro e famiglia. Diritto a un rimedio efficace : i richiedenti devono essere in grado di contestare i rifiuti guidati dall'IA attraverso un processo di ricorso chiaro e accessibile. Diritto alla dignità umana : le decisioni automatizzate sull'accesso all'alloggio influiscono su un aspetto fondamentale della vita e della dignità di una persona.

8. Verifica della sezione 2

9. Sezione 3: Valutazione del rischio

   Alice assegna un punteggio a ciascun impatto sui diritti in termini di gravità e probabilità. Il rifiuto dell’accesso all’alloggio è molto grave; la probabilità dipende dai controlli dei bias. La valutazione combinata determina quali mitigazioni hanno la priorità.

10. Verifica della sezione 3