IA e protezione dei dati

IA e protezione dei dati

Un solo sistema di IA, due regolamenti: si applicano sia il regolamento sull'IA sia il GDPR.

Cos’è IA e protezione dei dati?

Il regolamento sull'IA e il GDPR sono indipendenti ma si sovrappongono. Quando un sistema di IA tratta dati personali, si applica sempre il GDPR, e si applica anche il regolamento sull'IA se il sistema rientra nel suo ambito. Lavori su un sistema di IA sanitario per il triage: i diritti dell'articolo 22 del GDPR sulle decisioni automatizzate, la minimizzazione dei dati di fronte alle richieste di più dati del fornitore, i doppi obblighi di trasparenza e la differenza tra DPIA e FRIA, fino al reclamo di una paziente che mette alla prova le tue misure.

Cosa imparerai in IA e protezione dei dati

IA e protezione dei dati — Fasi della formazione

  1. Due quadri normativi, un solo sistema di IA

    Il regolamento sull'IA e il GDPR si sovrappongono quando un'IA tratta dati personali. Il GDPR riguarda qualsiasi sistema di questo tipo; il regolamento sull'IA si applica in più se il sistema rientra nel suo ambito, come accade per questo sistema di triage. Base giuridica del GDPR – un fondamento di legge valido per il trattamento. Articolo 22 del GDPR – il diritto di non essere sottoposti a decisioni puramente automatizzate che producono effetti significativi. Requisiti della DPIA – per i trattamenti ad alto rischio può essere richiesta una valutazione d'impatto sulla protezione dei dati. Minimizzazione dei dati – solo i dati necessari per la finalità. I due quadri sono soggetti a controlli separati, ma creano obblighi che si sovrappongono.

  2. Panoramica del sistema di triage con IA

    Wellspring Health Services ha sviluppato un sistema di IA per il triage, per gestire meglio gli appuntamenti dei pazienti. Prima di avviare la valutazione di conformità, Alice accede al portale clinico e apre la pagina di panoramica per capire come funziona il sistema.

  3. Articolo 22 del GDPR: processo decisionale automatizzato

    L'articolo 22 del GDPR riconosce alle persone il diritto di non essere sottoposte a decisioni puramente automatizzate che producono effetti significativi. L'articolo 14 del regolamento sull'IA impone, con una norma distinta, la sorveglianza umana per l'IA ad alto rischio. I due obblighi si completano: il GDPR crea un diritto per il paziente, il regolamento sull'IA crea un obbligo di progettazione. Vanno rispettati entrambi, ciascuno per conto proprio.

  4. Base giuridica per i dati sanitari

    Il sistema di triage tratta dati sanitari, che sono una categoria particolare ai sensi dell'articolo 9 del GDPR. Le basi comuni del trattamento, come il legittimo interesse, non bastano per i dati sanitari. Le condizioni dell'articolo 9, paragrafo 2, adatte a questo caso sono: Consenso esplicito (GDPR, art. 9, par. 2, lett. a)) – il paziente dà un consenso esplicito e informato al trattamento dei propri dati sanitari da parte del sistema di IA. Necessità per cure o diagnosi mediche (GDPR, art. 9, par. 2, lett. h)) – il trattamento è necessario per finalità sanitarie ed è effettuato da un professionista della salute o da chi è tenuto al segreto professionale. Il legittimo interesse da solo non è mai sufficiente per trattare dati sanitari ai sensi del GDPR. Le organizzazioni devono individuare una condizione valida dell'articolo 9, paragrafo 2, oltre a una base giuridica dell'articolo 6.

  5. Verifica intermedia

  6. Minimizzazione dei dati e prestazioni dell'IA

    Il fornitore dell'IA ha chiesto di accedere alle cartelle cliniche complete dei pazienti, sostenendo che più dati renderebbero il triage più accurato. Il principio di minimizzazione dei dati del GDPR (articolo 5, paragrafo 1, lettera c)), però, richiede di trattare solo i dati necessari per la finalità specifica. Per un triage basato sui sintomi, al sistema servono le descrizioni dei sintomi attuali e i dati anagrafici essenziali del paziente. L'intera storia clinica, le terapie farmacologiche e i trattamenti passati sono eccessivi per stabilire la priorità dell'appuntamento. Trattare più dati del necessario viola il GDPR, anche se migliorerebbe le prestazioni dell'IA.

  7. Verifica dell'informativa privacy per i pazienti

    Alice apre dal portale clinico l'informativa privacy rivolta ai pazienti. Una sola informativa può soddisfare sia il GDPR sia il regolamento sull'IA, ma solo se contiene tutte le informazioni richieste.

  8. DPIA e FRIA

    Questo sistema di IA sanitario può richiedere due valutazioni d'impatto: DPIA (valutazione d'impatto sulla protezione dei dati) – prevista dal GDPR quando un trattamento può presentare un rischio elevato per i diritti delle persone. Riguarda i rischi per la protezione dei dati . FRIA (valutazione d'impatto sui diritti fondamentali) – prevista dall'articolo 27 del regolamento sull'IA prima che un'IA ad alto rischio sia usata da enti pubblici, da fornitori di servizi pubblici come la sanità o da deployer di IA per il merito di credito o per le assicurazioni sulla vita e sulla salute. Riguarda tutti i diritti fondamentali : non discriminazione, dignità, accesso alle cure e ricorso effettivo. Si possono svolgere insieme e la FRIA può riutilizzare parti della DPIA, ma ciascuna deve rispettare i requisiti del proprio regolamento.

  9. Il reclamo di una paziente

    La dott.ssa Sarah Park scrive ad Alice su Telegram a proposito di una paziente scontenta della priorità che l'IA le ha assegnato. Alice deve consigliarle come rispondere nel rispetto dell'articolo 22 del GDPR e degli obblighi di sorveglianza umana del regolamento sull'IA.

  10. Punti chiave

    Ecco cosa ricordare quando i sistemi di IA trattano dati personali: Spesso si applicano entrambi i regolamenti: i sistemi di IA che trattano dati personali rientrano sempre nel GDPR e, se rientrano nel suo ambito, anche nel regolamento sull'IA, come questo sistema di triage. Sono quadri indipendenti, con controlli separati. La sorveglianza umana serve a entrambi: l'articolo 22 del GDPR dà alle persone il diritto di non essere sottoposte a decisioni puramente automatizzate, con garanzie come l'intervento umano (articolo 22, paragrafo 3), mentre l'articolo 14 del regolamento sull'IA richiede che i sistemi ad alto rischio siano progettati per una sorveglianza umana effettiva. Le ragioni giuridiche sono diverse. I due obblighi si completano, non si sostituiscono. La minimizzazione dei dati vale anche quando più dati sarebbero utili: trattare più dati del necessario viola il GDPR, anche se migliora le prestazioni dell'IA. Le informative privacy devono soddisfare entrambi i quadri: il GDPR richiede trasparenza sul trattamento dei dati; il regolamento sull'IA richiede trasparenza sull'uso dei sistemi di IA. Entrambe si possono dare in un'unica informativa. Possono servire sia la DPIA sia la FRIA: la DPIA si concentra sui rischi per la protezione dei dati; la FRIA copre tutti i diritti fondamentali. Hanno scopi diversi anche quando si svolgono insieme. I pazienti hanno diritti in base a entrambi: il GDPR dà accesso alle informazioni (articoli 13-15) e l'intervento umano nelle decisioni puramente automatizzate (articolo 22, paragrafo 3); il regolamento sull'IA aggiunge il diritto alla spiegazione delle decisioni di un'IA ad alto rischio (articolo 86).

Copertura dei framework di sicurezza

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind

NICE Framework

  • OG-WRL-008 Privacy Compliance
  • OG-WRL-002 Cybersecurity Policy and Planning

GDPR

  • Art. 22 Automated individual decision-making, including profiling
  • Art. 35 Data protection impact assessment
  • Art. 9 Processing of special categories of personal data

EU AI Act

  • Art. 26 Obligations of deployers of high-risk AI systems
  • Art. 27 Fundamental rights impact assessment for high-risk AI systems
  • Art. 86 Right to explanation of individual decision-making