Correzione di sicurezza AI mai testata
L'assistente ha detto che era sicuro. Non lo era.
Cos’è Correzione di sicurezza AI mai testata?
Un assistente AI per la programmazione ha proposto una correzione per una SQL injection, una blocklist di regex, e ha dichiarato che l'endpoint era ormai sicuro. Il payload più ovvio ha restituito un 400, così il ticket è stato chiuso. Nel giro di una settimana una variante spezzata con i commenti ha scavalcato il filtro e ha prelevato l'intera tabella dei clienti. Accetterai il diff sicuro di sé dell'assistente, vedrai l'aggiramento nell'API Tester, sostituirai la blocklist con una query parametrizzata e dimostrerai la correzione riproducendo l'attacco esatto. La lezione: una correzione di sicurezza si verifica con l'attacco, non con la sicurezza di sé dell'assistente.
Cosa imparerai in Correzione di sicurezza AI mai testata
- Spiegare perché la sicurezza con cui un assistente AI dichiara sicura una correzione non è una prova che lo sia
- Mostrare perché una blocklist non può proteggere una query, dato che esiste sempre un'altra codifica di un input dannoso che non ha mai riconosciuto
- Verificare una correzione di sicurezza riproducendo l'attacco esatto che dichiara di fermare e confermando che fallisce
- Sostituire il filtraggio dell'input con una query parametrizzata, in modo che il valore sia associato come dato e non possa mai essere interpretato come SQL
- Riconoscere che il codice accettato da un assistente ma mai rivisto resta comunque responsabilità dello sviluppatore
Correzione di sicurezza AI mai testata — Fasi della formazione
-
Un riscontro dello scanner
Una scansione statica ha segnalato una SQL injection nell'endpoint di ricerca dei clienti. Il riscontro arriva nella coda di Alice su Jotvane, il tracker del team.
-
La query vulnerabile
Alice apre il file segnalato. Il valore cercato finisce direttamente nella stringa SQL.
-
Dove sta il problema
Il valore di q viene unito al testo della query, quindi qualunque cosa invii chi chiama diventa parte dell'SQL.
-
Chiedi all'assistente di correggerlo
Alice apre l'assistente e gli chiede di correggere la SQL injection.
-
Una correzione sicura di sé
L'assistente legge il file e cerca funzioni di sanificazione già presenti. Poi propone un filtro che elimina dall'input i pattern pericolosi e dichiara che l'endpoint ora è sicuro.
-
Accetta la correzione
Claude ha proposto una modifica e afferma che è sicura. Alice legge che cosa ha fatto davvero, poi accetta il diff. Il filtro entra nel codice e il margine segna le righe nuove in viola e tratteggiate: scritte da Claude, non ancora riviste da una persona. La barra della provenienza mostra lo stato del file: diverse righe scritte dall'assistente, nessuna rivista. La sicurezza di sé dell'assistente non è una revisione e non è un test.
-
Il payload più ovvio
Alice prova sull'endpoint il payload classico di SQL injection. Il filtro lo respinge con un 400. Sembra risolto.
-
Chiudi il riscontro
Il payload più ovvio è stato respinto, quindi il riscontro sembra chiuso. Alice annota il risultato sul riscontro e lo risolve. Non è stato provato altro.
-
L'aggiramento del filtro
Bob attacca lo stesso endpoint. Una blocklist riconosce solo pattern fissi, quindi lui li spezza con commenti inline. Il database tratta i commenti come spazi ed esegue comunque l'injection.
-
L'intera tabella
L'input spezzato con i commenti ha superato il filtro, e l'injection ha restituito l'intera tabella dei clienti: nomi, email, telefoni, date di nascita. La correzione «ora sicura» era stata provata solo con la stringa più ovvia.
Copertura dei framework di sicurezza
OWASP Top 10
- A05:2025 Injection
OWASP ASVS
- V1.2.4 Injection Prevention
CWE
- CWE-184 Incomplete List of Disallowed Inputs
- CWE-89 Improper Neutralization of Special Elements used in an SQL Command
CIS Controls
- CIS 16 Application Software Security
NIST CSF
- PR.AT-02 Individuals in specialized roles are provided with awareness and training so that they possess the knowledge and skills to perform relevant tasks with cybersecurity risks in mind
- PR.PS Platform Security
NICE Framework
- DD-WRL-003 Secure Software Development