Correzione di sicurezza AI mai testata

Correzione di sicurezza AI mai testata

L'assistente ha detto che era sicuro. Non lo era.

Cos’è Correzione di sicurezza AI mai testata?

Un assistente AI per la programmazione ha proposto una correzione per una SQL injection, una blocklist di regex, e ha dichiarato che l'endpoint era ormai sicuro. Il payload più ovvio ha restituito un 400, così il ticket è stato chiuso. Nel giro di una settimana una variante spezzata con i commenti ha scavalcato il filtro e ha prelevato l'intera tabella dei clienti. Accetterai il diff sicuro di sé dell'assistente, vedrai l'aggiramento nell'API Tester, sostituirai la blocklist con una query parametrizzata e dimostrerai la correzione riproducendo l'attacco esatto. La lezione: una correzione di sicurezza si verifica con l'attacco, non con la sicurezza di sé dell'assistente.

Cosa imparerai in Correzione di sicurezza AI mai testata

Correzione di sicurezza AI mai testata — Fasi della formazione

  1. Un riscontro dello scanner

    Una scansione statica ha segnalato una SQL injection nell'endpoint di ricerca dei clienti. Il riscontro arriva nella coda di Alice su Jotvane, il tracker del team.

  2. La query vulnerabile

    Alice apre il file segnalato. Il valore cercato finisce direttamente nella stringa SQL.

  3. Dove sta il problema

    Il valore di q viene unito al testo della query, quindi qualunque cosa invii chi chiama diventa parte dell'SQL.

  4. Chiedi all'assistente di correggerlo

    Alice apre l'assistente e gli chiede di correggere la SQL injection.

  5. Una correzione sicura di sé

    L'assistente legge il file e cerca funzioni di sanificazione già presenti. Poi propone un filtro che elimina dall'input i pattern pericolosi e dichiara che l'endpoint ora è sicuro.

  6. Accetta la correzione

    Claude ha proposto una modifica e afferma che è sicura. Alice legge che cosa ha fatto davvero, poi accetta il diff. Il filtro entra nel codice e il margine segna le righe nuove in viola e tratteggiate: scritte da Claude, non ancora riviste da una persona. La barra della provenienza mostra lo stato del file: diverse righe scritte dall'assistente, nessuna rivista. La sicurezza di sé dell'assistente non è una revisione e non è un test.

  7. Il payload più ovvio

    Alice prova sull'endpoint il payload classico di SQL injection. Il filtro lo respinge con un 400. Sembra risolto.

  8. Chiudi il riscontro

    Il payload più ovvio è stato respinto, quindi il riscontro sembra chiuso. Alice annota il risultato sul riscontro e lo risolve. Non è stato provato altro.

  9. L'aggiramento del filtro

    Bob attacca lo stesso endpoint. Una blocklist riconosce solo pattern fissi, quindi lui li spezza con commenti inline. Il database tratta i commenti come spazi ed esegue comunque l'injection.

  10. L'intera tabella

    L'input spezzato con i commenti ha superato il filtro, e l'injection ha restituito l'intera tabella dei clienti: nomi, email, telefoni, date di nascita. La correzione «ora sicura» era stata provata solo con la stringa più ovvia.

Copertura dei framework di sicurezza

OWASP Top 10

  • A05:2025 Injection

OWASP ASVS

  • V1.2.4 Injection Prevention

CWE

  • CWE-184 Incomplete List of Disallowed Inputs
  • CWE-89 Improper Neutralization of Special Elements used in an SQL Command

CIS Controls

  • CIS 16 Application Software Security

NIST CSF

  • PR.AT-02 Individuals in specialized roles are provided with awareness and training so that they possess the knowledge and skills to perform relevant tasks with cybersecurity risks in mind
  • PR.PS Platform Security

NICE Framework

  • DD-WRL-003 Secure Software Development