Fuga di segreti dal contesto AI
L'assistente ha letto un file che non gli avevi dato.
Cos’è Fuga di segreti dal contesto AI?
Un assistente agentico di programmazione legge la directory di lavoro per risponderti e scrive nei contenuti che pubblichi. Qui ha letto un file segreto locale mentre faceva il debug di un test, poi ha riportato la chiave di produzione nella descrizione di una pull request diventata pubblica. Scorrerai il registratore di volo di una sessione fino alla lettura del segreto e alla scrittura che l'ha portato fuori, vedrai perché .gitignore non ha impedito la lettura, ruoterai la chiave esposta nell'ordine giusto e aggiungerai un .aiignore perché l'assistente non possa più leggere il segreto.
Cosa imparerai in Fuga di segreti dal contesto AI
- Descrivere come un assistente agentico possa leggere file che nessuno gli ha dato esplicitamente, perché legge la directory di lavoro per costruirsi il contesto
- Spiegare perché .gitignore non limita un assistente, dato che regola il controllo di versione e non ciò che l'assistente può leggere
- Usare il registratore di volo di una sessione e la mappa del contesto per individuare la lettura di un segreto e la scrittura che lo ha portato in un output pubblico
- Ruotare una chiave esposta nell'ordine corretto: prima revocare la chiave compromessa, poi emetterne una nuova
- Delimitare l'accesso ai file di un assistente con un .aiignore, così i segreti restano fuori dal suo contesto, e verificare che la lettura sia bloccata
Fuga di segreti dal contesto AI — Fasi della formazione
-
Un riscontro dello scanner
Bob fa girare uno scanner sugli host di codice pubblici. Stamattina ha segnalato una nuova pull request su github.tullowick.dev, la cui descrizione riporta quella che sembra una chiave di pagamento di produzione. Il feed è sullo schermo di Bob. Dagli un'occhiata.
-
Una chiave di produzione, in pubblico
Il feed ha estratto la chiave direttamente dalla descrizione della pull request. Ha il prefisso di produzione, non è un valore segnaposto. Il feed la segna come verificata, ma Bob vuole vedere che cosa apre.
-
Uso della chiave
Una chiave di produzione è un token bearer: chi la possiede è l'account. Bob punta l'API Tester sull'endpoint dei pagamenti di Quellby e inserisce la chiave in un'intestazione Authorization . Se la chiave è ancora valida, la risposta contiene gli addebiti reali dell'account. Qui non serve nessuna violazione. Una chiave pubblicata apre la porta da sola.
-
L'avviso
Il team di sicurezza di Quellby usa un proprio scanner di segreti. Ha trovato la stessa chiave e ha scritto al titolare dell'account.
-
Riapri la sessione di ieri
Alice apre l'area di lavoro della fatturazione nell'editor di codice. Ieri ha chiesto all'assistente di fare il debug del test di fatturazione che falliva. Qui ci sono i quattro file che ha toccato, e si carica la memoria della sessione: i file che aveva nel contesto, i passaggi che ha eseguito e le righe che ha scritto.
-
Dove è stata letta la chiave
Il registratore di volo conserva la sessione di ieri come cronologia. Un evento è segnalato: mentre faceva il debug di un test che non ne aveva bisogno, l'assistente ha letto .env.local , un file segreto. Trovalo sul registratore: è il primo segno rosso (di allerta), nella corsia «lettura» alle 14:01:22, con l'etichetta .env.local .
-
Git l'ha ignorato. L'assistente no.
La mappa del contesto ora mostra .env.local selezionato e segnalato come segreto. Apri .gitignore sulla mappa: il file è elencato lì, quindi git non lo traccia mai. Ma .gitignore dice solo al controllo di versione che cosa saltare. L'assistente legge direttamente la directory di lavoro, quindi un file ignorato resta comunque alla sua portata.
-
Dove è uscita la chiave
Leggere il segreto era solo metà del problema. Il prossimo evento segnalato dal registratore è una modifica alla descrizione della pull request. Trovala: è il secondo segno rosso (di allerta), nella corsia «modifica» alle 14:01:58, con l'etichetta PR-218 description.md .
-
Scritta, mai rivista
Si apre la descrizione della PR. Per rendere concreta la sezione sulla verifica in locale, l'assistente ha riempito l'esempio con i valori reali che aveva nel contesto, compresa la chiave di produzione. Il margine della provenienza segna quelle righe in viola e tratteggiate: le ha scritte Claude e nessuna persona le ha riviste prima che la PR diventasse pubblica.
-
Che cosa ha fatto uscire la chiave?
Copertura dei framework di sicurezza
OWASP Top 10
- A01:2025 Broken Access Control
CWE
- CWE-200 Exposure of Sensitive Information to an Unauthorized Actor
- CWE-532 Insertion of Sensitive Information into Log File
MITRE ATT&CK
- T1552.001 Unsecured Credentials: Credentials In Files
CIS Controls
- CIS 16 Application Software Security
- CIS 3 Data Protection
NIST CSF
- PR.AT-02 Individuals in specialized roles are provided with awareness and training so that they possess the knowledge and skills to perform relevant tasks with cybersecurity risks in mind
- PR.PS Platform Security
- PR.DS Data Security
NICE Framework
- DD-WRL-003 Secure Software Development