Fuga di segreti dal contesto AI

Fuga di segreti dal contesto AI

L'assistente ha letto un file che non gli avevi dato.

Cos’è Fuga di segreti dal contesto AI?

Un assistente agentico di programmazione legge la directory di lavoro per risponderti e scrive nei contenuti che pubblichi. Qui ha letto un file segreto locale mentre faceva il debug di un test, poi ha riportato la chiave di produzione nella descrizione di una pull request diventata pubblica. Scorrerai il registratore di volo di una sessione fino alla lettura del segreto e alla scrittura che l'ha portato fuori, vedrai perché .gitignore non ha impedito la lettura, ruoterai la chiave esposta nell'ordine giusto e aggiungerai un .aiignore perché l'assistente non possa più leggere il segreto.

Cosa imparerai in Fuga di segreti dal contesto AI

Fuga di segreti dal contesto AI — Fasi della formazione

  1. Un riscontro dello scanner

    Bob fa girare uno scanner sugli host di codice pubblici. Stamattina ha segnalato una nuova pull request su github.tullowick.dev, la cui descrizione riporta quella che sembra una chiave di pagamento di produzione. Il feed è sullo schermo di Bob. Dagli un'occhiata.

  2. Una chiave di produzione, in pubblico

    Il feed ha estratto la chiave direttamente dalla descrizione della pull request. Ha il prefisso di produzione, non è un valore segnaposto. Il feed la segna come verificata, ma Bob vuole vedere che cosa apre.

  3. Uso della chiave

    Una chiave di produzione è un token bearer: chi la possiede è l'account. Bob punta l'API Tester sull'endpoint dei pagamenti di Quellby e inserisce la chiave in un'intestazione Authorization . Se la chiave è ancora valida, la risposta contiene gli addebiti reali dell'account. Qui non serve nessuna violazione. Una chiave pubblicata apre la porta da sola.

  4. L'avviso

    Il team di sicurezza di Quellby usa un proprio scanner di segreti. Ha trovato la stessa chiave e ha scritto al titolare dell'account.

  5. Riapri la sessione di ieri

    Alice apre l'area di lavoro della fatturazione nell'editor di codice. Ieri ha chiesto all'assistente di fare il debug del test di fatturazione che falliva. Qui ci sono i quattro file che ha toccato, e si carica la memoria della sessione: i file che aveva nel contesto, i passaggi che ha eseguito e le righe che ha scritto.

  6. Dove è stata letta la chiave

    Il registratore di volo conserva la sessione di ieri come cronologia. Un evento è segnalato: mentre faceva il debug di un test che non ne aveva bisogno, l'assistente ha letto .env.local , un file segreto. Trovalo sul registratore: è il primo segno rosso (di allerta), nella corsia «lettura» alle 14:01:22, con l'etichetta .env.local .

  7. Git l'ha ignorato. L'assistente no.

    La mappa del contesto ora mostra .env.local selezionato e segnalato come segreto. Apri .gitignore sulla mappa: il file è elencato lì, quindi git non lo traccia mai. Ma .gitignore dice solo al controllo di versione che cosa saltare. L'assistente legge direttamente la directory di lavoro, quindi un file ignorato resta comunque alla sua portata.

  8. Dove è uscita la chiave

    Leggere il segreto era solo metà del problema. Il prossimo evento segnalato dal registratore è una modifica alla descrizione della pull request. Trovala: è il secondo segno rosso (di allerta), nella corsia «modifica» alle 14:01:58, con l'etichetta PR-218 description.md .

  9. Scritta, mai rivista

    Si apre la descrizione della PR. Per rendere concreta la sezione sulla verifica in locale, l'assistente ha riempito l'esempio con i valori reali che aveva nel contesto, compresa la chiave di produzione. Il margine della provenienza segna quelle righe in viola e tratteggiate: le ha scritte Claude e nessuna persona le ha riviste prima che la PR diventasse pubblica.

  10. Che cosa ha fatto uscire la chiave?

Copertura dei framework di sicurezza

OWASP Top 10

  • A01:2025 Broken Access Control

CWE

  • CWE-200 Exposure of Sensitive Information to an Unauthorized Actor
  • CWE-532 Insertion of Sensitive Information into Log File

MITRE ATT&CK

  • T1552.001 Unsecured Credentials: Credentials In Files

CIS Controls

  • CIS 16 Application Software Security
  • CIS 3 Data Protection

NIST CSF

  • PR.AT-02 Individuals in specialized roles are provided with awareness and training so that they possess the knowledge and skills to perform relevant tasks with cybersecurity risks in mind
  • PR.PS Platform Security
  • PR.DS Data Security

NICE Framework

  • DD-WRL-003 Secure Software Development