Prompt injection tramite issue

Prompt injection tramite issue

Chiunque poteva segnalare un bug. Il bot ha integrato la segnalazione.

Cos’è Prompt injection tramite issue?

Un bot di smistamento automatico legge le nuove issue e apre pull request. Una segnalazione di bug nasconde un'istruzione e, poiché il bot ha accesso in scrittura ed è nell'allowlist dell'auto-merge, quell'istruzione diventa un workflow integrato che invia un segreto a un host esterno. Risali dalla pull request all'issue a cui il bot ha obbedito, metti il token del bot in sola lettura, toglilo dall'auto-merge, richiedi la revisione per ogni modifica alla CI e ruota il token trapelato. La lezione: metti limiti al token dell'agente, non alle sue parole.

Cosa imparerai in Prompt injection tramite issue

Prompt injection tramite issue — Fasi della formazione

  1. Una segnalazione di bug con una richiesta nascosta

    Per raggiungere l'automazione di Crowvale, Bob non ha bisogno di un account. Apre una segnalazione di bug pubblica sul repository checkout-api. In alto sembra un normale bug di timeout. In mezzo ai dettagli dell'ambiente c'è nascosta un'istruzione che non è per una persona, ma per il bot di smistamento, che legge ogni nuova issue prima di chiunque altro.

  2. Il token arriva a destinazione

    Durante la notte il bot di smistamento ha letto l'issue, ha aperto una pull request in bozza con il workflow e l'auto-merge l'ha integrata. Alla prima esecuzione il workflow ha fatto esattamente ciò che diceva l'issue. Bob va a vedere il suo server di raccolta.

  3. Deploy come Crowvale

    Un token di deploy è una chiave per la produzione. Bob punta l'API Tester sul servizio di deploy di Crowvale e inserisce il token rubato in un header Authorization .

  4. Un deploy notturno che nessuno ha lanciato

    Stamattina, per prima cosa, Soraya, responsabile della sicurezza, ha aperto un'issue su Jotvane, il tracker del team. Nella notte un'esecuzione di workflow ha inviato uno dei segreti del repository a un host esterno a Crowvale, e poi è partito un deploy in produzione che nessuno del team aveva avviato.

  5. La pull request integrata dal bot

    Questa modifica non l'hai scritta tu. Apri la pull request indicata da Soraya e guarda cosa ha aggiunto e come è arrivata al branch predefinito.

  6. Cosa ha fatto l'esecuzione

    Un workflow integrato viene eseguito. Apri la scheda «Actions» e leggi l'esecuzione partita all'arrivo della pull request del bot.

  7. Rivedi la sessione del bot

    Il bot di smistamento di Crowvale usa lo stesso assistente, e la sua sessione viene registrata. Sullo schermo ci sono il file di workflow che ha scritto e l'esecuzione del bot sull'issue #217: cosa ha letto, i passaggi compiuti, le righe scritte.

  8. Issue in ingresso, workflow in uscita

    Il registratore mostra il passaggio. Il bot ha recuperato una nuova issue, poi ha modificato un file di workflow. Una nuova issue è un input non attendibile: chiunque su internet può aprirne una. Trova nel registratore la modifica in cui il bot ha scritto il file di workflow.

  9. L'istruzione nascosta

    Torna all'issue letta dal bot e trova la riga a cui ha obbedito.

  10. Perché ha potuto farlo

Copertura dei framework di sicurezza

OWASP Top 10

  • A08:2025 Software or Data Integrity Failures

CWE

  • CWE-1427 Improper Neutralization of Input Used for LLM Prompting

CIS Controls

  • CIS 16 Application Software Security
  • CIS 6 Access Control Management

NIST CSF

  • PR.AT-02 Individuals in specialized roles are provided with awareness and training so that they possess the knowledge and skills to perform relevant tasks with cybersecurity risks in mind
  • PR.PS Platform Security
  • PR.AA Identity Management, Authentication, and Access Control

NICE Framework

  • DD-WRL-003 Secure Software Development