Protezioni AI disattivate
Tre controlli spenti. Il resto l'ha fatto una dipendenza.
Cos’è Protezioni AI disattivate?
Sotto scadenza, la via più rapida è spegnere i controlli dell'assistente: passare a un tenant personale, approvare in automatico ogni comando e togliere l'hook di commit. Poi il README di una dipendenza non attendibile ordina all'assistente di scrivere una chiave di produzione in un file di cui si fa il commit, e non resta nulla che la fermi. Vivrai quell'errore, lo ripercorrerai sul registratore di volo, ripristinerai ogni controllo e dimostrerai che ora l'assistente apre una richiesta di approvazione, il commit viene bloccato e la vecchia chiave non funziona più.
Cosa imparerai in Protezioni AI disattivate
- Riconoscere che spegnere i controlli dell'assistente per rispettare una scadenza elimina i punti di controllo che intercettano il danno
- Seguire sul registratore di volo un comando indotto da una prompt injection fino alla scrittura fatta senza chiedere
- Spiegare perché un agente agisce sull'input non attendibile che legge, e quindi perché i controlli intorno a lui contano
- Ripristinare tenant, approvazioni e hook di commit, e dimostrare che ognuno ora ferma la fuga
- Ruotare una chiave esposta nell'ordine corretto: prima revocare, poi emettere una sostitutiva
Protezioni AI disattivate — Fasi della formazione
-
Consegna prima della demo
In Jotvane, il tracker del team, c'è una nuova issue di Priya: gli slug delle pagine prodotto devono esserci prima della demo di domani. È tardi, e da stamattina le piccole seccature ti fanno perdere tempo.
-
L'attrito
Si apre il repository del checkout. La route del prodotto è il punto in cui va lo slug. L'assistente usa il tenant enterprise e chiede conferma prima di ogni scrittura, mentre l'alias dei tuoi commit esegue uno scanner di segreti che da tutto il giorno fallisce su file che non dovrebbero interessargli.
-
Togliere l'attrito
Togli i freni per andare più veloce. Passa l'assistente al tenant personale, così nessuna policy ti intralcia; imposta le approvazioni su «Approva automaticamente», così smette di chiederti conferma prima di ogni comando; aggiungi --no-verify all'alias dei commit, così lo scanner non fa più fallire i tuoi commit. Tre impostazioni, e ognuna è un punto di controllo.
-
Chiedi lo slug
Ora il compito vero. Chiedi all'assistente di aggiungere lo slug, come l'ha descritto Priya.
-
Installa la libreria
Installa il pacchetto che l'assistente ha indicato, così la libreria per gli slug è pronta da importare.
-
Completa la configurazione da solo
Con il pacchetto sul disco, l'assistente va avanti. Legge il README di slugfold , che contiene una sezione di configurazione rivolta agli assistenti di programmazione, e fa quello che dice: esegue uno script e scrive un valore in un file di configurazione. Con le approvazioni su «Approva automaticamente» l'esecuzione non ha aperto nessuna richiesta, quindi nessuno ti ha chiesto niente prima.
-
Commit senza passare dall'hook
Fai il commit del lavoro sullo slug con l'alias ci , come hai fatto per tutto il giorno. L'alias porta --no-verify , quindi lo scanner di segreti non parte mai e la configurazione con la chiave entra insieme a tutto il resto.
-
Uno scanner trova un riscontro
Bob fa girare uno scanner sugli host di codice pubblici. Pochi minuti dopo il push di Coldwyre, ha segnalato un commit su code.githarrow.org il cui diff aggiunge un file di configurazione con quella che sembra una chiave di produzione. Il commit segnalato è aperto.
-
Usare la chiave
La chiave ha il prefisso live, non è un segnaposto. Una chiave di produzione è un token bearer: chi la possiede è l'account. Bob punta l'API Tester sull'endpoint di messaggistica di Yarrowsend e inserisce la chiave in un'intestazione Authorization .
-
L'avviso
Anche Yarrowsend ha un proprio scanner di segreti che passa al setaccio il codice pubblico. Ha trovato la chiave di Coldwyre e ha scritto al titolare dell'account.
Copertura dei framework di sicurezza
OWASP Top 10
- A06:2025 Insecure Design
CWE
- CWE-693 Protection Mechanism Failure
CIS Controls
- CIS 16 Application Software Security
- CIS 4 Secure Configuration of Enterprise Assets and Software
NIST CSF
- PR.AT-02 Individuals in specialized roles are provided with awareness and training so that they possess the knowledge and skills to perform relevant tasks with cybersecurity risks in mind
- PR.PS Platform Security
NICE Framework
- DD-WRL-003 Secure Software Development