AI-agentcode-injectie

Wat is AI-agentcode-injectie?

AI-codeeragenten zetten tekst om in opdrachten die met uw rechten worden uitgevoerd, en de tekst hoeft niet van u te komen. Een ticket, een opmerking of een configuratiebestand dat de agent als context leest, kan instructies bevatten, en het gegenereerde script voert deze uit. Dit is ASI05 in de OWASP Top 10 voor Agentic AI-toepassingen. Je plaatst een richtlijn in een onopgeschoond ticketveld, volgt deze via het genereren van code in een samengevoegde pull-aanvraag en een omgekeerde shell, en leert vervolgens een beoordeling vóór de uitvoering van door AI geschreven code.

Wat je leert in AI-agentcode-injectie

• Identificeer geïnjecteerde opdrachten die zijn ingebed in anderszins legitieme, door AI gegenereerde code en shell-scripts
• Traceer de stroom van vijandige invoer van gemanipuleerde bronbestanden via het genereren van AI-code tot de uiteindelijke uitvoerbare uitvoer
• Analyseer de beveiligingsimplicaties van het uitvoeren van door AI gegenereerde code met de volledige systeemrechten van de gebruiker
• Evalueer de effectiviteit van sandboxing, codebeoordeling en statische analyse als verdediging tegen AI-code-injectie
• Pas een systematisch beoordelingsproces vóór de uitvoering toe voor door AI gegenereerde scripts die zich richten op algemene injectiepatronen, waaronder reverse shells, exfiltratie van omgevingsvariabelen en geknoei met configuraties

AI-agentcode-injectie — Trainingsstappen

1. CI/CD-verkenning

   Bob heeft de infrastructuurimplementatiepijplijn van CypherPeak in kaart gebracht. Vijf AI-agenten werken achtereenvolgens: van het lezen van projecttickets tot het implementeren van code en de productie. Eén agent trok in het bijzonder zijn aandacht: de Code Generator leest ticketbeschrijvingen als ruwe vereisten.

2. De Ticket-API onderzoeken

   Bob opent een API-testtool om te bevestigen dat de ticket-API niet-geverifieerde inzendingen accepteert. Hij stuurt een testverzoek naar het openbare eindpunt zonder inloggegevens.

3. Sanering zonder invoer

   De API accepteerde het testticket zonder authenticatie-uitdaging. Het antwoord bevestigt dat beschrijvingen worden geparseerd als ruwe vereisten zonder invoeropschoning - precies de vector die Bob nodig heeft om een ​​verborgen richtlijn te injecteren.

4. Het kaartje maken

   Bob maakt een ticket dat op het eerste gezicht lijkt op een routinematig infrastructuurverzoek. Maar verborgen in het beschrijvingsveld zit een verborgen richtlijn die de Codegenerator instrueert om een ​​omgekeerde shell in het volgende implementatiescript in te sluiten - vermomd als een standaard telemetriemodule.

5. Het ingediende ticket indienen

   Bob schakelt terug naar de API Tester. Het ticket-API-eindpunt wordt nog steeds geconfigureerd vanuit de test. Hij plakt de gemaakte ticket-JSON in de hoofdtekst van het verzoek en verzendt deze.

6. pipeline verwerkt

   Het ticket werd automatisch geaccepteerd en verwerkt via de gehele pijplijn. De Ticket Parser haalde de vereisten eruit, de Code Generator compileerde ze in een implementatiescript inclusief de verborgen omgekeerde shell, en de AI Code Reviewer keurde het goed omdat de geïnjecteerde code overeenkomt met standaard monitoringpatronen.

7. Een routinematige codebeoordeling

   Alice begint haar ochtend bij CypherPeak. Als DevOps-ingenieur beoordeelt ze implementatiescripts voordat ze in productie gaan, inclusief de scripts die automatisch door BuildBot worden gegenereerd. BuildBot genereert al maanden schone infrastructuurcode. Het trackrecord is vlekkeloos.

8. Pull-verzoek van BuildBot

   Een nieuwe e-mail van het CI/CD-systeem. BuildBot heeft een pull-verzoek gegenereerd voor een infrastructuurupdate, waarbij gezondheidsmonitoring wordt toegevoegd aan het staging-implementatiescript. De AI Code Reviewer heeft het al goedgekeurd.

9. Het verschil bekijken

   Alice klikt door naar het pull-verzoek om de codewijzigingen te bekijken. Het verschil toont een nieuwe monitoringfunctie die aan het implementatiescript is toegevoegd.

10. Geautomatiseerde goedkeuring

    Alice scant het diff. De AI Code Reviewer heeft het al goedgekeurd. Jake Rodriguez liet een opmerking achter waarin hij vroeg naar de base64-string, maar de geautomatiseerde reviewer van BuildBot signaleerde geen problemen. De wijzigingen zien eruit als een standaard toevoeging voor gezondheidsmonitoring.