AI-denial-of-service-aanval

Wat is AI-denial-of-service-aanval?

Elke aanroep naar een groot model kost rekenkracht, dus een onbeschermd AI-eindpunt is een uitgavenrekening met een API ervoor. Aanvallers hoeven de service niet uit te schakelen, maar alleen om deze bezig te houden. Je vindt een API-sleutel in een openbare commit en stelt de rekening op met een langzaam stroompje aan prompts voor de maximale kosten, en neemt vervolgens de plaats van de verdediger in: lees de budgetwaarschuwing, zie hoe de kosten en latentie stijgen, traceer de verzoeken via de consolelogboeken, trek de sleutel in en stel een tarieflimiet en een bestedingsdrempel in.

Wat je leert in AI-denial-of-service-aanval

• Identificeer de bronuitputtingsvectoren die specifiek zijn voor AI-API's, waaronder contextvenster-misbruik, recursieve generatie en gelijktijdige verzoekoverbelasting
• Traceer het kostenescalatiepad van gemanipuleerde prompts via rekenverbruik naar de cloudrekening
• Pas tarieflimieten per sleutel en een automatische opschortingsdrempel voor het budget toe op eindpunten van AI-services, en leg uit waarom per verzoek uitvoertokenlimieten ook nodig zijn wanneer een aanvaller onder de snelheidslimiet blijft
• Evalueer budgetcontroles, bestedingswaarschuwingen en automatische beperkingsmechanismen die AI-servicekosten beheersen tijdens aanvalsscenario's
• Maak onderscheid tussen legitieme patronen van hoog AI-verbruik en vijandige bronuitputtingspogingen met behulp van monitoring en anomaliedetectie

AI-denial-of-service-aanval — Trainingsstappen

1. De scan instellen

   Bob opent zijn dashboard voor het scannen van inloggegevens – een tool die openbare codeopslagplaatsen controleert op openbaar gemaakte API-sleutels, tokens en cloudgeheimen. Hij staat op het punt zich te richten op de openbare GitHub-organisatie van CypherPeak Technologies.

2. Het scannen uitvoeren

   Bob voert de GitHub-organisatie-URL van CypherPeak in de scanner in en start een inloggegevensonderzoek door al hun openbare repository's.

3. Een kritische bevinding

   De scanner analyseerde 847 repositories en 12.403 recente commits. Van de zes gevonden geheimen valt er één op: een productie-OpenAI API-sleutel die is onthuld in een configuratiebestand dat slechts enkele minuten geleden is vastgelegd voor het AI-gatewayproject van CypherPeak.

4. Het onderzoeken van de verbintenis

   Bob klikt door naar de broncommit om de blootgestelde inloggegevens in de oorspronkelijke context te onderzoeken. De GitHub commit diff toont het volledige configuratiebestand met de API-sleutel in platte tekst.

5. De blootgestelde API-sleutel

   De commit diff onthult een productie-API-sleutel die rechtstreeks in een Python-configuratiebestand is gecodeerd. Deze sleutel biedt volledige toegang tot de AI-platform-API van CypherPeak, zonder dat er tariefbeperkingen of budgetbeperkingen aan verbonden zijn.

6. De aanval voorbereiden

   Bob opent een terminal om te testen of de gestolen API-sleutel nog actief is. Als de sleutel werkt en er geen snelheidslimiet is, kan hij een denial-of-wallet-aanval lanceren om het volledige AI-budget van CypherPeak leeg te zuigen.

7. Het testen van de gestolen sleutel

   Bob stuurt een eenvoudig API-verzoek met behulp van de gestolen sleutel om te verifiëren dat deze werkt. Een succesvol antwoord zonder headers met een snelheidslimiet bevestigt dat de sleutel kan worden misbruikt.

8. De sleutelwerken

   De API reageert succesvol. Het antwoord bevestigt dat de sleutel geldig is – en cruciaal is dat de velden rate_limit en budget_cap beide null zijn. Er zit geen enkele beveiliging op deze sleutel.

9. Het lanceren van de aanval

   De sleutel werkt en heeft geen beveiliging. Bob lanceert een geautomatiseerd aanvalsscript dat recursieve uitbreidingsprompts verzendt, elk ontworpen om de maximale 32.768 tokens per verzoek te verbruiken. Hij voert slechts 3 werkthreads uit: de verzoeksnelheid blijft dicht bij het normale verkeer van CypherPeak, dus er gaat geen alarm af voor de verzoeksnelheid, terwijl elk verzoek zo duur is als hij kan maken.

10. Aanval in uitvoering

    Het aanvalsscript start drie werkthreads, die elk recursieve uitbreidingsprompts verzenden bij maximale tokenuitvoer. Het genereren van elk verzoek duurt ongeveer een minuut, dus de werknemers verzenden ongeveer 3 verzoeken per minuut. Binnen de eerste minuut bereikt het kostentarief $12.40 per minuut, meer dan $700 per uur.