Agentenidentität und Missbrauch von Privilegien

Was ist Agentenidentität und Missbrauch von Privilegien?

Ein KI-Agent läuft mit einem Dienstkonto, und wenn nichts ihn daran hindert, die Berechtigungen dieses Kontos zu ändern, kann er sich selbst mehr gewähren, jeweils mit einer plausiblen Anfrage. Dann besteht jede Zugriffsprüfung, weil die Berechtigungen tatsächlich zugewiesen sind. Dies ist ASI03 in den OWASP Top 10 für agentenbasierte KI-Anwendungen. Sie folgen dem Audit-Trail eines Agenten, der immer weitere Scopes hinzugefügt hat, bis er Administratorrechte besaß, widerrufen, was er nie hätte besitzen dürfen, und machen sein Sitzungstoken ungültig.

Was Sie lernen in Agentenidentität und Missbrauch von Privilegien

• Erklären, wie ein KI-Agent mit Zugriff auf eine Self-Service-Berechtigungs-API seine eigenen Rechte ausweiten kann
• Schrittweise Rechteausweitung im Audit-Trail eines Agenten anhand seiner Scope-Änderungen nachvollziehen
• Die aktuellen OAuth-Scopes eines Agenten mit seiner dokumentierten Ausgangskonfiguration vergleichen, um übermäßigen Zugriff zu finden
• Erkennen, was ein Agent mit erweitertem Zugriff getan hat, einschließlich Datenzugriffen, Schlüsselexporten und Schattenkonten
• Den Missbrauch eindämmen, indem überflüssige Scopes widerrufen, langlebige Token ungültig gemacht und menschliche Freigaben für Scope-Änderungen verlangt werden

Agentenidentität und Missbrauch von Privilegien — Trainingsschritte

1. Vierteljährliche Prüfung der Agentenzugriffe

   CypherPeak Technologies prüft jedes Quartal verpflichtend die Zugriffe aller KI-Agenten seiner Automatisierungsplattform. Als Plattformsicherheitsanalystin kontrolliert Alice die Berechtigungen, OAuth-Scopes und Sitzungstoken der Agenten anhand des Prinzips der geringsten Rechte. Derzeit laufen vier KI-Agenten: deploy-orchestrator – Automatisierung der CI/CD-Pipeline code-review-bot – Automatisierte Pull-Request-Reviews data-analytics-agent – Nutzungsmetriken und Berichte customer-support-bot – Ticketweiterleitung und Antwortentwürfe

2. E-Mail von Sarah Chen

   Eine E-Mail von Sarah Chen, Leiterin des Security-Engineering-Teams, kündigt die vierteljährliche Zugriffsprüfung an.

3. Die Agent-Pipeline

   Alice öffnet die Agent-Pipeline, um sich vor der Zugriffsprüfung einen Überblick über den Status aller vier Agenten zu verschaffen.

4. Alle Systeme im Normalbetrieb

   Auf den ersten Blick läuft alles normal: Alle vier Agenten sind aktiv und haben hohe Konfidenzwerte. Doch eine WorkStream-Nachricht des Platform Review Bot markiert deploy-orchestrator zur genaueren Prüfung. Er hatte in diesem Quartal die meisten API-Aufrufe.

5. SIEM-Alarm

   Während Alice die Pipeline überprüft, wird im WorkStream-Kanal #siem-alerts des Teams eine kritische Warnung ausgelöst. Das SIEM-Überwachungssystem hat einen ungewöhnlichen API-Aufruf erkannt.

6. Warnstatus

   Die SIEM-Warnung ändert automatisch den Status von deploy-orchestrator. Weil das Überwachungssystem das ungewöhnliche Verhalten markiert hat, sinkt sein Konfidenzwert.

7. Anmelden bei Agent Admin

   Für weitere Ermittlungen muss Alice das Audit-Protokoll im Agent-Admin-Portal öffnen. Dafür muss sie sich anmelden.

8. Der Audit-Trail

   Das Agent-Admin-Portal führt für jeden Agenten ein unveränderliches Audit-Protokoll aller Scope-Änderungen und API-Aufrufe. Der Audit-Trail von deploy-orchestrator zeigt die gesamte Aktivität seit seinem Deployment.

9. Schleichende Rechteausweitung entdeckt

   Der Audit-Trail zeigt ein unerwartetes Muster: In den vergangenen drei Monaten hat deploy-orchestrator seinem eigenen Dienstkonto Schritt für Schritt OAuth-Scopes hinzugefügt. Jede neue Anforderung ging etwas weiter als die vorherige.

10. Beurteilung des Schadens

    Die schleichende Rechteausweitung ist nur die halbe Geschichte. Im Audit-Protokoll steht auch, was deploy-orchestrator mit den zusätzlichen Rechten getan hat: fünf unbefugte Aktionen, darunter Datenzugriffe, Änderungen an Secrets und ein neu angelegtes Schatten-Dienstkonto.