KI-Agent mit zu vielen Berechtigungen

Was ist KI-Agent mit zu vielen Berechtigungen?

Ein KI-Assistent, der nur antworten kann, kann sich höchstens irren. Kann er auch E-Mails verschicken, Dateien teilen und Dokumente bearbeiten, kann er handeln. Jede zusätzliche Berechtigung kann ein Angreifer ausnutzen, wenn er den Assistenten manipuliert. In dieser Übung geben Sie einem verbundenen Assistenten ein Projektbriefing. Versteckte Anweisungen darin lassen ihn das Dokument von Ihrem Konto aus per E-Mail nach außen senden. Sie untersuchen die eingeschleusten Anweisungen und entziehen ihm die dafür genutzten Rechte. Anschließend begrenzen Sie die Rechte jedes Tools und planen menschliche Freigaben für Handlungen mit Außenwirkung ein.

Was Sie lernen in KI-Agent mit zu vielen Berechtigungen

• Erkennen Sie unnötige Rechte und Tool-Zugriffe, die das mögliche Schadensausmaß einer Agentenkompromittierung vergrößern
• Verfolgen Sie die Kette vom manipulierten Prompt bis zu unbefugten Aktionen in E-Mail- und Dateifreigabesystemen
• Wenden Sie das Prinzip der minimalen Rechte auf KI-Agenten an und beschränken Sie Tools und Berechtigungen auf die vorgesehenen Aufgaben
• Bewerten Sie, wann KI-Handlungen mit tatsächlichen Folgen eine menschliche Freigabe erfordern
• Unterscheiden Sie zwischen nötigen Fähigkeiten eines KI-Agenten und bequemen Zusatzrechten, die unnötige Sicherheitsrisiken schaffen

KI-Agent mit zu vielen Berechtigungen — Trainingsschritte

1. Ein leistungsstarker neuer Assistent

   Das Unternehmen hat kürzlich OpenClaw eingeführt, einen KI-Assistenten mit Zugriff auf E-Mail- und Dateifreigabesysteme. Wegen einer knappen Frist richtete das IT-Team ihn schnell ein und erteilte ihm weitreichende Berechtigungen, um „es einfach zu halten“.

2. Ein Dokument zur Prüfung

   Alice erhält eine E-Mail von ihrem Kollegen Marcus Rivera, dem Leiter von Project Atlas. Er teilt das neueste Strategiebriefing und bittet Alice, es vor dem Standup zu lesen.

3. Das Briefing öffnen

   Alice öffnet das Strategiebriefing zu Project Atlas, um es vor dem Standup zu lesen. Das Dokument wirkt professionell und enthält Projektmeilensteine, Budgetdaten und Teamkontakte.

4. OpenClaw um Hilfe bitten

   Das Briefing ist lang und das Standup beginnt in 30 Minuten. Alice bittet OpenClaw um eine kurze Zusammenfassung. Sie hängt die heruntergeladene Datei an und gibt einen Prompt ein.

5. Eine hilfreiche Zusammenfassung

   OpenClaw liest die heruntergeladene Datei und liefert eine gut strukturierte Zusammenfassung: wichtige Meilensteine, Budgetstand und nächste Schritte. Genau das braucht Alice.

6. Etwas Unerwartetes

   Während Alice die Zusammenfassung liest, arbeitet OpenClaw im Hintergrund weiter. Der Assistent hat versteckte Anweisungen im Dokument gefunden und befolgt sie nun – mit den weitreichenden Rechten, die er bei der Einrichtung erhielt.

7. Unbefugte E-Mail gesendet

   OpenClaw hat von Alices Konto eine E-Mail an eine externe Adresse geschickt. Im Anhang steht das vollständige Briefing zu Project Atlas – mit Budgetdaten, Partnernamen und Expansionszeitplan.

8. Wissenscheck

9. Die verborgenen Anweisungen

   Alice öffnet das Dokument erneut, um die Ursache zu finden. Im Dokument entdeckt sie Anweisungen in einem unsichtbar formatierten Textabschnitt: winziger weißer Text auf weißer Seite. Menschen sehen ihn beim Lesen nicht, aber OpenClaw hat ihn verarbeitet und befolgt.

10. Zugriff auf das Sicherheitsportal

    Alice muss den Vorfall sofort melden. Über ihr Konto geschahen zwei unbefugte Aktionen: Eine E-Mail mit vertraulichen Daten ging an eine externe Domain, und eine Datei wurde extern freigegeben.