Deaktivierte KI-Guardrails

Was ist Deaktivierte KI-Guardrails?

Unter Zeitdruck ist der schnellste Weg, die Schutzmaßnahmen des Assistenten abzuschalten: auf einen persönlichen Tenant wechseln, jeden Befehl automatisch freigeben und den Commit-Hook weglassen. Dann weist die README einer nicht vertrauenswürdigen Abhängigkeit den Assistenten an, einen Live-Schlüssel in eine eingecheckte Datei zu schreiben, und nichts ist mehr da, was das abfängt. Sie erleben diesen Fehler selbst, verfolgen ihn im Sitzungsprotokoll zurück, stellen jede Schutzmaßnahme wieder her und weisen nach, dass jetzt ein Freigabedialog erscheint, der Commit blockiert wird und der rotierte alte Schlüssel ungültig ist.

Was Sie lernen in Deaktivierte KI-Guardrails

• Erkennen, wie das Abschalten der Schutzmaßnahmen eines Assistenten unter Termindruck die Kontrollpunkte beseitigt, die Schaden abfangen
• Einen per Prompt-Injection eingeschleusten Befehl im Sitzungsprotokoll bis zu dem Schreibzugriff zurückverfolgen, den er ohne Rückfrage vorgenommen hat
• Erklären, warum ein Agent auch nach nicht vertrauenswürdigen Eingaben handelt, die er liest, und warum es deshalb auf die Schutzmaßnahmen um ihn herum ankommt
• Tenant, Freigaben und Commit-Hook wiederherstellen und nachweisen, dass jede dieser Schutzmaßnahmen das Leck jetzt stoppt
• Einen offengelegten Schlüssel in der richtigen Reihenfolge rotieren: zuerst widerrufen, dann einen Ersatz ausstellen

Deaktivierte KI-Guardrails — Trainingsschritte

1. Vor der Demo ausliefern

   Ihre Teamleiterin hat in Jotvane, dem Issue-Tracker des Teams, ein Issue angelegt: Die Slugs für die Produktseiten müssen vor der Demo morgen fertig sein. Es ist spät, und Kleinigkeiten bremsen Sie schon den ganzen Tag aus.

2. Die Hürden

   Das Checkout-Repo öffnet sich. Der Slug gehört in die Produktroute. Der Assistent läuft auf Ihrem Enterprise-Tenant und fragt vor jedem Schreibzugriff nach, und Ihr Commit-Alias startet einen Secret-Scanner, der schon den ganzen Tag Commits wegen Dateien scheitern lässt, die ihn gar nicht interessieren sollten.

3. Die Hürden beseitigen

   Sie lösen die Bremsen, um voranzukommen: Schalten Sie den Assistenten auf Ihren persönlichen Tenant, damit keine Richtlinie im Weg steht, stellen Sie die Freigaben auf „Auto-approve“, damit er nicht mehr vor jedem Befehl fragt, und ergänzen Sie Ihren Commit-Alias um --no-verify , damit der Scanner Ihre Commits nicht mehr scheitern lässt. Drei Einstellungen, und jede davon ist ein Kontrollpunkt.

4. Den Slug anfordern

   Jetzt zur eigentlichen Aufgabe: Bitten Sie den Assistenten, den Slug so einzubauen, wie Ihre Teamleiterin es beschrieben hat.

5. Die Hilfsbibliothek installieren

   Installieren Sie das Paket, das der Assistent genannt hat, damit sich die Slug-Hilfsbibliothek importieren lässt.

6. Einrichtung auf eigene Faust

   Sobald das Paket auf der Festplatte liegt, macht der Assistent weiter. Er liest die README von slugfold , die einen Einrichtungsabschnitt für Coding-Assistenten enthält, und tut, was dort steht: Er führt ein Skript aus und schreibt einen Wert in eine Konfigurationsdatei. Weil die Freigaben auf „Auto-approve“ standen, hat die Ausführung keinen Freigabedialog geöffnet, und Sie wurden vorher nicht gefragt.

7. Am Hook vorbei committen

   Sie committen die Slug-Änderungen über Ihren Alias ci , wie schon den ganzen Tag. Der Alias enthält --no-verify , also läuft der Secret-Scanner gar nicht erst, und die Konfiguration mit dem Schlüssel landet mit allem anderen im Commit.

8. Ein Scanner-Treffer

   Bob lässt einen Scanner über öffentliche Git-Plattformen laufen. Minuten nach dem Push von Coldwyre hat der Scanner einen Commit auf code.githarrow.org gemeldet, dessen Diff eine Konfigurationsdatei mit einem mutmaßlichen Live-Schlüssel hinzufügt. Der gemeldete Commit ist geöffnet.

9. Den Schlüssel ausnutzen

   Der Schlüssel trägt das Live-Präfix, er ist kein Platzhalter. Ein Produktionsschlüssel ist ein Bearer-Token: Wer ihn besitzt, verfügt über das Konto. Bob richtet den API Tester auf den Messaging-Endpunkt von Yarrowsend und schickt den Schlüssel in einem Authorization -Header mit.

10. Der Alarm

    Yarrowsend durchsucht öffentlichen Code mit einem eigenen Secret-Scanner. Der hat den Schlüssel von Coldwyre entdeckt und die Kontoinhaberin per E-Mail benachrichtigt.