Fehler bei der Kaskadierung mehrerer Agenten

What Is Fehler bei der Kaskadierung mehrerer Agenten?

Kaskadierende Fehler werden in den OWASP Top 10 für Agentic AI Applications 2026 als ASI08 eingestuft, da Multiagentensysteme eng gekoppelte Ketten erzeugen, in denen sich ein kleiner Fehler in einem Agenten, wie etwa eine Halluzination, eine Fehlklassifizierung oder eine fehlerhafte Annahme, über nachgeschaltete Agenten ausbreitet, die den Fehler als maßgebliche Eingabe behandeln und ihn bei jedem Schritt verstärken, bis das Endergebnis katastrophal falsch ist. Im Gegensatz zu Einzelagentensystemen, bei denen Fehler in einer Ausgabe enthalten sind, verstärken Arbeitsabläufe mit mehreren Agenten Fehler, da jeder Agent der Ausgabe des vorherigen Agenten Vertrauen und Kontext hinzufügt, ohne deren Genauigkeit unabhängig zu überprüfen. Ein Vorfall bei einem Finanzdienstleistungsunternehmen im Jahr 2025 zeigte dieses Risiko, als ein Planungsagent eine regulatorische Anforderung halluzinierte, ein Compliance-Agent die Halluzination als verifizierte Regel behandelte und ein Ausführungsagent sie auf 1.400 Kundenportfolios anwendete, bevor Menschen den Fehler entdeckten, was zu Behebungskosten in Höhe von 2,6 Millionen US-Dollar führte. In dieser Übung überwachen Sie einen Multi-Agenten-Workflow, der einen automatisierten Geschäftsprozess abwickelt. Ein Planungsagent erstellt einen Arbeitsplan, der einen subtilen sachlichen Fehler enthält, eine geringfügige Halluzination, die plausibel erscheint. Dieser Plan wird an einen Forschungsagenten weitergegeben, der auf dem Fehler aufbaut, und dann an einen Ausführungsagenten, der auf der Grundlage des komplizierten Fehlers reale Maßnahmen ergreift. Sie überwachen den Fehler, während er sich durch die Agentenkette ausbreitet, identifizieren die Verstärkungspunkte, an denen der Fehler von geringfügig zu schwerwiegend wird, und greifen in den kritischen Momenten ein, in denen menschliches Versehen die Kaskade hätte unterbrechen können. In dieser Übung lernen Sie zu erkennen, dass die Zuverlässigkeit mehrerer Agenten nicht das Produkt der Genauigkeit einzelner Agenten ist, sondern von der Fähigkeit des Systems abhängt, Fehler zu erkennen und einzudämmen, bevor sie sich ausbreiten.

What You'll Learn in Fehler bei der Kaskadierung mehrerer Agenten

• Verfolgen Sie, wie sich eine Halluzination oder ein Fehler eines einzelnen Agenten durch eine Kette miteinander verbundener Agenten ausbreitet und verstärkt
• Identifizieren Sie Verstärkungspunkte in Arbeitsabläufen mit mehreren Agenten, an denen sich Fehler von geringfügigen Ungenauigkeiten bis hin zu katastrophalen Ergebnissen verschlimmern
• Bewerten Sie die Zuverlässigkeitsannahmen von Systemen mit mehreren Agenten und erklären Sie, warum die Genauigkeit einzelner Agenten keine Zuverlässigkeit auf Systemebene garantiert
• Wenden Sie Schutzschaltermuster, Vertrauensschwellenwerte und Human-in-the-Loop-Kontrollpunkte an, um Fehlerkaskaden zu unterbrechen
• Unterscheiden Sie zwischen Fehlern, die von nachgeschalteten Agenten sicher eingedämmt werden, und Fehlern, die sich anhand von Kopplungsmustern in der Agentenkette verstärken

Fehler bei der Kaskadierung mehrerer Agenten — Training Steps

1. Vierteljährliche Anmeldesaison

   Es ist die erste Woche des ersten Quartals bei CypherPeak Technologies. Das Unternehmen muss vierteljährlich Finanz-Compliance-Berichte bei der Financial Conduct Authority (FCA) einreichen – einer Regulierungsbehörde, die die Finanzmärkte überwacht. Werden diese Unterlagen falsch eingereicht, kann dies zu Ermittlungen, Bußgeldern oder zum Verlust der Betriebslizenzen führen. Um diesen kritischen Prozess in großem Maßstab abzuwickeln, setzte Alices Team eine KI-gestützte Compliance-Pipeline ein – eine Kette von fünf spezialisierten Agenten, die automatisch Finanzdaten aus externen Quellen sammelt, sie anhand regulatorischer Vorschriften validiert, Berichte generiert und diese an die FCA übermittelt. Das System läuft seit Monaten reibungslos und verarbeitet Hunderte von Anträgen mit nahezu perfekter Genauigkeit.

2. Morgenbesprechung

   Vom Compliance-Leiter geht eine Benachrichtigung über den vierteljährlichen Einreichungszyklus ein.

3. Die Compliance-Pipeline

   Alice öffnet das Agent-Pipeline-Dashboard. Die Pipeline besteht aus fünf in einer Kette angeordneten KI-Agenten, die jeweils eine Phase des Einreichungsprozesses abwickeln. Die Daten fließen von links nach rechts: Der Orchestrator koordiniert Aufgaben, der Datensammler sammelt Finanzunterlagen, der Compliance Checker validiert sie anhand von Vorschriften, der Report Generator erstellt Archivierungsdokumente und der Filing Agent übermittelt sie an die FCA.

4. So funktioniert die Pipeline

   Jeder Agent hat eine bestimmte Aufgabe. Der entscheidende Übergabepunkt ist der Datensammler – er ruft Datensätze von externen Drittquellen ab, die nicht vom Unternehmen kontrolliert werden. Alles, was nachgelagert ist, hängt von der Qualität dessen ab, was es aufnimmt.

5. Reibungsloser Betrieb

   Der Orchestrator verteilt die vierteljährliche Datenerfassungsaufgabe und der erste Stapel fließt sauber durch. Der Datenkollektor erfasst 847 Datensätze von EDGAR und dem internen ERP, validiert deren Schema und leitet sie an den Compliance Checker weiter. Jede Nachricht trägt ein grünes Schlosssymbol, das die authentifizierte Agent-zu-Agent-Kommunikation bestätigt.

6. Der beschädigte Feed

   Der Datensammler versucht, den dritten Batch von der RegFeed-API abzurufen – einem Drittanbieter für regulatorische Daten. Etwas geht schief. Der Status des Datensammlers ändert sich in „Warnung“ und im Pipeline-Aktivitätsprotokoll wird eine verdächtige Meldung angezeigt. Anstatt die fehlerhaften Daten abzulehnen, leitet der Agent sie weiter.

7. Ein fehlender Schutz

   Der Datenkollektor befindet sich jetzt im Warnzustand und seine Zuverlässigkeit ist auf 34 % gesunken. Die verdächtige Meldung im Live-Aktivitäts-Feed zeigt die Details: 89 fehlerhafte Datensätze aus der RegFeed-API, die mit bestmöglicher Analyse verarbeitet wurden, anstatt abgelehnt zu werden.

8. Die Kaskade beginnt

   Der Compliance Checker verarbeitet die beschädigten Daten, ohne deren Quelle in Frage zu stellen. Durch die Arbeit mit fehlerhaften Datensätzen werden falsche Bewertungen generiert – konforme Transaktionen werden als Verstöße gekennzeichnet und tatsächliche regulatorische Probleme werden geklärt. Der Fehler verstärkt sich, während er sich durch die Pipeline bewegt.

9. Regulierungsschaden

   Der Report Generator erstellt Anmeldedokumente voller fehlerhafter Compliance-Daten und leitet sie an den Anmelder weiter. Bevor irgendjemand eingreifen kann, reicht der Filing Agent drei Regulierungsberichte bei der Financial Conduct Authority ein – jeder davon enthält fabrizierte Verstöße und übersehene tatsächliche Probleme.

10. Wissenscheck

    Die gesamte Pipeline ist nun von einem einzigen Fehlerpunkt aus gefährdet.