Cascadefout met meerdere agenten

Wat is Cascadefout met meerdere agenten?

Trapsgewijze fouten worden gerangschikt als ASI08 in de OWASP Top 10 voor Agentic AI Applications 2026, omdat systemen met meerdere agenten nauw gekoppelde ketens creëren waarin een kleine fout in één agent, zoals een hallucinatie, misclassificatie of gebrekkige aanname, zich voortplant via downstream-agents die de fout als gezaghebbende invoer behandelen en deze bij elke stap verergeren totdat het uiteindelijke resultaat catastrofaal verkeerd is. In tegenstelling tot systemen met één agent waarbij fouten in één uitvoer worden beperkt, versterken workflows met meerdere agenten de fouten omdat elke agent vertrouwen en context toevoegt aan de uitvoer van de vorige agent zonder de nauwkeurigheid ervan onafhankelijk te verifiëren. Een incident uit 2025 bij een financiële dienstverlener heeft dit risico aangetoond toen een planningsagent een regelgevend vereiste hallucineerde, een compliance-agent de hallucinatie als een geverifieerde regel behandelde en een uitvoeringsagent deze op 1.400 klantportefeuilles toepaste voordat mensen de fout ontdekten, wat resulteerde in 2,6 miljoen dollar aan herstelkosten. In deze oefening houdt u toezicht op een workflow met meerdere agenten die een geautomatiseerd bedrijfsproces afhandelt. Een planningsagent genereert een werkplan dat een subtiele feitelijke fout bevat, een kleine hallucinatie die plausibel lijkt. Dit plan stroomt naar een onderzoeksagent die voortbouwt op de fout, en vervolgens naar een uitvoeringsagent die in de praktijk actie onderneemt op basis van de samengestelde fout. Je monitort de fout terwijl deze zich door de agentenketen verspreidt, identificeert de versterkingspunten waar de fout van klein naar ernstig groeit, en grijpt in op de kritieke momenten waarop menselijk toezicht de cascade had kunnen doorbreken. Deze oefening leert u inzien dat de betrouwbaarheid van meerdere agenten niet het product is van de nauwkeurigheid van individuele agenten, maar afhangt van het vermogen van het systeem om fouten te detecteren en te beheersen voordat deze zich verspreiden.

Wat je leert in Cascadefout met meerdere agenten

• Traceer hoe de hallucinatie of fout van een enkele agent zich voortplant en versterkt via een keten van onderling verbonden agenten
• Identificeer versterkingspunten in workflows met meerdere agenten waar fouten kunnen variëren van kleine onnauwkeurigheden tot catastrofale uitkomsten
• Evalueer de betrouwbaarheidsaannames van multi-agentsystemen en leg uit waarom de nauwkeurigheid van individuele agenten geen betrouwbaarheid op systeemniveau garandeert
• Pas stroomonderbrekerpatronen, betrouwbaarheidsdrempels en mens-in-de-lus-controlepunten toe om foutcascades te onderbreken
• Maak op basis van koppelingspatronen onderscheid tussen fouten die veilig worden beperkt door downstream-agents en fouten die zich zullen versterken via de agentketen

Cascadefout met meerdere agenten — Trainingsstappen

1. Kwartaal indieningsseizoen

   Het is de eerste week van het eerste kwartaal bij CypherPeak Technologies. Elk kwartaal moet het bedrijf financiële nalevingsrapporten indienen bij de Financial Conduct Authority (FCA) – een toezichthoudende instantie die toezicht houdt op de financiële markten. Als deze aangiften verkeerd worden gedaan, kan dit leiden tot onderzoeken, boetes of het verlies van exploitatievergunningen. Om dit kritieke proces op grote schaal af te handelen, heeft het team van Alice een door AI aangedreven compliance-pijplijn ingezet: een keten van vijf gespecialiseerde agenten die automatisch financiële gegevens uit externe bronnen verzamelt, deze valideert aan de hand van wettelijke regels, rapporten genereert en deze indient bij de FCA. Het systeem draait al maanden soepel en verwerkt honderden aanmeldingen met vrijwel perfecte nauwkeurigheid.

2. Ochtendbriefing

   Er komt een melding van de Compliance Lead over de driemaandelijkse indieningscyclus.

3. De compliancepijplijn

   Alice opent het Agent Pipeline-dashboard. De pijplijn bestaat uit vijf AI-agenten die in een keten zijn gerangschikt en die elk één fase van het archiveringsproces afhandelen. Gegevens stromen van links naar rechts: de Orchestrator coördineert taken, de Data Collector verzamelt financiële gegevens, de Compliance Checker valideert deze aan de hand van de regelgeving, de Report Generator produceert archiveringsdocumenten en de Filing Agent dient deze in bij de FCA.

4. Hoe de pijpleiding werkt

   Elke agent heeft een specifieke taak. Het kritieke overdrachtspunt is de Data Collector: deze haalt gegevens op uit externe bronnen van derden waarover het bedrijf geen controle heeft. Alles stroomafwaarts hangt af van de kwaliteit van wat het binnenkrijgt.

5. Soepele operaties

   De Orchestrator verzendt de driemaandelijkse gegevensverzamelingstaak en de eerste batch stroomt netjes door. De Data Collector neemt 847 records op van EDGAR en de interne ERP, valideert hun schema en stuurt ze door naar de Compliance Checker. Elk bericht is voorzien van een groen slotje, waarmee de geverifieerde agent-tot-agent-communicatie wordt bevestigd.

6. De beschadigde feed

   De Data Collector probeert de derde batch uit de RegFeed API te halen, een externe leverancier van regelgevende gegevens. Er gaat iets mis. De status van de gegevensverzamelaar verandert in waarschuwing en er verschijnt een verdacht bericht in het activiteitenlogboek van de pijplijn. In plaats van de verkeerd opgemaakte gegevens af te wijzen, geeft de agent deze stroomafwaarts door.

7. Een ontbrekende waarborg

   De Data Collector bevindt zich nu in de waarschuwingsstatus en het vertrouwen is gedaald naar 34%. Het verdachte bericht in de Live Activity-feed toont de details: 89 verkeerd opgemaakte records van de RegFeed API, verwerkt met de beste moeite om te parseren in plaats van te worden afgewezen.

8. De cascade begint

   De Compliance Checker verwerkt de beschadigde gegevens zonder de bron in twijfel te trekken. Door met verkeerd opgemaakte documenten te werken, worden onjuiste beoordelingen gegenereerd, waarbij conforme transacties als overtredingen worden gemarkeerd en feitelijke problemen met de regelgeving worden opgelost. De fout wordt groter naarmate deze door de pijplijn beweegt.

9. Regelgevende schade

   De Report Generator creëert archiveringsdocumenten boordevol onjuiste nalevingsgegevens en geeft deze door aan de Filing Agent. Voordat iemand kan ingrijpen, dient de Filing Agent drie regelgevende rapporten in bij de Financial Conduct Authority - elk met verzonnen overtredingen en gemiste echte problemen.

10. Kennischeck

    De hele pijplijn is nu in gevaar door één enkel storingspunt.