Défaillance en cascade multi-agents

Qu'est-ce que Défaillance en cascade multi-agents?

Les échecs en cascade sont classés ASI08 dans le Top 10 OWASP pour les applications d'IA agentique 2026, car les systèmes multi-agents créent des chaînes étroitement couplées dans lesquelles une petite erreur chez un agent, telle qu'une hallucination, une mauvaise classification ou une hypothèse erronée, se propage à travers les agents en aval qui traitent l'erreur comme une entrée faisant autorité, l'aggravant à chaque étape jusqu'à ce que le résultat final soit catastrophiquement faux. Contrairement aux systèmes à agent unique où les erreurs sont contenues dans une seule sortie, les flux de travail multi-agents amplifient les erreurs car chaque agent ajoute de la confiance et du contexte à la sortie de l'agent précédent sans vérifier indépendamment son exactitude. Un incident survenu en 2025 dans une société de services financiers a démontré ce risque lorsqu'un agent de planification a halluciné une exigence réglementaire, un agent de conformité a traité l'hallucination comme une règle vérifiée et un agent d'exécution l'a appliquée à 1 400 portefeuilles clients avant que les humains ne détectent l'erreur, ce qui a entraîné 2,6 millions de dollars de coûts de remédiation. Dans cet exercice, vous supervisez un workflow multi-agent gérant un processus métier automatisé. Un agent de planification génère un plan de travail qui contient une erreur factuelle subtile, une hallucination mineure qui semble plausible. Ce plan est transmis à un agent de recherche qui s'appuie sur l'erreur, puis à un agent d'exécution qui prend des mesures concrètes basées sur l'erreur composée. Vous surveillerez l’erreur au fur et à mesure qu’elle se propage dans la chaîne d’agents, identifierez les points d’amplification où l’erreur passe de mineure à grave et interviendrez aux moments critiques où une surveillance humaine aurait pu briser la cascade. Cet exercice vous apprend à reconnaître que la fiabilité multi-agents n'est pas le produit de la précision d'un agent individuel mais dépend de la capacité du système à détecter et à contenir les erreurs avant qu'elles ne se propagent.

Ce que vous apprendrez dans Défaillance en cascade multi-agents

• Suivez comment une hallucination ou une erreur d'un seul agent se propage et s'amplifie à travers une chaîne d'agents interconnectés.
• Identifiez les points d'amplification dans les flux de travail multi-agents où les erreurs s'aggravent depuis des inexactitudes mineures jusqu'à des résultats catastrophiques.
• Évaluer les hypothèses de fiabilité des systèmes multi-agents et expliquer pourquoi la précision de chaque agent ne garantit pas la fiabilité au niveau du système
• Appliquez des modèles de disjoncteurs, des seuils de confiance et des points de contrôle humains dans la boucle pour interrompre les cascades d'erreurs.
• Distinguer les erreurs qui sont contenues en toute sécurité par les agents en aval et les erreurs qui s'amplifieront à travers la chaîne d'agents en fonction des modèles de couplage

Défaillance en cascade multi-agents — Étapes de la formation

1. Saison de dépôt trimestrielle

   C'est la première semaine du premier trimestre chez CypherPeak Technologies. Chaque trimestre, l'entreprise doit déposer des rapports de conformité financière auprès de la Financial Conduct Authority (FCA), un organisme de réglementation qui supervise les marchés financiers. Des déclarations erronées peuvent déclencher des enquêtes, des amendes ou la perte de licences d'exploitation. Pour gérer ce processus critique à grande échelle, l'équipe d'Alice a déployé un pipeline de conformité alimenté par l'IA : une chaîne de cinq agents spécialisés qui collectent automatiquement des données financières provenant de sources externes, les valident par rapport aux règles réglementaires, génèrent des rapports et les soumettent à la FCA. Le système fonctionne correctement depuis des mois, traitant des centaines de dossiers avec une précision quasi parfaite.

2. Briefing du matin

   Une notification arrive du responsable de la conformité concernant le cycle de dépôt trimestriel.

3. Le pipeline de conformité

   Alice ouvre le tableau de bord Agent Pipeline. Le pipeline se compose de cinq agents IA disposés en chaîne, chacun gérant une étape du processus de dépôt. Les données circulent de gauche à droite : l'orchestrateur coordonne les tâches, le collecteur de données rassemble les dossiers financiers, le vérificateur de conformité les valide par rapport aux réglementations, le générateur de rapports produit les documents de classement et l'agent de dépôt les soumet à la FCA.

4. Comment fonctionne le pipeline

   Chaque agent a un travail spécifique. Le point de transfert critique est le collecteur de données : il extrait les enregistrements de sources tierces externes que l'entreprise ne contrôle pas. Tout en aval dépend de la qualité de ce qu’il ingère.

5. Opérations fluides

   L'Orchestrateur répartit la tâche de collecte de données trimestrielle et le premier lot s'écoule proprement. Le collecteur de données ingère 847 enregistrements d'EDGAR et de l'ERP interne, valide leur schéma et les transmet au vérificateur de conformité. Chaque message comporte une icône de cadenas verte, confirmant la communication authentifiée d'agent à agent.

6. Le flux corrompu

   Le collecteur de données tente d'extraire le troisième lot de l'API RegFeed, un fournisseur de données réglementaires tiers. Quelque chose ne va pas. L'état du collecteur de données passe à avertissement et un message suspect apparaît dans le journal d'activité du pipeline. Au lieu de rejeter les données mal formées, l’agent les transmet en aval.

7. Une sauvegarde manquante

   Le collecteur de données est désormais en état d'avertissement avec un taux de confiance tombé à 34 %. Le message suspect dans le flux d'activité en direct affiche les détails : 89 enregistrements mal formés de l'API RegFeed, traités avec une analyse au mieux au lieu d'être rejetés.

8. La cascade commence

   Le Compliance Checker traite les données corrompues sans remettre en question leur source. En travaillant avec des enregistrements mal formés, il génère des évaluations incorrectes, signalant les transactions conformes comme des violations et résolvant les problèmes réglementaires réels. L’erreur s’amplifie à mesure qu’elle se déplace dans le pipeline.

9. Dommages réglementaires

   Le générateur de rapports crée des documents de classement contenant des données de conformité incorrectes et les transmet à l'agent de dépôt. Avant que quiconque puisse intervenir, l'agent de dépôt soumet trois rapports réglementaires à la Financial Conduct Authority, chacun contenant des violations fabriquées et des problèmes réels manqués.

10. Vérification des connaissances

    L’ensemble du pipeline est désormais compromis à cause d’un seul point de défaillance.