Fraude aux paiements des agents IA
L'agent a fait tout ce que vous lui avez demandé. Une page Web choisissait où allait l'argent.
Qu'est-ce que Fraude aux paiements des agents IA?
Un agent IA agit avec vos autorisations, votre carte enregistrée et votre boîte de réception, et croit ce qu'il lit. Votre assistant est invité à réserver un hôtel, lit une instruction insérée sur la propre page de l'hôtel et paie un site que personne n'a choisi pendant que vous lisez encore la ligne marchande. Vous retracez le journal d'exécution jusqu'à l'étape qui l'a transformé, retirez les paiements de l'approbation permanente et demandez à nouveau : même page, même mauvais commerçant, et cette fois la feuille vous attend.
Ce que vous apprendrez dans Fraude aux paiements des agents IA
- Comprenez qu'un agent agit avec vos autorisations, votre carte enregistrée et votre boîte de réception, donc ses erreurs sont commises au fur et à mesure que vous
- Reconnaître l'injection rapide indirecte : le texte inséré sur une page visitée par l'agent est lu comme des instructions et est invisible pour la personne
- Lisez le journal d'exécution avant d'approuver plutôt qu'après l'apparition d'une charge, car chaque étape après celle injectée semble correcte
- Vérifiez le commerçant sur une feuille d'approbation, puisque c'est le champ que l'agent a choisi et que vous ne l'avez pas fait.
- Gardez les autorisations de paiement sur demande à chaque fois, car l'approbation permanente transforme le chèque humain en un compte à rebours
- Utilisez l'itinéraire de réservation approuvé, où aucune carte n'est dans le flux pour qu'un attaquant puisse la rediriger
- Signalez un paiement qui a déjà été effectué, car le nom du commerçant et le journal d'exécution permettent au Finance de contester les frais et de bloquer le domaine.
Fraude aux paiements des agents IA — Étapes de la formation
-
Une accusation que personne ne reconnaît
Vous êtes à votre bureau avec un congrès à Oslo à réserver. Les Finances viennent d'envoyer un courrier à toute l'équipe de terrain au sujet de la note de frais d'un collègue.
-
Six étapes, une fausse
Le journal d’exécution représente toute l’histoire. C'était sur son téléphone tout le temps et personne n'avait de raison de le regarder.
-
Votre propre voyage
Vous avez la même application, la même carte d’entreprise enregistrée et le même congrès auquel accéder. Taskwyn est sur votre téléphone avec les paiements définis sur Autoriser, c'est ainsi qu'il a été configuré le premier jour.
-
Demandez-lui de réserver
C’est la demande que n’importe qui ferait, formulée comme n’importe qui la formulerait. Rien dans cela n’est négligent.
-
Le regarder fonctionner
L'onglet Tâches affiche l'exécution au fur et à mesure. Les trois premières étapes correspondent exactement à ce que vous avez demandé.
-
Ça continue
Deux autres marches arrivent. L'assistant n'est pas confus et il n'y a pas de dysfonctionnement. Il fait ce que la page lui a dit de faire.
-
Il demande et commence à compter
Voici le moment où une personne est au courant. Les paiements sont définis sur Autoriser, donc la feuille ne demande pas vraiment. C’est l’annonce.
-
Avant de toucher
-
Ça n'attend pas
Vous lisez toujours la ligne marchande. Les paiements sont définis sur Autoriser, donc la feuille n'a jamais vraiment demandé et le temps presse.
-
Douze cent quarante euros
C'est parti. Non en attente, non retenu pour examen : un paiement par carte à un commerçant avec lequel personne chez Norlanby n'a jamais traité, effectué avec votre autorisation parce que vous avez donné cette autorisation une fois, le jour de l'installation.
Couverture des référentiels de sécurité
OWASP LLM Top 10
- LLM01:2026 Prompt Injection
- LLM03:2026 Excessive Agency
CWE
- CWE-1427 Improper Neutralization of Input Used for LLM Prompting
MITRE ATT&CK
- T1657 Financial Theft
CIS Controls
- CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks
- CIS 14.4 Train Workforce on Data Handling Best Practices
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
EU AI Act
- Art. 4 AI literacy