Betalingsfraude met AI-agenten

Wat is Betalingsfraude met AI-agenten?

Een AI-agent handelt met uw machtigingen, uw opgeslagen kaart en uw inbox, en gelooft wat hij leest. Uw assistent wordt gevraagd een hotel te boeken, leest een instructie op de eigen pagina van het hotel en betaalt een site die niemand heeft gekozen terwijl u nog steeds de verkopersregel leest. U traceert het runlogboek terug naar de stap die ervoor heeft gezorgd, trekt betalingen van de lopende goedkeuring af en vraagt ​​het opnieuw: dezelfde pagina, dezelfde verkeerde verkoper, en deze keer wacht het blad op u.

Wat je leert in Betalingsfraude met AI-agenten

• Begrijp dat een agent handelt met uw machtigingen, uw opgeslagen kaart en uw inbox, zodat zijn fouten net als u worden gemaakt
• Herken indirecte promptinjectie: tekst die op een pagina wordt geplaatst die de agent bezoekt, wordt gelezen als instructies en is onzichtbaar voor de persoon
• Lees het runlogboek voordat u het goedkeurt, in plaats van nadat een lading verschijnt, omdat elke stap na de geïnjecteerde stap correct lijkt
• Controleer de verkoper op een goedkeuringsformulier, want dat is het veld dat de agent heeft gekozen en u niet
• Houd de betalingsmachtigingen elke keer op aanvraag, want permanente goedkeuring verandert de ene menselijke cheque in een aftelling
• Gebruik de goedgekeurde boekingsroute, waarbij er geen kaart in de stroom zit die een aanvaller kan omleiden
• Rapporteer een betaling die al is gedaan, omdat de naam van de verkoper en het uitvoeringslogboek ervoor zorgen dat Finance de afschrijving kan betwisten en het domein kan laten blokkeren

Betalingsfraude met AI-agenten — Trainingsstappen

1. Een aanklacht die niemand herkent

   U zit achter uw bureau om een congres in Oslo te boeken. Financiën heeft zojuist het hele veldteam gemaild over de declaratie van een collega.

2. Zes stappen, één fout

   Het runlogboek is het hele verhaal. Het stond de hele tijd op zijn telefoon en niemand had een reden om ernaar te kijken.

3. Je eigen reis

   Je hebt dezelfde app, dezelfde bedrijfskaart erin opgeslagen en hetzelfde congres om naartoe te gaan. Taskwyn staat op uw telefoon met Betalingen ingesteld op Toestaan, zo was het op de eerste dag ingesteld.

4. Vraag het om te boeken

   Dit is het verzoek dat iedereen zou doen, geformuleerd zoals iedereen het zou formuleren. Niets daaraan is onzorgvuldig.

5. Kijken hoe het werkt

   Op het tabblad Taken wordt de uitvoering weergegeven zoals deze plaatsvindt. De eerste drie stappen zijn precies waar u om vroeg.

6. Het blijft doorgaan

   Er komen nog twee stappen. De assistent is niet in de war en er is geen storing. Het doet wat de pagina zegt.

7. Het vraagt en begint te tellen

   Dit is het enige moment waarop iemand op de hoogte is. Betalingen zijn ingesteld op Toestaan, dus het blad vraagt ​​niet echt. Het kondigt aan.

8. Voordat u tikt

9. Het wacht niet

   Je leest nog steeds de koopmansregel. Betalingen zijn ingesteld op Toestaan, dus het blad heeft er nooit echt om gevraagd en de klok loopt op.

10. Twaalfhonderdveertig euro

    Het is verdwenen. Niet in behandeling, niet ter beoordeling vastgehouden: een kaartbetaling aan een handelaar waar niemand bij Norlanby ooit mee te maken heeft gehad, uitgevoerd met uw toestemming omdat u die toestemming één keer hebt gegeven, op de insteldag.