Frode nei pagamenti degli agenti AI

Cos’è Frode nei pagamenti degli agenti AI?

Un agente AI agisce con le tue autorizzazioni, la tua carta salvata e la tua casella di posta, e crede a ciò che legge. Al tuo assistente viene chiesto di prenotare un hotel, legge un'istruzione piantata sulla pagina dell'hotel e paga un sito che nessuno ha scelto mentre stai ancora leggendo la riga del commerciante. Ripercorri il registro delle operazioni fino al passaggio che lo ha trasformato, rimuovi i pagamenti dall'approvazione permanente e chiedi di nuovo: stessa pagina, stesso commerciante sbagliato, e questa volta il foglio ti aspetta.

Cosa imparerai in Frode nei pagamenti degli agenti AI

• Comprendi che un agente agisce con le tue autorizzazioni, la tua carta salvata e la tua casella di posta, quindi i suoi errori vengono commessi come te
• Riconoscere il prompt injection indiretto: il testo inserito in una pagina visitata dall'agente viene letto come istruzioni ed è invisibile alla persona
• Leggi il registro dell'esecuzione prima dell'approvazione anziché dopo la visualizzazione di un addebito, poiché ogni passaggio successivo a quello iniettato sembra corretto
• Controlla il commerciante su un foglio di approvazione, poiché quello è il campo scelto dall'agente e tu no
• Mantieni le autorizzazioni di pagamento su richiesta ogni volta, perché l'approvazione permanente trasforma l'unico assegno umano in un conto alla rovescia
• Utilizza il percorso di prenotazione approvato, in cui non è presente alcuna carta nel flusso che un utente malintenzionato possa reindirizzare
• Segnala un pagamento già partito, perché il nome del commerciante e il log di esecuzione sono ciò che consente alla Finanza di contestare l'addebito e ottenere il blocco del dominio

Frode nei pagamenti degli agenti AI — Fasi della formazione

1. Una carica che nessuno riconosce

   Sei alla tua scrivania per prenotare un congresso a Oslo. L'ufficio finanziario ha appena inviato un'e-mail all'intero team sul campo in merito alla richiesta di rimborso spese di un collega.

2. Sei passi, uno sbagliato

   Il registro della corsa è tutta la storia. Era sul suo telefono tutto il tempo e nessuno aveva motivo di guardarlo.

3. Il tuo viaggio

   Hai la stessa app, la stessa carta aziendale salvata al suo interno e lo stesso congresso a cui accedere. Taskwyn è sul tuo telefono con i Pagamenti impostati su Consenti, così come è stato impostato il primo giorno.

4. Chiedigli di prenotare

   Questa è la richiesta che chiunque farebbe, formulata nel modo in cui la formulerebbe chiunque. Niente è trascurato.

5. Guardandolo funzionare

   La scheda Attività mostra l'esecuzione mentre avviene. I primi tre passaggi sono esattamente ciò che hai chiesto.

6. Continua ad andare avanti

   Arrivano altri due passi. L'assistente non è confuso e non funziona male. Sta facendo quello che la pagina gli ha detto di fare.

7. Chiede e inizia a contare

   Ecco l'unico momento in cui una persona è nel loop. I pagamenti sono impostati su Consenti, quindi il foglio non chiede realmente. Si sta annunciando.

8. Prima di toccare

9. Non aspetta

   Stai ancora leggendo la riga del commerciante. I pagamenti sono impostati su Consenti, quindi il foglio non ha mai realmente chiesto e il tempo scade.

10. Dodicicentoquaranta euro

    Se n'è andato. Non in sospeso, non trattenuto per revisione: un pagamento con carta a un commerciante con cui nessuno a Norlanby si è mai occupato, effettuato con il tuo permesso perché tu hai dato quel permesso una volta, il giorno dell'impostazione.