Zahlungsbetrug durch KI-Agenten

Was ist Zahlungsbetrug durch KI-Agenten?

Ein KI-Agent handelt mit Ihren Berechtigungen, Ihrer gespeicherten Karte und Ihrem Posteingang und glaubt, was er liest. Ihr Assistent wird gebeten, ein Hotel zu buchen, liest eine auf der Hotelseite platzierte Anleitung vor und bezahlt eine Website, die niemand ausgewählt hat, während Sie noch die Händlerzeile lesen. Sie verfolgen das Laufprotokoll bis zu dem Schritt zurück, der es erstellt hat, nehmen Zahlungen von der laufenden Genehmigung ab und fragen erneut: Dieselbe Seite, derselbe falsche Händler, und dieses Mal wartet das Blatt auf Sie.

Was Sie lernen in Zahlungsbetrug durch KI-Agenten

• Verstehen Sie, dass ein Agent mit Ihren Berechtigungen, Ihrer gespeicherten Karte und Ihrem Posteingang handelt, sodass seine Fehler als Sie begangen werden
• Erkennen Sie indirekte Prompt-Injection: Text, der auf einer vom Agenten besuchten Seite platziert wird, wird als Anleitung gelesen und ist für die Person unsichtbar
• Lesen Sie das Laufprotokoll vor der Genehmigung und nicht erst nach dem Erscheinen einer Gebühr, da jeder Schritt nach der Injektion korrekt aussieht
• Überprüfen Sie den Händler anhand eines Genehmigungsformulars, da der Makler dieses Feld ausgewählt hat und Sie dies nicht getan haben
• Behalten Sie die Zahlungserlaubnis jederzeit bei, denn durch die ständige Genehmigung wird aus einem einzigen menschlichen Scheck ein Countdown
• Verwenden Sie die genehmigte Buchungsroute, bei der sich keine Karte im Fluss befindet, die ein Angreifer umleiten könnte
• Melden Sie eine bereits erfolgte Zahlung, da der Händlername und das Ausführungsprotokoll es der Finanzabteilung ermöglichen, die Belastung anzufechten und die Domain sperren zu lassen

Zahlungsbetrug durch KI-Agenten — Trainingsschritte

1. Eine Anklage, die niemand erkennt

   Sie sitzen an Ihrem Schreibtisch und möchten einen Kongress in Oslo buchen. Die Finanzabteilung hat gerade dem gesamten Außendienstteam eine E-Mail über die Spesenabrechnung eines Kollegen geschickt.

2. Sechs Schritte, einer falsch

   Das Laufprotokoll ist die ganze Geschichte. Es war die ganze Zeit auf seinem Handy und niemand hatte einen Grund, es anzusehen.

3. Ihre eigene Reise

   Sie haben dieselbe App, dieselbe darin gespeicherte Firmenkarte und denselben Kongress, zu dem Sie gelangen können. Taskwyn ist auf Ihrem Telefon und Zahlungen sind auf „Zulassen“ eingestellt, so wie es am ersten Tag eingerichtet wurde.

4. Bitten Sie um eine Buchung

   Dies ist die Bitte, die jeder stellen würde, und zwar so, wie jeder es formulieren würde. Nichts daran ist nachlässig.

5. Zuschauen, wie es funktioniert

   Auf der Registerkarte „Aufgaben“ wird der Lauf angezeigt, während er stattfindet. Die ersten drei Schritte sind genau das, wonach Sie gefragt haben.

6. Es geht weiter

   Zwei weitere Schritte kommen. Der Assistent ist nicht verwirrt und es liegt keine Fehlfunktion vor. Es tut, was die Seite ihm gesagt hat.

7. Es fragt und beginnt zu zählen

   Dies ist der eine Moment, in dem eine Person auf dem Laufenden ist. „Zahlungen“ ist auf „Zulassen“ eingestellt, sodass das Blatt nicht wirklich danach fragt. Es kündigt an.

8. Bevor Sie tippen

9. Es wartet nicht

   Sie lesen immer noch die Händlerzeile. „Zahlungen“ ist auf „Zulassen“ eingestellt, sodass das Blatt nie wirklich gefragt wurde und die Uhr abläuft.

10. Zwölfhundertvierzig Euro

    Es ist weg. Nicht ausstehend, nicht zur Prüfung zurückgehalten: Eine Kartenzahlung an einen Händler, mit dem bei Norlanby noch nie jemand zu tun hatte, erfolgt mit Ihrer Erlaubnis, weil Sie diese Erlaubnis einmal am Einrichtungstag erteilt haben.