Шахрайство з оплатою агента ШІ
Агент зробив все, що ви просили. Веб-сторінка вибирала, куди йти гроші.
Що таке Шахрайство з оплатою агента ШІ?
Агент штучного інтелекту діє з вашими дозволами, вашою збереженою карткою та вашою папкою 'Вхідні', і він вірить тому, що читає. Вашого помічника просять забронювати готель, він читає інструкцію, розміщену на власній сторінці готелю, і оплачує сайт, який ніхто не вибирав, поки ви все ще читаєте рядок продавця. Ви відстежуєте журнал запуску назад до кроку, який його повернув, знімаєте платежі з постійного затвердження та запитуєте знову: та сама сторінка, той самий неправильний продавець, і цього разу лист чекає на вас.
Що ви дізнаєтесь у Шахрайство з оплатою агента ШІ
- Зрозумійте, що агент діє з вашими дозволами, вашою збереженою карткою та вашою папкою "Вхідні", тому його помилки відбуваються, коли ви
- Розпізнати непряме швидке впровадження: текст, розміщений на сторінці, яку відвідує агент, читається як інструкція та невидимий для людини
- Прочитайте журнал виконання перед схваленням, а не після появи заряду, тому що кожен крок після ін’єкції виглядає правильно
- Перевірте продавця на аркуші затвердження, оскільки це поле вибрав агент, а ви ні
- Тримайте дозволи на оплату в режимі запиту кожного разу, тому що постійне схвалення перетворює одну людську перевірку на зворотний відлік
- Використовуйте схвалений маршрут бронювання, де немає жодної картки в потоці для перенаправлення зловмисника
- Повідомте про платіж, який уже вийшов, оскільки ім’я продавця та журнал виконання дозволяють Фінансам оскаржити стягнення плати та заблокувати домен
Шахрайство з оплатою агента ШІ — Кроки навчання
-
Звинувачення, яке ніхто не впізнає
Ви за своїм столом із конгресом в Осло, щоб забронювати. Фінансовий відділ щойно надіслав поштою всій виїзній команді про претензію колеги щодо витрат.
-
Шість кроків, один неправильний
Журнал запуску - це вся історія. Це було на його телефоні весь час, і нікому не було причини дивитися на нього.
-
Ваша власна подорож
У вас той самий додаток, та сама корпоративна картка, збережена в ньому, і той самий конгрес, на який потрібно потрапити. Taskwyn є на вашому телефоні з параметром «Дозволити платежі», як це було налаштовано в перший день.
-
Попросіть це забронювати
Це прохання, яке б зробив будь-хто, сформульоване так, як це сформулював би будь-хто. Ніщо в цьому не є необережним.
-
Спостерігаючи за роботою
Вкладка «Завдання» показує запуск, як це відбувається. Перші три кроки – це саме те, що ви просили.
-
Це продовжується
Надходить ще два кроки. Помічник не плутає і не працює. Він виконує те, що йому сказала сторінка.
-
Він запитує та починає рахувати
Ось один момент, коли людина в курсі. Для платежів встановлено значення «Дозволити», тому аркуш насправді не запитує. Це оголошення.
-
Перед натисканням
-
Це не чекає
Ви все ще читаєте рядок продавця. Для платежів встановлено значення «Дозволити», тому аркуш насправді ніколи не запитував, а годинник закінчився.
-
Тисяча двісті сорок євро
Його немає. Не очікує на розгляд, не утримується для перевірки: платіж карткою продавцю, з яким ніхто в Norlanby ніколи не мав справу, здійснений з вашого дозволу, оскільки ви надали такий дозвіл один раз, у день налаштування.
Охоплення стандартів безпеки
OWASP LLM Top 10
- LLM01:2026 Prompt Injection
- LLM03:2026 Excessive Agency
CWE
- CWE-1427 Improper Neutralization of Input Used for LLM Prompting
MITRE ATT&CK
- T1657 Financial Theft
CIS Controls
- CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks
- CIS 14.4 Train Workforce on Data Handling Best Practices
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
EU AI Act
- Art. 4 AI literacy