Шахрайство з оплатою агента ШІ

Шахрайство з оплатою агента ШІ

Агент зробив все, що ви просили. Веб-сторінка вибирала, куди йти гроші.

Що таке Шахрайство з оплатою агента ШІ?

Агент штучного інтелекту діє з вашими дозволами, вашою збереженою карткою та вашою папкою 'Вхідні', і він вірить тому, що читає. Вашого помічника просять забронювати готель, він читає інструкцію, розміщену на власній сторінці готелю, і оплачує сайт, який ніхто не вибирав, поки ви все ще читаєте рядок продавця. Ви відстежуєте журнал запуску назад до кроку, який його повернув, знімаєте платежі з постійного затвердження та запитуєте знову: та сама сторінка, той самий неправильний продавець, і цього разу лист чекає на вас.

Що ви дізнаєтесь у Шахрайство з оплатою агента ШІ

Шахрайство з оплатою агента ШІ — Кроки навчання

  1. Звинувачення, яке ніхто не впізнає

    Ви за своїм столом із конгресом в Осло, щоб забронювати. Фінансовий відділ щойно надіслав поштою всій виїзній команді про претензію колеги щодо витрат.

  2. Шість кроків, один неправильний

    Журнал запуску - це вся історія. Це було на його телефоні весь час, і нікому не було причини дивитися на нього.

  3. Ваша власна подорож

    У вас той самий додаток, та сама корпоративна картка, збережена в ньому, і той самий конгрес, на який потрібно потрапити. Taskwyn є на вашому телефоні з параметром «Дозволити платежі», як це було налаштовано в перший день.

  4. Попросіть це забронювати

    Це прохання, яке б зробив будь-хто, сформульоване так, як це сформулював би будь-хто. Ніщо в цьому не є необережним.

  5. Спостерігаючи за роботою

    Вкладка «Завдання» показує запуск, як це відбувається. Перші три кроки – це саме те, що ви просили.

  6. Це продовжується

    Надходить ще два кроки. Помічник не плутає і не працює. Він виконує те, що йому сказала сторінка.

  7. Він запитує та починає рахувати

    Ось один момент, коли людина в курсі. Для платежів встановлено значення «Дозволити», тому аркуш насправді не запитує. Це оголошення.

  8. Перед натисканням

  9. Це не чекає

    Ви все ще читаєте рядок продавця. Для платежів встановлено значення «Дозволити», тому аркуш насправді ніколи не запитував, а годинник закінчився.

  10. Тисяча двісті сорок євро

    Його немає. Не очікує на розгляд, не утримується для перевірки: платіж карткою продавцю, з яким ніхто в Norlanby ніколи не мав справу, здійснений з вашого дозволу, оскільки ви надали такий дозвіл один раз, у день налаштування.

Охоплення стандартів безпеки

OWASP LLM Top 10

  • LLM01:2026 Prompt Injection
  • LLM03:2026 Excessive Agency

CWE

  • CWE-1427 Improper Neutralization of Input Used for LLM Prompting

MITRE ATT&CK

  • T1657 Financial Theft

CIS Controls

  • CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks
  • CIS 14.4 Train Workforce on Data Handling Best Practices

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind

EU AI Act

  • Art. 4 AI literacy