Впровадження коду агента AI

Що таке Впровадження коду агента AI?

Агенти кодування AI перетворюють текст на команди, які виконуються з вашими привілеями, і текст не обов’язково надходить від вас. Заявка, коментар або конфігураційний файл, які агент читає як контекст, можуть містити інструкції, а згенерований сценарій їх виконує. Це ASI05 у топ-10 OWASP для програм Agentic AI. Ви розмістите директиву в необробленому полі квитка, прослідкуєте за нею через генерацію коду в об’єднаний запит на отримання та зворотну оболонку, а потім дізнаєтесь про перевірку перед виконанням коду, написаного ШІ.

Що ви дізнаєтесь у Впровадження коду агента AI

• Ідентифікуйте введені команди, вбудовані в код і сценарії оболонки, згенеровані ШІ
• Відстежуйте потік протилежних вхідних даних від підроблених вихідних файлів через генерацію коду AI до кінцевого виконуваного виходу
• Проаналізуйте наслідки для безпеки виконання коду, згенерованого штучним інтелектом, із повними системними привілеями користувача
• Оцініть ефективність ізольованого програмного середовища, перегляду коду та статичного аналізу як захисту від впровадження коду ШІ
• Застосуйте систематичний процес перевірки перед виконанням для сценаріїв, згенерованих штучним інтелектом, які спрямовані на загальні шаблони ін’єкцій, включаючи зворотні оболонки, ексфільтрацію змінних середовища та підробку конфігурації

Впровадження коду агента AI — Кроки навчання

1. Розвідка CI/CD

   Боб склав карту конвеєра розгортання інфраструктури CypherPeak. П’ять агентів штучного інтелекту працюють послідовно – від читання заявок проекту до розгортання коду та виробництва. Один агент особливо привернув його увагу: генератор коду читає описи квитків як необроблені вимоги.

2. Вивчення Ticket API

   Боб відкриває інструмент тестування API, щоб підтвердити, що API квитка приймає неавтентифіковані подання. Він надсилає тестовий запит загальнодоступній кінцевій точці без облікових даних.

3. Нульова дезінфекція

   API прийняв тестовий квиток без виклику автентифікації. Відповідь підтверджує, що описи аналізуються як необроблені вимоги без обробки вхідних даних — саме той вектор, який Бобу потрібен для введення прихованої директиви.

4. Виготовлення квитка

   Боб створює заявку, яка на поверхні виглядає як звичайний запит інфраструктури. Але в полі опису прихована директива, яка вказує генератору коду вбудувати зворотну оболонку в наступний сценарій розгортання, замасковану під стандартний телеметричний модуль.

5. Надсилання створеного квитка

   Боб повертається до API Tester. Кінцева точка API квитка все ще налаштована із зонду. Він вставляє створений квиток JSON у тіло запиту та надсилає його.

6. Конвеєр оброблено

   Квиток було прийнято та оброблено через весь конвеєр автоматично. Парсер квитків витягнув вимоги, генератор коду скомпілував їх у сценарій розгортання, включаючи приховану зворотну оболонку, а рецензент коду AI схвалив його, оскільки введений код відповідає стандартним шаблонам моніторингу.

7. Регулярний огляд коду

   Аліса починає свій ранок у CypherPeak. Як інженер DevOps, вона перевіряє сценарії розгортання, перш ніж вони потраплять у робочий стан, включно з автоматично створеними BuildBot. BuildBot генерує чистий код інфраструктури протягом місяців. Його послужний список бездоганний.

8. Запит на вилучення BuildBot

   Новий електронний лист від системи CI/CD. BuildBot створив запит на оновлення інфраструктури, додавши моніторинг працездатності до сценарію проміжного розгортання. Рецензент коду штучного інтелекту вже схвалив його.

9. Перегляд різниці

   Аліса переходить до запиту на отримання, щоб переглянути зміни коду. Різниця показує нову функцію моніторингу, додану до сценарію розгортання.

10. Автоматичне затвердження

    Аліса переглядає різницю. Рецензент коду штучного інтелекту вже схвалив його. Джейк Родрігес залишив коментар із запитанням про рядок base64, але автоматичний рецензент BuildBot не помітив жодних проблем. Зміни виглядають як стандартне доповнення до моніторингу здоров’я.