Витік контексту між клієнтами

Що таке Витік контексту між клієнтами?

Агент штучного інтелекту, який обслуговує багатьох клієнтів, зберігає робочий контекст і пам’ять, і обидва є даними. Якщо жоден із них не стосується окремого сеансу, інформація, отримана для одного клієнта, з’являється в розмові з наступним клієнтом без неправильного використання інструментів, порушення контролю доступу та без участі зловмисників. Ви запустите два сеанси та спостерігатимете, як рахунок-фактура та деталі картки одного клієнта з’являться у відповіді іншого, доведете за допомогою трасування інструменту, що жоден пошук не отримав неправильний запис, а потім застосуєте контекст кожного сеансу та тимчасову пам’ять на шлюзі.

Що ви дізнаєтесь у Витік контексту між клієнтами

• Визнайте, що робочий контекст і пам’ять агента є даними, і що обмін ними між сеансами призводить до витоку даних одного абонента в інший
• Поясніть, як агент з декількома клієнтами може розкрити обліковий запис одного клієнта під час сеансу іншого клієнта без неправильного використання інструментів і без участі зловмисників
• Прочитайте трасування інструмента, щоб довести, що витік стався з перенесеного контексту, а не з пошуку, який отримав неправильного клієнта
• Застосуйте довговічне виправлення: контекст області за сеанс і зробіть пам’ять ефемерною, примусово за замовчуванням на шлюзі
• Відрізнити типову ізоляцію на межі від очищення контексту вручну та пояснити, чому елемент керування, який можна забути, буде
• Доведіть виправлення ізоляції кожного сеансу, відтворивши точний сеанс, який витік, і визнайте, що розкриття між клієнтами є інцидентом, про який слід повідомити, навіть після виправлення

Витік контексту між клієнтами — Кроки навчання

1. Клієнт побачив когось іншого

   У службі підтримки Sarnholt працює агент ШІ, який шукає облікові записи клієнтів. Сьогодні вранці клієнт повідомив, що він зробив більше, ніж це.

2. Один сеанс в інший

   Прочитайте звіт, щоб дізнатися, що він визначає: не неправильна відповідь, а неправильний клієнт.

3. Перша сесія

   На лівому екрані Аліса відкриває агента підтримки, щоб відтворити попередній сеанс клієнта, дані якого витікають.

4. Обліковий запис Ренати

   Перший клієнт, Рената Восс, запитує, чому її рахунок досі прострочений. Аліса виконує пошук точно так, як це зробив би агент служби підтримки.

5. Правильно, і тепер запам'ятали

   Тут немає нічого поганого. Рената запитала про свій рахунок і отримала свій рахунок. Проблема в тому, що з ним відбувається після.

6. Друга сесія

   Інший клієнт, Томас Ек, має не пов’язане запитання. Аліса відкриває свій сеанс на правому екрані, як служба підтримки обробляє наступний запит.

7. Томас запитує про Томаша

   Томас лише хоче знати, коли надійде його наступний платіж. У його запиті ніхто інший не згадується.

8. Ось воно

   Деталі самого Томаша правильні. Другий абзац ніколи не повинен існувати.

9. Що не вдалося

   Агент відповів, інструмент запрацював один раз і правильно, і клієнт все одно бачив дані іншого клієнта. Назвіть невдачу.

10. Де живе ізольованість

    Чи є сесія межею, це не те, що потрібно виправити в одному квитку. Це політика, яку шлюз забезпечує для агента.