ШІ-асистент розкриває зайве
Одне звичайне питання. У відповідь чотирнадцять зарплат колег.
Що таке ШІ-асистент розкриває зайве?
Помічник компанії шукає все, що можна відкрити у вашому обліковому записі, а не лише те, що ви мали побачити. Файл, який ніхто не міг знайти під час перегляду, стає одним запитанням у день увімкнення помічника. У цій вправі звичайне запитання про бюджет повертається із зарплатами чотирнадцяти колег, взятими з файлу відомостей про заробітну плату, який помилково надали всій компанії. Ви тренуєтеся читати вихідні чіпи, перевіряєте панель доступу до файлу, повідомляєте спільний доступ замість того, щоб використовувати відповідь, і даєте своєму менеджеру цифру із затвердженого бюджету.
Що ви дізнаєтесь у ШІ-асистент розкриває зайве
- Визнайте, що помічник ШІ компанії читає з вашими власними дозволами, тому відповідь може містити лише те, що ваш обліковий запис уже може бути відкрито
- Сприймайте несподіваний доступ як сигнал: відповідь, яка містить дані, які ви не маєте для перегляду, означає, що файл надано надмірно, а не те, що помічник поводився неправильно
- Використовуйте цитовані джерела помічника, щоб дізнатися, звідки надійшла відповідь і хто ще може бачити цей файл
- Перевірте список доступу до файлу в файловому менеджері, щоб прочитати історію спільного доступу, включно з тим, хто, коли та чому надав доступ до нього
- Замість того, щоб використовувати, пересилати чи видаляти файл, повідомте про файл із надмірним доступом до IT Security та його власника, а також дайте відповідь на оригінальне запитання із затвердженого джерела
ШІ-асистент розкриває зайве — Кроки навчання
-
Бюджетний тиждень
Зараз вівторок, 13:40. Tavenholm Packaging увімкнула Tavenholm Ask три тижні тому, помічник компанії підключив пошту, спільний диск і WorkStream, тож нікому знову не доведеться шукати файл. Ви підбираєте цифри для плану Девіда Пака на четвертий квартал, а крайній термін – сьогодні вдень.
-
Девіду потрібен номер
Девід Парк надсилає вам повідомлення безпосередньо. Він будує план Q4 і хоче одну цифру, якої він ще не має.
-
Відкрийте Tavenholm Ask
Tavenholm Ask живе в браузері. Він показує, до чого він підключений, перш ніж ви щось введете: вашу поштову скриньку, спільний диск і канали чату, у яких ви перебуваєте.
-
Задайте питання
Поставте запитання Девіда так, як він його сформулював. У цьому немає нічого незвичайного, в чому суть.
-
Запитати пише відповідь
Tavenholm Ask шукає, потім пише. Подивіться, що він показує на екрані.
-
Прочитайте, що знайшло
Відповідь правильна, добре організована і чотири секунди тому. Він також містить те, про що Девід ніколи не просив і вам ніколи не судилося побачити.
-
Це зламалося
Перш ніж придивитися ближче, визначте, як це сталося.
-
Відкрийте джерело
Під відповіддю Tavenholm Ask перераховує те, що він прочитав. Перший чіп - файл зарплати. Клацніть його, і помічник скаже вам, де знаходиться файл і хто може його бачити.
-
Перевірте це у файлах
Підсумок помічника про спільний доступ складається з одного рядка. Сам файл зберігає всю історію: хто нею поділився, коли та чому. Це знаходиться в програмі Файли в розділі Хто має доступ.
-
Хто може це побачити
Панель доступу містить список усіх принципалів у файлі. Два з трьох – саме те, чого ви очікуєте. По-третє, це проблема, і примітка поруч пояснює, як вона туди потрапила.
Охоплення стандартів безпеки
OWASP LLM Top 10
- LLM02:2026 Sensitive Information Disclosure
CIS Controls
- CIS 14.4 Train Workforce on Data Handling Best Practices
- CIS 3 Data Protection
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
- PR.DS Data Security
GDPR
- Art. 5 Principles relating to processing of personal data (integrity and confidentiality)
- Art. 32 Security of processing
EU AI Act
- Art. 4 AI literacy