Витік чутливих даних через ШІ

Що таке Витік чутливих даних через ШІ?

Промпт — не думка, яка лишається при вас. Текст, вставлений у споживчий інструмент ШІ, залишає ваше середовище: його надсилають третій стороні, і він зберігається в історії розмов та журналах. У 2023 році компанія Samsung обмежила працівникам користування зовнішніми чатботами зі ШІ після того, як інженери надіслали туди закритий вихідний код. Ви прикріпите до публічного чатбота звіт із контактними даними, сумами контрактів і API-ключем, прочитаєте умови зберігання даних і побачите наслідки. Потім навчитеся класифікувати, що взагалі можна вставляти.

Що ви дізнаєтесь у Витік чутливих даних через ШІ

• Розпізнавайте категорії чутливих даних — PII, облікові дані, фінансові записи й комерційну таємницю, — які ніколи не можна вводити в споживчі інструменти ШІ
• Простежуйте, де зберігаються дані, надіслані в споживчий інструмент ШІ: у журналах постачальника, тренувальних наборах і резервних копіях, які видалення чату не очищає
• Розрізняйте корпоративні розгортання ШІ з договорами про обробку даних і споживчі інструменти ШІ з широкими правилами використання даних
• Застосовуйте моделі класифікації даних, щоб визначати, яку інформацію безпечно передавати ШІ для обробки
• Оцінюйте наслідки витоку даних через ШІ для організації: штрафи регуляторів, втрату довіри клієнтів і розкриття конкурентної інформації

Витік чутливих даних через ШІ — Кроки навчання

1. Напружений день у Meridian Analytics

   Ваша команда має доступ до схваленого корпоративного інструмента ШІ для внутрішньої роботи, але сьогодні часу майже немає, і ви ось-ось спростите собі роботу небезпечним способом.

2. Термінове прохання від Девіда

   Аліса отримує лист від свого керівника Девіда Чена. Засідання правління — за три години, і йому негайно потрібен відшліфований стислий виклад звіту про показники клієнтів за III квартал.

3. Відкриття даних клієнтів

   Девід згадав, що вихідні дані лежать на спільному диску. Аліса відкриває звіт про показники клієнтів за III квартал, щоб побачити, що саме треба підсумувати.

4. Перегляд чутливих даних

   Звіт чітко позначено як конфіденційний. У ньому є імена клієнтів, виручка, особисті контактні дані, API-ключі від продакшн-систем і прогнози, захищені угодою про нерозголошення (NDA).

5. Спокуса спростити собі роботу

   Аліса зважує варіанти. Схвалений корпоративний інструмент ШІ вимагає підключення через VPN, а на поточному тарифі ліміт вводу — 500 слів. Натомість SmartGen AI, популярний споживчий чатбот, працює швидко, безкоштовно й без труднощів приймає великі обсяги тексту. Через брак часу Аліса вирішує скористатися SmartGen AI, щоб швидко підготувати стислий виклад клієнтських даних.

6. Вставлення чутливих даних

   Аліса прикріплює звіт за III квартал до чату SmartGen AI і вводить промпт із проханням підготувати стислий виклад.

7. Відповідь SmartGen AI

   SmartGen AI обробляє запит і видає відшліфований стислий виклад — саме такий, на який Аліса сподівалася: чіткий, добре структурований, готовий для презентації перед правлінням. Але тут з'являється ще дещо: угорі чату — банер із попередженням про зберігання даних.

8. Попередження про зберігання даних

   Угорі чату з'явився банер із попередженням. У ньому написано: «Вашу розмову можуть використати для вдосконалення SmartGen AI.». На перший погляд безневинне повідомлення означає: усе, що Аліса щойно вставила, — імена клієнтів, виручка, службові адреси електронної пошти, API-ключі, прогнози, захищені NDA, — тепер може зберігатися в конвеєрі навчання SmartGen AI.

9. Що витекло

   Розгляньмо, що саме Аліса надіслала на зовнішній сервіс, з яким немає договору про обробку даних. У повідомленні, яке вона вставила, було кілька категорій чутливих даних, що ніколи не мають залишати схвалені системи компанії.

10. Минає час

    Аліса завершує стислий виклад і надсилає його Девіду. Вона задоволена, що вклалася в строк. Тим часом система запобігання втраті даних (DLP) у Meridian Analytics позначила передачу даних назовні, на chat.smartgenai.com.