Безпечне використання GenAI

Що таке Безпечне використання GenAI?

Генеративний штучний інтелект є частиною роботи зі складання, перекладу та рецензування, а також це швидкий шлях для доступу конфіденційних даних до системи, з якою ваш роботодавець не має контракту. У цій вправі крайній термін спонукає вас вставити всю електронну адресу клієнта, номер рахунку та бюджет у безкоштовний споживчий чат-бот. DLP позначає це через кілька годин. Потім ви вивчаєте чотири правила: лише схвалені інструменти, очищайте підказку, ніколи не вставляйте секрети та перевіряйте вихідні дані, перш ніж вони вийдуть.

Що ви дізнаєтесь у Безпечне використання GenAI

• Розрізняйте споживчі чат-боти штучного інтелекту (без угоди про обробку даних, підказки можуть бути збережені для навчання) та схвалені корпоративні інструменти штучного інтелекту (з журналом аудиту, захищені контрактом, покриті DPA)
• Очистіть підказки перед надсиланням: замініть імена клієнтів, номери рахунків, вартість угод та інші ідентифікаційні деталі нейтральними заповнювачами, щоб ШІ отримував лише те, що йому потрібно для виконання завдання
• Визнайте категорії даних, які ніколи не повинні вводитися в будь-який інструмент штучного інтелекту, включаючи схвалені: паролі, ключі API, маркери доступу та облікові дані клієнтів
• Знову персоналізуйте вихід ШІ всередині захищеного каналу замість того, щоб просити ШІ обробляти конфіденційні дані безпосередньо, зберігаючи журнал аудиту без непотрібної ідентифікаційної інформації
• Правильно реагуйте на випадковий витік даних у споживацький інструмент штучного інтелекту: збережіть розмову як доказ, негайно повідомте про IT-безпеку та уникайте помилкового комфорту видалення чату

Безпечне використання GenAI — Кроки навчання

1. Напружений понеділок в Олдервуді

   Зараз 9:14 ранку. Ви наздоганяєте електронні листи клієнтів, надіслані за ніч, до зустрічі партнерів о 10:00. Одна тема впадає в очі — іспаномовний клієнт позначив своє повідомлення URGENTE.

2. Терміновий електронний лист клієнта

   Електронний лист від Дієго Варгаса, фінансового директора Cresgrove Investments, приходить у вашу папку 'Вхідні'. Він женеться за квартальним звітом, який ви йому винні, перед засіданням правління в п’ятницю. Повідомлення написано іспанською мовою та містить багато деталей про заручини.

3. Спокусливий ярлик

   Ваша іспанська іржава, і стоячи через 45 хвилин. Alderwood має схвалений корпоративний інструмент штучного інтелекту, але для нього потрібен SSO, і вам потрібно буде знайти посилання. Тим часом безкоштовний чат-бот — SmartGen AI — знаходиться на одній вкладці у ваших закладках. Лише один швидкий переклад, скажете ви собі.

4. Вставлення всього електронного листа

   Ви вводите коротку інструкцію з перекладу, потім вставляєте весь текст електронної пошти Дієго одразу після нього та натискаєте «Надіслати». Переклад за секунди — що може піти не так?

5. SmartGen AI реагує

   SmartGen AI повертає чистий англійський переклад за дві секунди. Саме те, що вам потрібно. Але вгорі чату є щось інше — маленький бурштиновий банер, на який ви ніколи раніше не звертали уваги.

6. Повідомлення про збереження даних

   На бурштиновому банері є тихе повідомлення, яке легко пропустити: 'Ваша розмова може бути використана для покращення SmartGen AI.' На безкоштовному рівні ця лінія — це весь захист даних, який ви отримуєте.

7. Те, що ви щойно викрили

   Подивіться на підказку, яку ви насправді надіслали. Кожна деталь повідомлення Дієго тепер зберігається на сторонньому сервері.

8. Відповідаючи Дієго

   Ви копіюєте переклад SmartGen AI, повертаєтеся до електронної пошти, пишете ввічливу відповідь із зобов’язанням у п’ятницю вранці та натискаєте «Надіслати». Кризу вдалося запобігти — принаймні, таке відчуття.

9. Сповіщення DLP від IT Security

   Ваша папка 'Вхідні' пінгує. Від рядка теми у вас впадає шлунок: 'ВИПАД З ДАНИМИ: конфіденційні дані клієнта надіслано до несанкціонованої служби штучного інтелекту' . Система запобігання втраті даних Alderwood бачила все.

10. Відкриття порталу Refresher

    Ви клацаєте посилання порталу в електронному листі, щоб розпочати оновлення GenAI Acceptable Use.