Безпечне використання GenAI

Що таке Безпечне використання GenAI?

Генеративні інструменти штучного інтелекту є частиною повсякденної роботи — переклад, узагальнення, складання, перегляд коду. Вони також є одним із найшвидших способів витоку конфіденційних даних клієнта в систему, над якою ваш роботодавець не має контрактного контролю. У цій симуляції ви обробляєте терміновий іспаномовний електронний лист від клієнта, який чекає квартального звіту. Під тиском дедлайну ви шукаєте безкоштовного чат-бота споживача, вставляєте весь електронний лист — включаючи ім’я клієнта, номер рахунку, затверджений бюджет, призначених консультантів і час засідання ради — і швидко отримуєте переклад. Через кілька годин ваша система DLP позначає передачу як розкриття конфіденційних даних. Далі вправа ознайомить вас із чотирма правилами безпечного використання GenAI: вибір інструменту (лише схвалений штучний інтелект підприємства), оперативна дезінфекція (замініть імена, облікові записи та суми заповнювачами перед вставленням), абсолютна заборона на вставлення секретів, таких як паролі чи ключі API, і перевірка результатів штучного інтелекту перед доставкою. Ви відпрацьовуєте правильний робочий процес на другій електронній пошті клієнта — очищаєте підказку, використовуєте схвалений корпоративний інструмент і повторно персоналізуєте відповідь у безпечному каналі електронної пошти. Навчання завершується перевіркою знань про те, що робить підказку безпечною для надсилання та як реагувати, якщо ви випадково просочуєте дані в споживчий інструмент ШІ.

Що ви дізнаєтесь у Безпечне використання GenAI

• Розрізняйте споживчі чат-боти штучного інтелекту (без угоди про обробку даних, підказки можуть бути збережені для навчання) та схвалені корпоративні інструменти штучного інтелекту (з журналом аудиту, захищені контрактом, покриті DPA)
• Очистіть підказки перед надсиланням — замініть імена клієнтів, номери рахунків, вартість угод та інші ідентифікаційні деталі нейтральними заповнювачами, щоб ШІ отримував лише те, що йому потрібно для виконання завдання
• Визнайте категорії даних, які ніколи не повинні вводитися в будь-який інструмент штучного інтелекту, включаючи схвалені, — паролі, ключі API, маркери доступу та облікові дані клієнтів
• Знову персоналізуйте вихід ШІ всередині захищеного каналу замість того, щоб просити ШІ обробляти конфіденційні дані безпосередньо, зберігаючи журнал аудиту без непотрібної ідентифікаційної інформації
• Правильно реагуйте на випадковий витік даних у споживацький інструмент штучного інтелекту — збережіть розмову як доказ, негайно повідомте про IT Security і уникайте помилкового комфорту видалення чату

Безпечне використання GenAI — Кроки навчання

1. Напружений понеділок в Олдервуді

   Зараз 9:14 ранку. Ви наздоганяєте електронні листи клієнтів, надіслані за ніч, до зустрічі партнерів о 10:00. Одна тема впадає в очі — іспаномовний клієнт позначив своє повідомлення URGENTE.

2. Терміновий електронний лист клієнта

   Електронний лист від Дієго Варгаса, фінансового директора Cresgrove Investments, приходить у вашу папку 'Вхідні'. Він женеться за квартальним звітом, який ви йому винні, перед засіданням правління в п’ятницю. Повідомлення написано іспанською мовою та містить багато деталей про заручини.

3. Спокусливий ярлик

   Ваша іспанська іржава, і стоячи через 45 хвилин. Alderwood має схвалений корпоративний інструмент штучного інтелекту, але для нього потрібен SSO, і вам потрібно буде знайти посилання. Тим часом безкоштовний чат-бот — SmartGen AI — знаходиться на одній вкладці у ваших закладках. Лише один швидкий переклад, скажете ви собі.

4. Вставлення всього електронного листа

   Ви вводите коротку інструкцію з перекладу, потім вставляєте весь текст електронної пошти Дієго одразу після нього та натискаєте «Надіслати». Переклад за секунди — що може піти не так?

5. SmartGen AI реагує

   SmartGen AI повертає чистий англійський переклад за дві секунди. Саме те, що вам потрібно. Але вгорі чату є щось інше — маленький бурштиновий банер, на який ви ніколи раніше не звертали уваги.

6. Повідомлення про збереження даних

   На бурштиновому банері є тихе повідомлення, яке легко пропустити: 'Ваша розмова може бути використана для покращення SmartGen AI.' На безкоштовному рівні ця лінія — це весь захист даних, який ви отримуєте.

7. Те, що ви щойно викрили

   Подивіться на підказку, яку ви насправді надіслали. Кожна деталь повідомлення Дієго тепер зберігається на сторонньому сервері.

8. Відповідаючи Дієго

   Ви копіюєте переклад SmartGen AI, повертаєтеся до електронної пошти, пишете ввічливу відповідь із зобов’язанням у п’ятницю вранці та натискаєте «Надіслати». Кризу вдалося запобігти — принаймні, таке відчуття.

9. Сповіщення DLP від IT Security

   Ваша папка 'Вхідні' пінгує. Від рядка теми у вас впадає шлунок: 'ВИПАД З ДАНИМИ: конфіденційні дані клієнта надіслано до несанкціонованої служби штучного інтелекту' . Система запобігання втраті даних Alderwood бачила все.

10. Відкриття порталу Refresher

    Ви клацаєте посилання порталу в електронному листі, щоб розпочати оновлення GenAI Acceptable Use.