Заборонені практики ШІ

Що таке Заборонені практики ШІ?

Закон ЄС про штучний інтелект проводить чіткі червоні лінії. Стаття 5 прямо забороняє шість категорій практик штучного інтелекту з найвищими штрафами в регламенті: до 35 мільйонів євро або 7% світового обороту. У цій вправі ви розпізнаєте заборонені розгортання у вашій організації, включаючи розпізнавання емоцій на робочому місці, соціальне оцінювання клієнтів і нецільове збирання зображень обличчя для біометричних баз даних, — і вживаєте правильних заходів, перш ніж кожна система запрацює.

Що ви дізнаєтесь у Заборонені практики ШІ

• Визначте шість категорій практик штучного інтелекту, заборонених статтею 5 Закону ЄС про штучний інтелект
• Визнавати заборонені практики, навіть якщо вони маскуються під корисні інструменти чи добровільні програми
• Зрозумійте, що згода працівника не має переваги над заборонами статті 5
• Знайте правильний шлях ескалації, коли виявите заборонене розгортання ШІ
• Зрозумійте рівень покарання за заборонені дії (35 мільйонів євро / 7% обороту)

Заборонені практики ШІ — Кроки навчання

1. Абсолютні червоні лінії

   Стаття 5 Закону ЄС про штучний інтелект визначає певні методи штучного інтелекту, які повністю заборонені в ЄС. Ні винятків, ні обхідних шляхів. Покарання за заборонені дії є найвищим рівнем відповідно до Закону: до 35 мільйонів євро або 7% світового річного обороту, залежно від того, що вище. Шість категорій забороненого штучного інтелекту включають: Маніпулятивні або оманливі методи штучного інтелекту, які спотворюють поведінку ШІ, що використовує вразливі місця певних груп (вік, інвалідність, соціальний стан) Соціальне оцінювання – оцінка людей на основі соціальної поведінки на предмет непов’язаного згубного поводження Віддалена біометрична ідентифікація в режимі реального часу в громадських місцях (з вузьким законом). винятки із застосування) Біометрична категоризація за конфіденційними ознаками (раса, політичні погляди, сексуальна орієнтація) Розпізнавання емоцій на робочому місці та в освітніх установах

2. День 1: електронна пошта для відстеження настрою

   Аліса отримує електронний лист від директора з персоналу, який повідомляє про нову пілотну програму. В електронному листі описується інструмент штучного інтелекту, який контролюватиме співробітників під час відеозустрічей.

3. Визнання порушення

   Це розпізнавання емоцій на робочому місці , яке прямо заборонено статтею 5(1)(f) Закону ЄС про штучний інтелект. Немає значення, що це оформлено як «оздоровча ініціатива» або що участь описується як добровільна. Заборона абсолютна. Будь-яка система штучного інтелекту, яка виводить емоції з біометричних даних (вираз обличчя, тон голосу, мова тіла) на робочому місці, заборонена - незалежно від заявленої мети, рівня анонімності чи згоди співробітників.

4. Ескалація до комплаєнсу

   Аліса відразу усвідомлює ризик недотримання вимог. Вона відповідає на електронний лист Девіда, позначаючи проблему та копіюючи повідомлення спеціаліста із захисту даних.

5. Перевірка знань

   Перш ніж рухатися далі, давайте переконаємося, що концепція зрозуміла.

6. День 3: Соціальний бомбардир

   Через два дні Аліса отримує повідомлення WhatsApp від колеги про нову функцію CRM, яку активував відділ продажів.

7. Виявлення соціального оцінювання

   Аліса уважно читає повідомлення Джеймі. Дві деталі виділяються: клієнти оцінюються за активністю в соціальних мережах, а клієнти з низькими показниками спрямовуються до повільніших черг підтримки.

8. Розуміння соціального оцінювання

   Це соціальна оцінка , заборонена статтею 5(1)(c). Заборонено використовувати штучний інтелект для оцінки людей на основі їхньої соціальної поведінки чи особистих характеристик, а потім використовувати ці оцінки для згубного ставлення до них. Незважаючи на те, що дані надходять із законної ділової взаємодії (повернення покупок, квитки в службу підтримки), агрегування їх у «оцінку надійності», яка визначає якість обслуговування, переходить межу. Заборона поширюється незалежно від того, чи відбувається оцінка наявних клієнтів чи потенційних.

9. День 5: Скребок для обличчя

   Через два дні Аліса дізнається, що маркетингова команда створила внутрішню демонстрацію інструменту. Вона відкриває його у своєму браузері, щоб переглянути, над чим вони працювали.

10. Нецільове скрібіння обличчя

    Інструмент FaceWatch збирає загальнодоступні фотографії з профілів соціальних мереж для створення бази даних розпізнавання облич. Згідно зі статтею 5(1)(e), нецілеспрямоване копіювання зображень обличчя з Інтернету або записів із камер відеоспостереження для створення чи розширення баз даних розпізнавання облич прямо заборонено.