Заборонені практики ШІ

Що таке Заборонені практики ШІ?

Закон ЄС про штучний інтелект проводить чіткі червоні лінії. Стаття 5 прямо забороняє вісім категорій практик штучного інтелекту з найвищими штрафами в регламенті: до 35 мільйонів євро або 7% світового обороту. У цій вправі ви розпізнаєте заборонені розгортання у вашій організації, включаючи розпізнавання емоцій на робочому місці, соціальне оцінювання клієнтів і нецільове збирання зображень обличчя для біометричних баз даних: і вживаєте правильних заходів, перш ніж кожна система запрацює.

Що ви дізнаєтесь у Заборонені практики ШІ

• Визначте вісім категорій практик штучного інтелекту, заборонених статтею 5 Закону ЄС про штучний інтелект
• Визнавати заборонені практики, навіть якщо вони маскуються під корисні інструменти чи добровільні програми
• Зрозумійте, що згода працівника не має переваги над заборонами статті 5
• Знайте правильний шлях ескалації, коли виявите заборонене розгортання ШІ
• Зрозумійте рівень покарання за заборонені дії (35 мільйонів євро / 7% обороту)

Заборонені практики ШІ — Кроки навчання

1. Абсолютні червоні лінії

   Стаття 5 Закону ЄС про штучний інтелект визначає певні практики штучного інтелекту, які повністю заборонені в ЄС. Немає обхідних шляхів. Покарання за заборонені практики є найвищим рівнем відповідно до Закону: до 35 мільйонів євро або 7% світового річного обороту, залежно від того, що вище. Вісім категорій забороненого штучного інтелекту згідно зі статтею 5(1): (a) Маніпулятивні або оманливі методи штучного інтелекту, які спотворюють поведінку (b) ШІ, що використовує вразливі місця певних груп (вік, інвалідність, соціальна чи економічна ситуація) (c) Соціальна оцінка – оцінка людей за соціальною поведінкою чи особистими рисами, що призводить до шкідливе поводження в непов’язаних контекстах або непропорційне (d) Прогнозування того, що особа вчинить злочин виключно на основі профілювання чи особистісних рис (e) Нецільове збирання зображень обличчя з Інтернету чи відеоспостереження для створення баз даних розпізнавання облич (f) Розпізнавання емоцій на робочому місці та навчальні заклади (за винятком медичних міркувань або причин безпеки) (g) Біометрична категоризація для визначення конфіденційних ознак (раса, політичні погляди, сексуальна орієнтація) (h) Віддалена біометрична ідентифікація в режимі реального часу в громадських місцях для правоохоронних органів (за невеликими винятками)

2. День 1: електронна пошта для відстеження настрою

   Аліса отримує електронний лист від директора з персоналу, який повідомляє про нову пілотну програму. В електронному листі описується інструмент штучного інтелекту, який контролюватиме співробітників під час відеозустрічей.

3. Визнання порушення

   Це розпізнавання емоцій на робочому місці , яке прямо заборонено статтею 5(1)(f) Закону ЄС про штучний інтелект. Немає значення, що це оформлено як «оздоровча ініціатива» або що участь описується як добровільна. Будь-яка система штучного інтелекту, яка виводить емоції на основі біометричних даних (вираз обличчя, тон голосу, мова тіла) на робочому місці, заборонена, якщо вона не використовується з медичних міркувань або міркувань безпеки, а самопочуття та моральний стан не підлягають кваліфікації. Рівень анонімізації та згода співробітників не мають значення.

4. Ескалація до комплаєнсу

   Аліса відразу усвідомлює ризик недотримання вимог. Вона відповідає на електронний лист Девіда, позначаючи проблему та копіюючи повідомлення спеціаліста із захисту даних.

5. Перевірка знань

6. День 3: Соціальний бомбардир

   Через два дні Аліса отримує повідомлення WhatsApp від колеги про нову функцію CRM, яку активував відділ продажів.

7. Виявлення соціального оцінювання

   Аліса уважно читає повідомлення Джеймі. Дві деталі виділяються: клієнти оцінюються за активністю в соціальних мережах, а клієнти з низькими показниками спрямовуються до повільніших черг підтримки.

8. Розуміння соціального оцінювання

   Це соціальна оцінка , заборонена статтею 5(1)(c). Заборонено використовувати штучний інтелект для оцінки людей на основі їхньої соціальної поведінки чи особистих характеристик, а потім використовувати ці оцінки для згубного ставлення до них. Повернення та квитки підтримки самі по собі є звичайними бізнес-даними. Те, що переходить межу, — це оцінка клієнтів за їх активністю в соціальних мережах, поведінкою в непов’язаному контексті та використання цієї оцінки, щоб підштовхнути їх до повільнішої підтримки: шкідливе ставлення, яке є невиправданим і непропорційним. Заборона поширюється незалежно від того, чи відбувається оцінка наявних клієнтів чи потенційних.

9. День 5: Скребок для обличчя

   Через два дні Аліса дізнається, що маркетингова команда створила внутрішню демонстрацію інструменту. Вона відкриває його у своєму браузері, щоб переглянути, над чим вони працювали.

10. Нецільове скрібіння обличчя

    Інструмент FaceWatch збирає загальнодоступні фотографії з профілів соціальних мереж для створення бази даних розпізнавання облич. Згідно зі статтею 5(1)(e), нецілеспрямоване копіювання зображень обличчя з Інтернету або записів із камер відеоспостереження для створення чи розширення баз даних розпізнавання облич прямо заборонено.