Заборонені практики ШІ

Що таке Заборонені практики ШІ?

Регламент ЄС про штучний інтелект (AI Act) проводить чіткі червоні лінії. Стаття 5 забороняє вісім категорій практик ШІ й передбачає найвищі штрафи в Регламенті: до 35 млн євро або 7% загального обороту. Ви розпізнаєте заборонені розгортання в організації — зокрема розпізнавання емоцій на робочому місці, соціальний скоринг клієнтів і невибіркове збирання (скрейпінг) зображень облич для біометричних баз даних — і правильно реагуєте ще до запуску кожної системи.

Що ви дізнаєтесь у Заборонені практики ШІ

• Визначайте вісім категорій практик ШІ, заборонених статтею 5 Регламенту ЄС про ШІ
• Розпізнавайте заборонені практики, навіть коли їх подають як корисні інструменти чи добровільні програми
• Розумійте, що згода працівників не скасовує заборон статті 5
• Знайте, як правильно передати питання на вищий рівень, коли виявлено розгортання забороненої практики ШІ
• Розумійте, який рівень штрафів передбачено за заборонені практики (35 млн євро / 7% обороту)

Заборонені практики ШІ — Кроки навчання

1. Абсолютні червоні лінії

   Стаття 5 Регламенту ЄС про ШІ повністю забороняє в ЄС певні практики ШІ. За порушення цих заборон передбачено найвищі штрафи: до 35 млн євро або 7% загального річного обороту, залежно від того, яка сума більша. Вісім заборонених категорій у статті 5(1): (a) Маніпулятивні або оманливі методи, що суттєво спотворюють поведінку й завдають або можуть завдати значної шкоди (b) Використання вразливого становища через вік, інвалідність, соціальне чи економічне становище, щоб суттєво спотворити поведінку так, що це завдає або може завдати значної шкоди (c) Соціальний скоринг, що призводить до несприятливого ставлення в непов'язаних контекстах або до ставлення, яке є необґрунтованим чи непропорційним (d) Прогнозування злочинів лише на підставі профілювання або рис особистості (e) Невибіркове збирання зображень облич з інтернету чи з камер відеоспостереження для баз даних розпізнавання (f) Розпізнавання емоцій на робочому місці чи в закладах освіти (крім випадків, коли це потрібно з медичних міркувань або з міркувань безпеки) (g) Біометрична категоризація для визначення чутливих ознак, як-от раса, політичні погляди чи сексуальна орієнтація (h) Дистанційна біометрична ідентифікація в реальному часі в публічно доступних місцях для правоохоронних цілей, крім пошуку жертв викрадення, торгівлі людьми чи сексуальної експлуатації та зниклих безвісти осіб, запобігання конкретній, суттєвій і неминучій загрозі життю або реальній і наявній чи передбачуваній загрозі терористичного нападу, чи розшуку підозрюваних у вчиненні перелічених тяжких злочинів

2. День 1: лист про відстеження настрою

   Аліса отримує лист від директора відділу кадрів про нову пілотну програму. У листі описано інструмент ШІ, який стежитиме за працівниками під час відеозустрічей.

3. Розпізнавання порушення

   Це розпізнавання емоцій на робочому місці , яке прямо заборонене статтею 5(1)(f) Регламенту ЄС про ШІ. Не має значення, що програму подають як «ініціативу з підтримки добробуту» і називають добровільною. Будь-яка система ШІ, яка визначає емоції за біометричними даними (вираз обличчя, тон голосу, мова тіла) на робочому місці, заборонена, якщо її не застосовують з медичних міркувань або з міркувань безпеки, а добробут і настрій у команді до них не належать. Рівень анонімізації та те, чи дають працівники згоду, нічого не змінюють.

4. Ескалація до відділу комплаєнсу

   Аліса одразу бачить комплаєнс-ризик. Вона відповідає на лист Девіда: вказує на проблему й ставить у копію відповідальну особу з питань захисту персональних даних.

5. Перевірка знань

6. День 3: соціальний скоринг у CRM

   Через два дні Аліса отримує у WhatsApp повідомлення від колеги про нову функцію CRM, що викликає тривогу: її ввімкнув відділ продажів.

7. Розпізнавання соціального скорингу

   Аліса уважно читає повідомлення Джеймі. В око впадають дві деталі: клієнтам присвоюють оцінку за активністю в соцмережах, а клієнтів із низькою оцінкою спрямовують у повільніші черги підтримки.

8. Що таке соціальний скоринг

   Це соціальний скоринг , заборонений статтею 5(1)(c). Повернення товарів і звернення до підтримки — звичайні бізнес-дані. Межу переступає інше: клієнтів оцінюють за активністю в соцмережах, тобто за непов'язаним контекстом, і через цю оцінку переводять їх у повільнішу підтримку. Таке ставлення несприятливе в непов'язаному контексті, а ще воно необґрунтоване й непропорційне; достатньо будь-якої з цих двох умов. Заборона стосується і наявних, і потенційних клієнтів.

9. День 5: скрейпер облич

   Через два дні Аліса дізнається, що відділ маркетингу створив демоверсію внутрішнього інструмента. Вона відкриває її в браузері, щоб подивитися, над чим працювала команда.

10. Невибіркове збирання зображень облич

    Інструмент FaceWatch збирає публічно доступні фотографії з профілів у соцмережах, щоб створити базу даних для розпізнавання облич. Невибіркове збирання зображень облич з інтернету чи записів камер відеоспостереження для створення або розширення баз даних розпізнавання облич прямо заборонене статтею 5(1)(e).