Категорії ризику Закону ЄС про ШІ: 4 рівні

Закон ЄС про ШІ не ставиться до кожної системи однаково. Він побудований на основі ризику, тож обовʼязки для спам-фільтра геть не схожі на обовʼязки для інструмента відбору резюме чи моделі кредитного скорингу.

Саме це одне рішення, до якої категорії ризику належить ваша система, визначає майже все інше: засоби контролю, які ви маєте, документацію, яку ви ведете, і розмір штрафу, якщо ви помилитеся.

Закон ЄС про ШІ розподіляє кожну систему ШІ на чотири категорії ризику: неприйнятний ризик (заборонено повністю), високий ризик (суворо регульований), обмежений ризик (обовʼязки щодо прозорості) і мінімальний ризик (без додаткових правил). Категорія визначає, які обовʼязки застосовуються. Більшість повсякденних бізнес-інструментів потрапляють до обмеженого чи мінімального ризику, але рівень треба перевіряти для кожного впровадження.

Чотири рівні часто зображають як піраміду: найменша група заборонених систем угорі й велика більшість нешкідливих систем в основі. Таблиця нижче підсумовує, що означає кожен рівень.

Рівень ризику	Що означає	Приклади	Основний обовʼязок
Неприйнятний	Заборонено за Статтею 5	Соціальний скоринг, нецільовий збір облич, розпізнавання емоцій на роботі	Не можна виводити на ринок
Високий	Суворо регульований (Додаток III і Додаток I)	Відбір резюме, кредитний скоринг, медичний тріаж, біометрична ідентифікація	Управління ризиками, керування даними, людський нагляд, FRIA
Обмежений	Обовʼязки щодо прозорості (Стаття 50)	Чат-боти, дипфейки, розпізнавання емоцій	Розкрити взаємодію з ШІ та синтетичний контент
Мінімальний	Без додаткових обовʼязків	Спам-фільтри, ШІ в іграх, прогнозування запасів	Лише грамотність ШІ за Статтею 4

Системи неприйнятного ризику заборонено повністю. Стаття 5 перелічує вісім категорій практик ШІ, які взагалі не можна виводити на ринок ЄС чи вводити в експлуатацію, бо ризик для основних прав визнано надто високим, щоб керувати ним засобами контролю.

Заборонені категорії охоплюють приховані чи маніпулятивні техніки, що спотворюють поведінку, експлуатацію вразливостей, повʼязаних із віком чи інвалідністю, соціальний скоринг публічними органами та нецільовий збір зображень облич для побудови баз розпізнавання. Вони також охоплюють розпізнавання емоцій на робочих місцях і в школах, біометричну категоризацію за чутливими ознаками й більшість випадків віддаленої біометричної ідентифікації в реальному часі в публічних місцях правоохоронними органами.

Цей рівень несе найвищий штраф у регламенті — до €35 мільйонів або 7% глобального річного обороту. Розпізнати заборонене використання, перш ніж продукт вийде, — це навичка для команд закупівель і продукту, і саме її тренує вправа «Заборонені практики ШІ».

Системи високого ризику дозволені, але лише за найсуворіших засобів контролю в Законі. Система є високого ризику, якщо вона зʼявляється в Додатку III або є компонентом безпеки продукту, що вже регулюється правом ЄС у Додатку I.

Додаток III перелічує вісім сфер: біометрія, критична інфраструктура, освіта, працевлаштування, основні публічні та приватні послуги, правоохоронна діяльність, міграція й прикордонний контроль, а також відправлення правосуддя. Інструмент відбору резюме, модель кредитного скорингу й система медичного тріажу — хрестоматійні приклади високого ризику, бо вони ухвалюють або підтримують рішення, що впливають на засоби до існування, безпеку чи права людей.

Більшість організацій є впроваджувачами кількох систем високого ризику, навіть не усвідомлюючи цього. Вправа «ШІ високого ризику: обовʼязки впроваджувача» проводить через сім напрямів відповідності, які вирішують, чи готовий запуск високого ризику, чи його слід заблокувати.

Системи високого ризику несуть найглибший набір обовʼязків у регламенті. Постачальники мають вбудувати управління ризиками, керування даними, журналювання, прозорість і моніторинг після виходу на ринок, а впроваджувачі мають експлуатувати систему за визначених засобів контролю.

Людський нагляд є центральним. Стаття 14 вимагає, щоб системи високого ризику були спроєктовані так, аби людина могла розуміти, відстежувати й перевизначати їх, і вправа «Значущий людський нагляд» відпрацьовує перевизначення рекомендації ШІ, коли докази не збігаються. Керування даними важить не менше, бо упереджений чи дірявий набір для навчання дає невідповідну систему, і цей ризик унаочнює вправа «Керування даними для ШІ».

Два додаткові обовʼязки застосовуються до окремих впроваджувачів. Публічні органи й деякі оператори високого ризику мають провести Оцінку впливу на основні права перед першим використанням, що охоплює вправа «Оцінка впливу на основні права (FRIA)». А оскільки дискримінація — часта причина збоїв, вправа «Упередженість і дискримінація в ШІ» показує, як проксі-змінні ховаються всередині моделі відбору резюме.

Системи обмеженого ризику підпадають під обовʼязки щодо прозорості, а не під повний режим високого ризику. Тут стурбованість у тому, що люди мають знати, коли мають справу зі ШІ або з контентом, згенерованим ШІ.

Стаття 50 охоплює цей рівень. Системи, що взаємодіють із людьми, як-от чат-боти, мають розкривати, що людина спілкується з машиною, якщо це не очевидно. Постачальники систем, що генерують синтетичне аудіо, зображення чи відео, мають позначати результат як штучний, а впроваджувачі, що створюють дипфейки, мають розкривати, що контент згенеровано або змінено.

Правильне виконання цих розкриттів — це радше операційне завдання, ніж юридичне. Вправа «Прозорість і розкриття ШІ» тренує команди правильно позначати чат-боти й синтетичні медіа за Статтею 50.

Системи мінімального ризику складають велику більшість ШІ у вжитку сьогодні, і вони не несуть обовʼязків понад базовий рівень. Спам-фільтри, ШІ у відеоіграх, прогнозування запасів і функції рекомендацій зазвичай тут.

Єдиний обовʼязок, що все ж застосовується, — це вимога щодо грамотності ШІ за Статтею 4, яка сягає кожного постачальника й впроваджувача незалежно від рівня. Персонал, що користується навіть інструментами мінімального ризику, має розуміти, що система може і чого не може.

Підступ у тому, що класифікація не є постійною. Інструмент мінімального ризику, перепрофільований під рішення з високими ставками, може піднятися на рівень, і саме тому рівень треба переглядати щоразу, коли використання системи змінюється.

Класифікація починається з призначеної мети системи, а не з технології в її основі. Та сама модель може бути мінімального ризику в одному впровадженні й високого ризику в іншому, тож питання завжди в тому, що система використовується вирішувати.

Працюйте згори вниз по рівнях, і перший збіг визначає класифікацію:

1. Чи заборонено використання за Статтею 5? Якщо так, це неприйнятний ризик, і воно не може продовжуватися.
2. Чи зʼявляється воно в Додатку III або входить до регульованого продукту за Додатком I? Якщо так, це високий ризик.
3. Чи спрацьовують обовʼязки щодо прозорості за Статтею 50, як-от чат-бот чи дипфейк? Якщо так, це обмежений ризик.
4. Усе, що залишається, є мінімальним ризиком.

Вправа «Класифікація ризиків ШІ» проводить реальні впровадження саме через цей процес сортування, і це найкорисніша навичка для будь-кого, хто будує реєстр ШІ. Про терміни, привʼязані до кожного рівня, дивіться наш посібник із графіка Закону ЄС про ШІ.

Роль мають обидва, і плутати їх — поширена прогалина у відповідності. Постачальник розробляє систему ШІ або замовляє її розробку й виводить на ринок, тоді як впроваджувач використовує систему під власним керівництвом у професійному середовищі.

Відповідний продукт від постачальника не робить ваше впровадження відповідним. Постачальник класифікує й документує систему, яку продає, але впроваджувач відповідає за те, як її фактично використовують, зокрема за людський нагляд, моніторинг і будь-яку оцінку впливу на основні права. Вправа «Відповідальність постачальника та впроваджувача» унаочнює цей розподіл реалістичним сценарієм.

Більшість підприємств є впроваджувачами багатьох систем і постачальниками кількох. Визначення ролі для кожної системи — частина побудови обороноздатного реєстру ШІ, і про це ми розповідаємо в посібнику із графіка Закону ЄС про ШІ.

Закон про ШІ і GDPR застосовуються одночасно, і система ШІ високого ризику, що обробляє персональні дані, має задовольняти обидва. Категорія ризику за Законом про ШІ не замінює ваші обовʼязки щодо захисту даних; вона лягає поверх них.

Система високого ризику, що профілює людей, часто запускає Оцінку впливу на захист даних за GDPR поряд з Оцінкою впливу на основні права за Законом про ШІ. Законна підстава, мінімізація даних і права субʼєктів даних усе ще застосовуються. Вправа «ШІ та захист даних» проводить медичний ШІ через обидва режими одночасно, щоб команди побачили, де обовʼязки збігаються, а де відрізняються.

Саме цей перетин пояснює, чому єдина узгоджена програма навчання ефективніша за окремі треки. Надійна програма навчання працівників за GDPR уже охоплює роботу з даними, від якої залежить ШІ високого ризику, а неконтрольовані інструменти, що їх виявляє тіньовий ШІ, часто порушують обидва режими одразу.

RansomLeak перетворює рамку на основі ризику на рольові сценарії, а не на набори слайдів. Окремий курс із Закону ЄС про ШІ охоплює всі чотири рівні, процес класифікації й обовʼязки, привʼязані до кожного рівня, а кожен модуль експортується у SCORM для LMS, яку перевірятиме аудитор.

Каталог приватності та відповідності містить повний курс із Закону ЄС про ШІ поряд зі сценаріями GDPR, а каталог безпеки ШІ охоплює інʼєкції в підказки, дипфейки й ризики LLM, що перетинаються з OWASP LLM Top 10. Для розбору регламенту від початку до кінця наш посібник із навчання за Законом ЄС про ШІ накладає кожен обовʼязок на конкретну вправу.

Якщо хочете побачити, як навчання на основі сценаріїв накладається на чотири рівні ризику, замовте демонстрацію з нашою командою.

Закон ЄС про ШІ визначає чотири рівні ризику: неприйнятний ризик (заборонені системи за Статтею 5), високий ризик (суворо регульовані системи в Додатку III і Додатку I), обмежений ризик (системи з обовʼязками щодо прозорості за Статтею 50, як-от чат-боти й дипфейки) і мінімальний ризик (усе інше, без обовʼязків понад грамотність ШІ за Статтею 4). Рівень визначає, які обовʼязки застосовуються.

Поширені приклади високого ризику охоплюють ШІ для відбору кандидатів на роботу, оцінки кредитоспроможності, підтримки медичного тріажу чи біометричної ідентифікації. Вони зʼявляються в Додатку III, бо ухвалюють або підтримують рішення, що впливають на засоби до існування, безпеку чи основні права людей. ШІ, що використовується як компонент безпеки в регульованому продукті, як-от медичний виріб, також є високого ризику.

Стаття 5 забороняє вісім категорій, зокрема маніпулятивні чи експлуататорські системи, соціальний скоринг публічними органами, нецільовий збір зображень облич, розпізнавання емоцій на роботі та в школах, біометричну категоризацію за чутливими ознаками й більшість випадків віддаленої біометричної ідентифікації в реальному часі в публічних місцях правоохоронними органами. Їх не можна виводити на ринок ЄС, і вони несуть найвищий рівень штрафу.

Постачальник класифікує й документує систему, яку виводить на ринок, але впроваджувач залишається відповідальним за те, як систему використовують. Відповідний продукт не гарантує відповідного впровадження. Обидва мають класифікувати за призначеною метою, працюючи згори вниз від забороненого до високого, обмеженого й мінімального ризику.

Так. Класифікація залежить від призначеної мети, тож система може переходити між рівнями, коли її використання змінюється. Інструмент мінімального ризику, перепрофільований під рішення з високими ставками, може стати високого ризику, і саме тому класифікацію слід переглядати щоразу, коли впровадження системи змінюється.

Ставлення до системи високого ризику як до обмеженого чи мінімального ризику означає пропуск засобів контролю, яких вимагає Закон, а це невідповідність. Штрафи за порушення більшості обовʼязків сягають до €15 мільйонів або 3% глобального річного обороту, а порушення заборони за Статтею 5 сягає €35 мільйонів або 7%. Точна класифікація — це і є засіб контролю, що запобігає обом.

Закон ЄС про ШІ побудований навколо чотирьох рівнів ризику, і рівень, який ви присвоюєте системі, визначає все подальше. Системи неприйнятного ризику заборонено, системи високого ризику несуть найважчі засоби контролю, системи обмеженого ризику винні прозорість, а системи мінімального ризику винні лише грамотність ШІ.

Класифікація — це навичка, а не разова форма. Сортуйте за призначеною метою, працюйте згори вниз, визначте свої ролі постачальника й впроваджувача й переглядайте рівень щоразу, коли використання системи змінюється.

Якщо ваша організація використовує ШІ в Європі й хоче навчання на основі сценаріїв за кожним рівнем ризику, перегляньте каталог приватності та відповідності або поспілкуйтеся з нашою командою.

• Регламент (ЄС) 2024/1689 (Закон про ШІ) — Офіційний вісник
• Європейська Комісія: регуляторна рамка Закону про ШІ
• Європейський Парламент: Закон ЄС про ШІ і рівні ризику
• Офіс ЄС з питань ШІ