Оцінка впливу на основоположні права

Що таке Оцінка впливу на основоположні права?

Дізнайтеся, як стаття 27 Регламенту ЄС про ШІ вимагає від розгортачів ШІ високого ризику — органів публічної влади, організацій, що надають публічні послуги, і розгортачів ШІ для кредитного скорингу або для страхування життя та здоров'я — проводити оцінку впливу на основоположні права до першого використання. Проведіть FRIA для автоматизованої системи оцінки права на допомогу на соціальне житло, оцінивши вплив на недискримінацію, приватність, ефективний засіб юридичного захисту та людську гідність.

Що ви дізнаєтесь у Оцінка впливу на основоположні права

• Усвідомлюйте, коли й навіщо потрібна FRIA згідно зі статтею 27 Регламенту ЄС про ШІ
• Розрізняйте FRIA та оцінку впливу на захист даних (DPIA) за GDPR
• Визначайте всі категорії осіб, яких стосується система ШІ високого ризику
• Оцінюйте, на які основоположні права впливає система ШІ, що ухвалює рішення про право на допомогу
• Визначайте належні заходи зі зменшення ризику та плани моніторингу, щоб і надалі дотримуватися вимог

Оцінка впливу на основоположні права — Кроки навчання

1. Стаття 27: оцінка впливу на основоположні права

   Стаття 27 Регламенту ЄС про штучний інтелект (AI Act) зобов'язує певних розгортачів (deployer) систем ШІ високого ризику (органи публічної влади, приватні організації, що надають публічні послуги, а також розгортачів ШІ для кредитного скорингу або для страхування життя та здоров'я) провести оцінку впливу на основоположні права (FRIA) до першого використання. Система допомоги на соціальне житло, яку CivicTech експлуатує за дорученням муніципальних рад, підпадає під дію цієї вимоги: CivicTech надає публічну послугу, вирішуючи, чи має людина право на публічну допомогу (додаток III, пункт 5(a)), тому за статтею 27 CivicTech є розгортачем, який має завершити FRIA. У FRIA розглядають, як система ШІ може вплинути на основоположні права: гідність, недискримінацію, приватність, свободу вираження поглядів і право на ефективний засіб юридичного захисту. FRIA відрізняється від оцінки впливу на захист даних (DPIA) за GDPR. DPIA стосується виключно ризиків для захисту даних, тоді як FRIA охоплює всі основоположні права. Для однієї системи можуть знадобитися обидві оцінки, і їх можна проводити разом.

2. Подробиці розгортання

   Надходить лист від Петри Новак, керівниці проєкту, яка відповідає за розгортання системи ШІ для соціального житла. Вона надає подробиці, потрібні Алісі, щоб розпочати FRIA.

3. Документ із настановами щодо FRIA

   Перш ніж розпочати оцінку, Аліса відкриває документ із настановами щодо FRIA за посиланням з листа Петри. Він пояснює кожен розділ оцінки, різницю між FRIA та DPIA і дає практичні поради, як ретельно заповнити кожну частину.

4. Відкрийте форму FRIA

   Переглянувши настанови, Аліса натискає Continue to FRIA Form → і відкриває контрольний перелік FRIA — п'ять розділів, що охоплюють основні складники оцінки впливу на права.

5. Розділ 1: Опис системи

   У першому розділі Алісі потрібно задокументувати призначення системи ШІ, осіб, на яких вона впливає, і охоплення її розгортання. До осіб, яких це стосується, у цій системі належать: Заявники на допомогу — багато з них у скрутному фінансовому становищі, і рішення про право на допомогу прямо їх зачіпають. Працівники з розгляду справ — вони спираються на рекомендації ШІ, коли ухвалюють остаточні рішення. Сім'ї заявників — вони залежать від допомоги на житло, якої домагається заявник. Система ухвалює рішення, що прямо впливають на доступ до житла — базової потреби людини.

6. Перевірка розділу 1

7. Розділ 2: Аналіз основоположних прав

   Це найважливіший розділ FRIA. Алісі потрібно оцінити, на які основоположні права може вплинути система ШІ: Право на недискримінацію — ШІ може дискримінувати за складом сім'ї, громадянством чи адресою проживання, використовуючи ці ознаки як проксі-змінні для захищених ознак. Право на приватність — система обробляє чутливі персональні дані, зокрема про дохід, зайнятість і сім'ю. Право на ефективний засіб юридичного захисту — заявники повинні мати змогу оскаржити відмови, що ґрунтуються на висновках ШІ, через зрозумілу й доступну процедуру оскарження. Право на людську гідність — автоматизовані рішення щодо доступу до житла зачіпають одну з головних сфер життя людини і її гідність.

8. Перевірка розділу 2

9. Розділ 3: Оцінювання ризиків

   Аліса оцінює кожен вплив на права за тяжкістю та імовірністю. Відмова в доступі до житла має високу тяжкість; імовірність залежить від механізмів контролю упередженості. Сукупна оцінка визначає, які заходи зі зменшення ризику матимуть пріоритет.

10. Перевірка розділу 3