Оцінка впливу на основні права

Що таке Оцінка впливу на основні права?

Дізнайтеся, як стаття 27 Закону ЄС про штучний інтелект вимагає від державних органів, постачальників державних послуг і кредитних чи страхових розробників, які використовують штучний інтелект з високим ризиком, проводити оцінку впливу на основні права перед першим використанням. Заповніть FRIA для автоматизованої системи отримання пільг на соціальне житло, оцінивши вплив на недискримінацію, приватність, ефективні засоби правового захисту та людську гідність.

Що ви дізнаєтесь у Оцінка впливу на основні права

• Зрозумійте, коли і чому вимагається FRIA згідно зі статтею 27 Закону ЄС про AI
• Розрізняйте оцінку впливу на захист даних FRIA та GDPR
• Визначте всі категорії постраждалих осіб для системи ШІ високого ризику
• Оцініть, на які фундаментальні права впливає система штучного інтелекту, яка приймає рішення щодо отримання пільг
• Визначте відповідні заходи пом'якшення та плани моніторингу для постійного дотримання

Оцінка впливу на основні права — Кроки навчання

1. Стаття 27: Оцінка впливу на основні права

   Стаття 27 Закону ЄС про штучний інтелект вимагає від певних розробників систем штучного інтелекту з високим рівнем ризику (державні органи, приватні організації, що надають державні послуги та розгортачі штучного інтелекту кредитного скорингу або страхування життя та здоров’я) проводити оцінку впливу на основні права перед першим використанням. Система соціальних пільг на житло, яка діє для муніципальних рад, є предметом: вона вирішує право на державну допомогу (Додаток III 5(a)). FRIA досліджує, як система штучного інтелекту може вплинути на основні права – гідність, недискримінацію, приватність, свободу вираження думок і право на ефективний засіб правового захисту. FRIA відрізняється від GDPR оцінки впливу на захист даних (DPIA). Хоча DPIA зосереджується виключно на ризиках захисту даних, FRIA охоплює всі основні права. Для однієї системи можуть знадобитися обидві оцінки, і їх можна проводити разом.

2. Деталі розгортання

   Електронний лист надійшов від Петри Новак, керівника проекту, відповідального за розгортання ШІ соціального житла. Вона надає деталі, необхідні Алісі для початку FRIA.

3. Керівний документ FRIA

   Перед початком оцінювання Аліса відкриває інструкцію FRIA, посилання на яку міститься в електронному листі Петри. У ньому пояснюється кожен розділ оцінювання, різниця між FRIA та DPIA, а також практичні поради щодо ретельного проходження кожної частини.

4. Відкрийте форму FRIA

   Переглянувши вказівки, Аліса натискає «Продовжити», щоб відкрити контрольний список FRIA — п’ять розділів, що охоплюють основи оцінки впливу на права.

5. Розділ 1: Опис системи

   У першому розділі Аліса просить задокументувати мету системи штучного інтелекту, людей, на яких вона впливає, і масштаби її розгортання. У цій системі постраждалі особи включають: заявників на отримання допомоги – багато з них перебувають у вразливій фінансовій ситуації, на яких безпосередньо впливають рішення щодо відповідності. Суперники – які покладаються на рекомендації ШІ для винесення остаточних рішень. Сім’ї заявників – які залежать від пільг на житло, яких шукає заявник. Система робить рішення, які безпосередньо впливають на доступ до житла - фундаментальна потреба.

6. Перевірка розділу 1

7. Розділ 2: Аналіз основних прав

   Це найбільш критичний розділ FRIA. Аліса повинна оцінити, на які фундаментальні права може вплинути система штучного інтелекту: Право на недискримінацію – штучний інтелект може дискримінувати на основі складу сім’ї, національності чи адреси проживання, використовуючи їх як проксі-змінні для захищених характеристик. Право на конфіденційність – система обробляє конфіденційні персональні дані, зокрема інформацію про доходи, роботу та сім’ю. Право на ефективну інформацію засіб правового захисту - заявники повинні мати можливість оскаржити відмови, керовані ШІ, через зрозумілий, доступний процес апеляції. Право на людську гідність - автоматизовані рішення щодо доступу до житла впливають на фундаментальний аспект життя та гідності людини.

8. Перевірка розділу 2

9. Розділ 3: Оцінка ризиків

   Аліса оцінює кожен вплив на права за серйозністю та ймовірністю. Відмова у доступі до житла має високу суворість; ймовірність залежить від контролю упередженості. Комбінований рейтинг визначає, які пом’якшення мають пріоритет.

10. Перевірка розділу 3