Класифікація ризиків ШІ

Що таке Класифікація ризиків ШІ?

Закон ЄС про штучний інтелект розподіляє системи на чотири рівні, і рівень визначає зобов’язання. Помилившись у класифікації, ви або доставите щось заборонене, або витратите місяці на відповідність інструменту з мінімальним ризиком, який ніколи не потрібен. Ви класифікуватимете випадки реального використання за рівнями, визначаючи, які напряму заборонені, які пов’язані з високим ризиком і суворими обов’язками, які потребують лише прозорості та які можуть працювати вільно.

Що ви дізнаєтесь у Класифікація ризиків ШІ

• Визначте чотири рівні ризику, визначені Законом ЄС про штучний інтелект
• Класифікуйте системи ШІ на правильний рівень ризику на основі їх функції та впливу
• Визнати практику штучного інтелекту забороненою відповідно до статті 5
• Зрозумійте категорії високого ризику Додатку III, включаючи працевлаштування та кредитоспроможність
• Розрізняйте зобов’язання щодо прозорості обмеженого ризику та вимоги відповідності вимогам високого ризику

Класифікація ризиків ШІ — Кроки навчання

1. Чотири рівні ризику

   Закон ЄС про штучний інтелект класифікує кожну систему штучного інтелекту на один із чотирьох рівнів ризику, і ця класифікація визначає все наступне: Неприйнятний ризик (заборонено) – практики ШІ, які повністю заборонені. Ці системи не можна розгортати в ЄС за жодних обставин. Високий ризик – системи штучного інтелекту в делікатних сферах, як-от працевлаштування, кредитний рейтинг і правоохоронні органи. Дозволено, але з обов’язковим суворим дотриманням. Обмежений ризик – системи ШІ, які взаємодіють з людьми. Основним обов’язком є прозорість – користувачі повинні знати, що вони мають справу зі ШІ. Мінімальний ризик – переважна більшість систем ШІ. Жодних конкретних зобов’язань відповідно до Закону.

2. Електронний лист від CCO

   Електронний лист приходить від головного спеціаліста з відповідності з терміновим призначенням класифікації.

3. Відкрийте портал оцінювання

   Аліса натискає посилання в електронному листі, щоб відкрити портал Velox GRC, де шість систем ШІ очікують на класифікацію.

4. Перегляньте довідку про рівень ризику

   Цільова сторінка порталу підсумовує чотири рівні ризику, які Аліса використовуватиме для класифікації кожної системи ШІ. Кожен рівень несе різні зобов’язання щодо відповідності – правильна класифікація визначає, яка робота йде далі.

5. Почніть оцінювання

   Щоб розпочати класифікацію, Алісі потрібно ввійти на портал GRC за допомогою облікових даних Velox.

6. Увійдіть на портал GRC

   Аліса входить, використовуючи свої корпоративні облікові дані. Після автентифікації портал завантажить шість систем ШІ, які стоять у черзі на класифікацію.

7. Випадок 1: спам-фільтр електронної пошти

   Перша система штучного інтелекту, яку слід класифікувати, це спам-фільтр електронної пошти. Він використовує машинне навчання для виявлення та фільтрації спаму на основі шаблонів вмісту та репутації відправника.

8. Випадок 2: Інструмент перевірки резюме

   Наступна система оцінює та ранжує резюме претендентів на роботу, автоматично відфільтровуючи кандидатів до того, як їх перегляне людина.

9. Випадок 3: Монітор емоцій співробітників

   Ця система використовує відео з веб-камери та тон голосу під час дзвінків, щоб визначити емоції кожного співробітника (стрес, розчарування, залученість). Менеджери отримують щотижневу оцінку залученості для кожного співробітника, і оцінки враховуються в оцінках ефективності. Employee Emotion Monitor — це одна з тих систем, яка звучить як розумний інструмент управління, але перетинає юридичну межу відповідно до Закону ЄС про штучний інтелект.

10. Чому Emotion Monitor заборонено