Класифікація ризиків ШІ

Що таке Класифікація ризиків ШІ?

Дізнайтеся про чотирирівневу систему класифікації ризиків Закону ЄС про штучний інтелект та попрактикуйтеся класифікувати випадки використання штучного інтелекту в реальному світі. Визначте, які системи заборонені, які вимагають суворої відповідності, а які можуть працювати вільно.

Що ви дізнаєтесь у Класифікація ризиків ШІ

• Визначте чотири рівні ризику, визначені Законом ЄС про штучний інтелект
• Класифікуйте системи ШІ на правильний рівень ризику на основі їх функції та впливу
• Визнати практику штучного інтелекту забороненою відповідно до статті 5
• Зрозумійте категорії високого ризику Додатку III, включаючи працевлаштування та кредитоспроможність
• Розрізняйте зобов’язання щодо прозорості обмеженого ризику та вимоги відповідності вимогам високого ризику

Класифікація ризиків ШІ — Кроки навчання

1. Чотири рівні ризику

   Закон ЄС про штучний інтелект класифікує кожну систему штучного інтелекту на один із чотирьох рівнів ризику, і ця класифікація визначає все наступне: Неприйнятний ризик (заборонено) – практики ШІ, які повністю заборонені. Ці системи не можна розгортати в ЄС за жодних обставин. Високий ризик – системи штучного інтелекту в делікатних сферах, як-от працевлаштування, кредитний рейтинг і правоохоронні органи. Дозволено, але з обов’язковим суворим дотриманням. Обмежений ризик – системи ШІ, які взаємодіють з людьми. Основним обов’язком є ​​прозорість – користувачі повинні знати, що вони мають справу зі ШІ. Мінімальний ризик – переважна більшість систем ШІ. Жодних конкретних зобов’язань відповідно до Закону.

2. Електронний лист від CCO

   Електронний лист приходить від головного спеціаліста з відповідності з терміновим призначенням класифікації.

3. Відкрийте портал оцінювання

   Аліса натискає посилання в електронному листі, щоб відкрити портал Velox GRC, де шість систем ШІ очікують на класифікацію.

4. Перегляньте довідку про рівень ризику

   Цільова сторінка порталу підсумовує чотири рівні ризику, які Аліса використовуватиме для класифікації кожної системи ШІ. Кожен рівень несе різні зобов’язання щодо відповідності – правильна класифікація визначає, яка робота йде далі.

5. Почніть оцінювання

   Щоб розпочати класифікацію, Алісі потрібно ввійти на портал GRC за допомогою облікових даних Velox.

6. Увійдіть на портал GRC

   Аліса входить, використовуючи свої корпоративні облікові дані. Після автентифікації портал завантажить шість систем ШІ, які стоять у черзі на класифікацію.

7. Випадок 1: спам-фільтр електронної пошти

   Перша система штучного інтелекту, яку слід класифікувати, це спам-фільтр електронної пошти. Він використовує машинне навчання для виявлення та фільтрації спаму на основі шаблонів вмісту та репутації відправника.

8. Випадок 2: Інструмент перевірки резюме

   Наступна система оцінює та ранжує резюме претендентів на роботу, автоматично відфільтровуючи кандидатів до того, як їх перегляне людина.

9. Випадок 3: оцінка продуктивності співробітників

   Ця система контролює натискання клавіш, рухи миші та частоту перерв, щоб отримати оцінку продуктивності 0-100 для кожного працівника. Оцінки надаються керівникам відділів щокварталу та впливають на перевірку продуктивності.

10. Чому результативність оцінювання заборонена

    Показник продуктивності співробітників — це одна з тих систем, яка звучить як розумний інструмент управління, але перетинає юридичну межу відповідно до Закону ЄС про штучний інтелект.