Дієвий людський нагляд

Що таке Дієвий людський нагляд?

Людський нагляд має значення лише тоді, коли людина справді може скасувати рішення машини. Схвалювати все, що запропонує модель, — це не нагляд, і Регламент ЄС про штучний інтелект (AI Act) прямо це зазначає. Ви розглядатимете рекомендації ШІ щодо кредитів у ролі кредитного аналітика, помітите, де упередженість автоматизації підштовхує погодитися, і відпрацюєте самостійне рішення. Після вправи ви зможете відрізняти справжній нагляд від механічного штампування.

Що ви дізнаєтесь у Дієвий людський нагляд

• Зрозумійте, чого вимагають статті 14 і 26 AI Act від дієвого людського нагляду
• Розпізнавайте упередженість автоматизації під час розгляду рекомендацій ШІ й протидійте їй
• Визначайте, коли докази, що суперечать рішенню ШІ, вимагають його скасувати
• Оцінюйте кожну рекомендацію ШІ незалежно від його попередньої точності
• Користуйтеся повноваженням досліджувати рішення ШІ, скасовувати їх або передавати на вищий рівень

Дієвий людський нагляд — Кроки навчання

1. Статті 14 і 26: людський нагляд

   Системам ШІ високого ризику потрібен дієвий людський нагляд. Статті 14 і 26 називають три речі, потрібні тому, хто здійснює нагляд: Компетентність — підготовка, щоб розуміти, на що здатна система ШІ і які в неї обмеження. Повноваження скасовувати рішення ШІ, коли для цього є підстави. Незалежне судження про кожен випадок, а не просто підтвердження рекомендації ШІ. Головна загроза — упередженість автоматизації : надмірна довіра до ШІ, бо він видається авторитетним. Ті, хто здійснює нагляд, мають пам'ятати про це (стаття 14(4)(b)). Оцінювання бізнес-кредитів не входить до переліку з додатка III, який стосується кредитоспроможності фізичних осіб (пункт 5(b)), але Atlas застосовує цей стандарт до кожного кредитного рішення — така політика компанії.

2. Ранкова партія

   Аліса влаштовується в домашньому офісі. У листі від керівника команди Деніела Рейеса — план роботи на день.

3. Повторення настанов щодо нагляду

   За посиланням від Деніела Аліса потрапляє на навчальний портал компанії Atlas Financial Services. На сторінці «Настанови щодо людського нагляду» пояснено, чого від Аліси вимагає дієвий нагляд згідно зі статтями 14 і 26 під час кожного розгляду.

4. Відкриття черги схвалення

   Аліса відкриває чергу схвалення на лівому моніторі. Там чекають п'ять заявок на кредит, і до кожної додано рекомендацію ШІ та показник упевненості.

5. Випадок 1: Meridian Logistics

   Перша заявка — від Meridian Logistics, бізнес-кредит на 150 000 євро. ШІ рекомендує схвалити з упевненістю 95%.

6. Серія схвалень зростає

   Ще два звичайні випадки надходять один за одним. Harrington & Cole — юридична фірма, що працює вже 18 років, просить 45 000 євро на офісне обладнання (упевненість ШІ — 94%). Briarwood Construction — фірма, що працює дев'ять років, просить 280 000 євро проміжного фінансування під державний контракт (упевненість ШІ — 97%, кредит повністю забезпечений заставою).

7. Випадок 4: NovaPeak Digital

   NovaPeak Digital Ltd. просить кредит на розширення — 500 000 євро . ШІ рекомендує схвалити з упевненістю 88% .

8. Проміжна перевірка: пастка серії

9. Випадок 5: GreenLeaf Community Services

   Остання заявка — від GreenLeaf Community Services, організації, що працює вже 3 роки і просить 75 000 євро. Цього разу ШІ з упевненістю 78% рекомендує ВІДХИЛИТИ .

10. Проміжна перевірка: скасування рекомендації ШІ