Значний людський нагляд

Що таке Значний людський нагляд?

Людський нагляд має значення лише в тому випадку, якщо людина справді може перевершити машину. Рецензент, який схвалює все, що пропонує модель, нікого не задовольняє, і це сказано в Законі ЄС про штучний інтелект. Як кредитний аналітик ви переглянете рекомендації щодо кредитів, створені штучним інтелектом, помітите, де упередження автоматизації спонукають вас до згоди, і попрактикуєтесь у прийнятті незалежного рішення. Ви підете й зможете відрізнити справжній недогляд від гумового штампа.

Що ви дізнаєтесь у Значний людський нагляд

• Зрозумійте, що вимагає суттєвий людський нагляд відповідно до статей 14 і 26 Закону ЄС про штучний інтелект
• Визнайте та протистоять упередженості автоматизації під час перегляду рекомендацій ШІ
• Визначте, коли скасовувати рішення ШІ на основі суперечливих доказів
• Оцініть кожну рекомендацію ШІ незалежно незалежно від попередньої точності
• Використовуйте повноваження для розслідування, відхилення або посилення рішень ШІ

Значний людський нагляд — Кроки навчання

1. Статті 14 і 26: Нагляд з боку людини

   Закон ЄС про штучний інтелект вимагає, щоб системи штучного інтелекту з високим ризиком мали суттєвий нагляд з боку людини. Статті 14 і 26 встановлюють три вимоги до рецензента: Ви повинні бути компетентними – навчені розуміти можливості й обмеження системи штучного інтелекту. Ви повинні мати повноваження скасовувати рішення штучного інтелекту, коли це виправдано. Ви повинні виконуйте незалежне судження щодо кожного випадку, а не просто підтверджуйте те, що рекомендує ШІ. Основною загрозою для суттєвого контролю є упередженість автоматизації — тенденція надмірно покладатися на рекомендації ШІ, оскільки вони здаються авторитетними. Закон ЄС про штучний інтелект спеціально вимагає вжиття заходів для протидії цьому упередженню. Скоринг бізнес-позик не входить до списку високого ризику Додатку III, який стосується кредитоспроможності фізичних осіб (пункт 5(b)). У будь-якому випадку Atlas застосовує стандарт Статті 14 і 26 до кожного кредитного рішення як політику компанії.

2. Ранкова партія

   Аліса влаштовується у своєму домашньому офісі. Електронний лист від керівника її команди Деніела Рейєса описує роботу за день.

3. Перегляд інструкцій з нагляду

   Посилання Деніела веде Алісу на навчальний портал Atlas Financial. На сторінці Керівних принципів людського контролю викладено, що статті 14 і 26 вимагають від неї під час кожного перегляду.

4. Відкриття черги затвердження

   Аліса відкриває Чергу затвердження на лівому моніторі. Очікується п’ять заявок на позику, кожна з яких позначена рекомендацією ШІ та оцінкою впевненості.

5. Кейс 1: Meridian Logistics

   Перша заявка: Meridian Logistics, бізнес-кредит на суму 150 000 євро. AI рекомендує схвалення з достовірністю 95%.

6. Побудова смуги

   Ще дві рутинні справи припадають на швидку послідовність: Harrington & Cole, 18-річна юридична фірма, яка вимагає 45 000 євро за офісне обладнання (достовірність AI 94%), і Briarwood Construction, дев’ятирічна фірма, яка просить 280 000 євро для перехідного фінансування за державний контракт (довіра AI 97%, повністю забезпечена заставою).

7. Випадок 4: NovaPeak Digital

   NovaPeak Digital Ltd. просить кредит на розширення 500 000 євро . AI рекомендує схвалення з 88% впевненості .

8. Перевірка в середині вправи: Пастка для смуг

9. Випадок 5: Громадські послуги GreenLeaf

   Остання заявка: GreenLeaf Community Services, трирічна організація, яка запитує 75 000 євро. Цього разу штучний інтелект рекомендує ВІДХИЛИТИ з достовірністю 78%.

10. Перевірка в середині вправи: заміна ШІ