Значний людський нагляд

Що таке Значний людський нагляд?

Дізнайтеся, що вимагає «суттєвий людський контроль» відповідно до Закону ЄС про штучний інтелект. Попрактикуйтесь переглядати рекомендації щодо кредитів, створені штучним інтелектом, протистояти упередженню автоматизації та приймати незалежні судження як аналітик кредитного аналізу в компанії, що надає фінансові послуги.

Що ви дізнаєтесь у Значний людський нагляд

• Зрозумійте, що вимагає суттєвий людський нагляд відповідно до статей 14 і 26 Закону ЄС про штучний інтелект
• Визнайте та протистоять упередженості автоматизації під час перегляду рекомендацій ШІ
• Визначте, коли скасовувати рішення ШІ на основі суперечливих доказів
• Оцініть кожну рекомендацію ШІ незалежно незалежно від попередньої точності
• Використовуйте повноваження для розслідування, відхилення або посилення рішень ШІ

Значний людський нагляд — Кроки навчання

1. Статті 14 і 26: Нагляд з боку людини

   Закон ЄС про штучний інтелект вимагає, щоб системи штучного інтелекту з високим ризиком мали суттєвий нагляд з боку людини. Статті 14 і 26 встановлюють три вимоги до рецензента: Ви повинні бути компетентними – навченими розуміти можливості та обмеження системи ШІ. Ви повинні мати повноваження скасовувати рішення ШІ, коли це виправдано. Ви повинні виносити незалежне судження щодо кожного випадку, а не просто підтвердити те, що рекомендує ШІ. Основною загрозою для значущого нагляду є упередженість автоматизації – тенденція надмірно покладатися на рекомендації ШІ, оскільки вони здаються авторитетними. Закон ЄС про штучний інтелект спеціально вимагає заходів для протидії цьому упередженню.

2. Ранкова партія

   Аліса влаштовується у своєму домашньому офісі. Електронний лист від керівника її команди Деніела Рейєса описує роботу за день.

3. Перегляд інструкцій з нагляду

   Посилання Деніела веде Алісу на навчальний портал Atlas Financial. На сторінці Керівних принципів людського контролю викладено, що статті 14 і 26 вимагають від неї під час кожного перегляду.

4. Відкриття черги затвердження

   Аліса відкриває Чергу затвердження на лівому моніторі. Очікується п’ять заявок на позику, кожна з яких позначена рекомендацією ШІ та оцінкою впевненості.

5. Кейс 1: Meridian Logistics

   Перша заявка: Meridian Logistics, бізнес-кредит на суму 150 000 євро. AI рекомендує схвалення з достовірністю 95%.

6. Побудова смуги

   Ще дві рутинні справи припадають на швидку послідовність: Harrington & Cole, 18-річна юридична фірма, яка вимагає 45 000 євро за офісне обладнання (достовірність AI 94%), і Briarwood Construction, дев’ятирічна фірма, яка просить 280 000 євро для перехідного фінансування за державний контракт (довіра AI 97%, повністю забезпечена заставою).

7. Випадок 4: NovaPeak Digital

   NovaPeak Digital Ltd. просить кредит на розширення 500 000 євро . AI рекомендує схвалення з 88% впевненості .

8. Перевірка в середині вправи: Пастка для смуг

   Справа NovaPeak перевірила, чи можете ви протистояти смузі схвалення.

9. Випадок 5: Громадські послуги GreenLeaf

   Остання заявка: GreenLeaf Community Services, трирічна організація, яка запитує 75 000 євро. Цього разу штучний інтелект рекомендує ВІДХИЛИТИ з достовірністю 78%.

10. Перевірка в середині вправи: заміна ШІ

    Справа GreenLeaf перевіряла, чи можна скасувати відхилення штучного інтелекту, якщо фінансові докази підтверджують схвалення.