ШІ високого ризику: зобов’язання розгортача

Що таке ШІ високого ризику: зобов’язання розгортача?

Розгортання системи штучного інтелекту з високим рівнем ризику передбачає сім вимог, які мають бути задоволені до запуску, а не модернізовані після цього. Ви запустите перевірку відповідності системи, яка використовується для перевірки продуктивності співробітників, по черзі опрацюєте кожну область вимог і визначите достатньо серйозні прогалини, щоб заблокувати розгортання. Ви підете, знаючи, які зобов’язання ляжуть на вас як розгортача, а не на постачальника.

Що ви дізнаєтесь у ШІ високого ризику: зобов’язання розгортача

• Визначте сім сфер вимог до систем штучного інтелекту високого ризику відповідно до Закону ЄС про штучний інтелект
• Проведіть оцінку відповідності для розгортання штучного інтелекту з високим ризиком
• Визнайте, що людський нагляд не можна замінити показниками точності
• Зрозумійте, що оцінка впливу на основні права є обов’язковою перед першим використанням
• Правильно реагуйте, якщо перед розгортанням виявлені прогалини у відповідності

ШІ високого ризику: зобов’язання розгортача — Кроки навчання

1. Вимоги до штучного інтелекту високого ризику

   Системи штучного інтелекту високого ризику мають найсуворіші зобов’язання відповідно до Закону ЄС про штучний інтелект. Перш ніж розгортати його, організації повинні відповідати вимогам у семи сферах: Управління ризиками - Виявляти та зменшувати ризики протягом усього життєвого циклу системи Керування даними - Переконайтеся, що навчальні дані є релевантними, репрезентативними та вільними від упереджень Технічна документація - Ведіть детальну документацію щодо дизайну системи та функція Ведення записів - Увімкніть журнали аудиту та автоматичне ведення журналів Прозорість - Надайте чітку інформацію розробникам і постраждалим особам Людський нагляд - Переконайтеся, що люди можуть ефективно контролювати систему Точність, надійність і кібербезпека - Зустрічайте продуктивність і безпеку стандарти Ця вправа розглядає процес перегляду та забезпечення відповідності для реального розгортання.

2. Електронна пошта від CISO

   Електронний лист надійшов від Джеймса Мортона, CISO Pinnacle Group. Постачальник штучного інтелекту надав систему перевірки продуктивності співробітників, і Аліса повинна завершити перевірку на відповідність, перш ніж вона буде запущена. Електронний лист містить пряме посилання на Реєстр AI Systems на порталі управління.

3. Реєстр систем AI

   Реєстр систем штучного інтелекту завантажується трьома записами: PerformanceAI (нова система високого ризику, позначена для перевірки), а також дві вже сумісні системи (EmailGuard і ChatAssist). Реєстр відстежує рівень ризику, статус відповідності та історію аудиту для кожної системи ШІ в Pinnacle Group.

4. Оцінка відповідності

   Система PerformanceAI має явні прогалини в статусі відповідності: оцінку впливу на основні права ще не розпочато, не призначено спеціаліста з перевірки, а керування даними все ще очікує на перевірку. Аліса натискає «Запустити оцінку відповідності» в записі PerformanceAI, щоб відкрити детальний контрольний список для цієї системи.

5. Позначити прогалини

   Аліса розглядає кожен розділ вимог і позначає лише елементи, які НЕ задоволені. Управління даними має невирішений недолік: репрезентативність навчальних даних для демографічних показників співробітників ніколи не оцінювалася. У Людського нагляду є ще одна: жодному кваліфікованому рецензенту не було призначено повноваження перевизначення. Решта розділів у хорошому стані, і їх не потрібно нічого позначати.

6. Вимога людського нагляду

   Під час огляду Аліса натрапляє на примітку від постачальника: «Людський нагляд не потрібен, тому що алгоритм має 99,2% точність оцінки продуктивності». Цю заяву необхідно оцінити з тим, що фактично вимагає Закон ЄС про штучний інтелект.

7. Виявлено критичні прогалини

   Перевірка відповідності виявила три критичні прогалини, які необхідно усунути, перш ніж PerformanceAI зможе запрацювати: Немає оцінки впливу на основні права – FRIA не проводилося. Це є обов’язковим перед будь-яким розгортанням штучного інтелекту з високим ризиком відповідно до статті 27. Немає призначеного рецензента . Жодна особа не має повноважень і не має відповідної підготовки для перевизначення показників ефективності штучного інтелекту. Стаття 14 вимагає ефективного людського нагляду. Репрезентативність даних не оцінено – Дані навчання не було оцінено на предмет репрезентативності демографічних груп працівників, що створює потенційний ризик упередженості згідно зі статтею 10. Кожна з цих прогалин означає недотримання законодавства. Систему неможливо розгорнути, доки не буде вирішено всі три проблеми.

8. Електронна пошта для виправлення

   Аліса пише електронний лист до CISO, у якому докладно описує прогалини у відповідності та рекомендує відкласти запуск, доки всі проблеми не будуть вирішені.

9. Відповідність перед розгортанням

   Розгортання штучного інтелекту з високим ризиком – це не просто «встановлення та налаштування». Це структурований процес відповідності з поточними зобов’язаннями. Сім областей вимог не є прапорцями, які потрібно швидко проглядати – вони захищають людей, на яких впливають рішення ШІ. Основні висновки: Усі сім сфер вимог мають бути незалежно задоволені перед розгортанням: управління ризиками, керування даними, технічна документація, ведення записів, прозорість, людський контроль і точність/надійність/кібербезпека. Перед першим використанням будь-якої високоризикової системи ШІ обов’язкова Оцінка впливу на основні права . Відсутність FRIA означає відсутність розгортання. Людський нагляд не можна замінити точністю . Навіть для 99,9% точної системи потрібен призначений спеціаліст із повноваженнями перевизначення. Якщо перевірка відповідності виявить прогалини, правильною реакцією буде відкласти розгортання , доки вони не будуть вирішені, а не розгортати та виправляти пізніше.