Постачальник проти розгортача: хто несе відповідальність?

Що таке Постачальник проти розгортача: хто несе відповідальність??

Зрозумійте важливу різницю між постачальниками та розгортачами штучного інтелекту відповідно до Закону ЄС про штучний інтелект. Дізнайтеся, чому купівля сумісного продукту постачальника не звільняє вашу компанію від її власних юридичних зобов’язань, і попрактикуйтесь оцінювати документацію постачальника про відповідність під час закупівель.

Що ви дізнаєтесь у Постачальник проти розгортача: хто несе відповідальність?

• Розрізняйте ролі постачальника та розгортача відповідно до Закону ЄС про штучний інтелект
• Визначте конкретні обов’язки, які належать до кожної ролі
• Зрозумійте, чому дотримання вимог постачальника не відповідає зобов’язанням розгортача
• Визнавати неправильно класифіковані продукти ШІ під час перевірки закупівель
• Застосовуйте незалежну оцінку ризиків у рамках належної перевірки закупівель

Постачальник проти розгортача: хто несе відповідальність? — Кроки навчання

1. Постачальник проти розгортача

   Закон ЄС про штучний інтелект визначає різні зобов’язання залежно від вашої ролі в ланцюжку створення вартості штучного інтелекту: Постачальник – компанія, яка розробляє систему штучного інтелекту або виводить її на ринок. Відповідає за оцінку відповідності, маркування CE та технічну документацію. Розробник – компанія, яка використовує систему ШІ під власним повноваженням. Відповідає за оцінку впливу на фундаментальні права, людський нагляд, моніторинг і звітування про інциденти. BrightPath Consulting є розгортачем. Коли компанія купує інструмент штучного інтелекту постачальника, відповідність постачальника вимогам не звільняє BrightPath від його власних юридичних зобов’язань відповідно до Закону.

2. Електронна пошта від ІТ-директора

   Електронний лист надійшов від Рейчел Кім, ІТ-директора BrightPath. Три постачальники штучного інтелекту надіслали пропозиції, і Алісі необхідно оцінити їх відповідність перед тим, як приймати рішення щодо закупівлі.

3. Постачальник 1: TalentMatch AI

   Аліса натискає посилання TalentMatch AI в електронному листі Рейчел, щоб відкрити документацію про відповідність постачальника. Цей постачальник добре виконав свої зобов’язання перед постачальником: завершено оцінку відповідності, отримано маркування CE, доступна технічна документація та чітко визначено призначення. Система класифікується як висока небезпека відповідно до Додатку III, область 4 (працездатність).

4. Зобов’язання розгортача для ШІ високого ризику

   Незважаючи на те, що TalentMatch AI є сумісним постачальником, BrightPath як розробник має власний набір обов’язкових зобов’язань відповідно до Закону ЄС про AI. Ці зобов’язання існують незалежно від статусу відповідності постачальника. Аліса відкриває контрольний список обов’язків розробника, посилання на який міститься в електронному листі Рейчел.

5. Перевірка знань: відповідальність FRIA

   Перш ніж переглядати наступного постачальника, давайте підтвердимо ключову концепцію щодо зобов’язань розгортача.

6. Постачальник 2: QuickReply Bot

   Наступним постачальником є QuickReply Bot, чат-бот для обслуговування клієнтів. Аліса натискає посилання QuickReply Bot в електронному листі Рейчел. Це система штучного інтелекту з обмеженим ризиком, основним обов’язком її постачальника є документація прозорості, яка виконана. Зобов’язання розгортача BrightPath тут простіші: переконайтеся, що клієнти знають, що вони спілкуються з ШІ, а не з людиною.

7. Постачальник 3: InsightIQ

   Остаточним постачальником є InsightIQ, платформа аналітики продуктивності співробітників на базі ШІ. Аліса натискає посилання InsightIQ в електронному листі Рейчел, щоб відкрити сторінку продукту. Дещо в претензіях цього постачальника має підняти червоний прапор.

8. Проблема неправильної класифікації

   InsightIQ обробляє дані про продуктивність співробітників, щоб давати рекомендації щодо просування та складу команди. Це пов’язане з роботою рішення щодо штучного інтелекту, яке є високим ризиком згідно з Додатком III Закону ЄС про штучний інтелект. Постачальник або навмисно неправильно класифікував продукт, щоб уникнути витрат на відповідність, або справді не розуміє положення. У будь-якому випадку BrightPath не може покладатися на самокласифікацію постачальника. Як розгортач, компанія має незалежний обов’язок перевірити класифікацію ризику перед розгортанням.

9. Перевірка знань: неправильно класифікований постачальник

   Критичний сценарій закупівлі, який перевіряє ваше розуміння обов’язків розгортача, коли заяви постачальника не відповідають дійсності.

10. Надіслати рекомендації щодо закупівлі

    Аліса відповідає Рейчел рекомендацією для кожного постачальника: які інструменти BrightPath може розгортати, за яких умов розгортання, а від якого слід відмовитися.