Звіт про інциденти ШІ

Що таке Звіт про інциденти ШІ?

Стаття 73 Закону ЄС про штучний інтелект вимагає від постачальників і розробників систем штучного інтелекту з високим рівнем ризику повідомляти про серйозні інциденти органи ринкового нагляду в суворі терміни. У цій вправі ви досліджуєте систему адаптації клієнтів на базі штучного інтелекту, яка відхиляла заявників із певних регіонів, визначаєте, чи відповідає аномалія порогу статті 73 для серйозного інциденту, локалізуєте пошкодження, подаєте звіт і протидієте тиску постачальника щодо відстрочки.

Що ви дізнаєтесь у Звіт про інциденти ШІ

• Визначте, що вважається «серйозним інцидентом» згідно зі статтею 73 Закону ЄС про AI
• Застосуйте правильний порядок реагування: локалізувати, розслідувати/повідомити, виправити
• Зрозуміти графік звітності для постачальників і розгортачів систем ШІ з високим рівнем ризику
• Визнайте та протидійте тиску з метою відстрочення обов’язкового звітування про інциденти
• Точно документуйте випадки штучного інтелекту для передачі в органи ринкового нагляду

Звіт про інциденти ШІ — Кроки навчання

1. Стаття 73: Повідомлення про серйозні інциденти

   Згідно зі статтею 73 Закону ЄС про штучний інтелект, постачальники та розгортачі систем штучного інтелекту високого ризику повинні повідомляти про «серйозні інциденти» відповідному органу з нагляду за ринком. Серйозний інцидент – це той, який може спричинити порушення основних прав або спричинити смерть, серйозну шкоду здоров’ю, майну чи довкіллю. Строки подання звітів суворі, і як постачальники, так і розгортачі мають чіткі зобов’язання. Сьогодні одна із систем ШІ вашої компанії запустила саме цей сценарій.

2. Термінова ескалація підтримки

   Аліса отримує терміновий електронний лист від служби підтримки клієнтів. Вони помітили тривожну закономірність у системі OnboardAI — інструменті адаптації клієнтів компанії на базі ШІ.

3. Перевірка приладової панелі AI

   Аліса відкриває інформаційну панель моніторингу ШІ, щоб підтвердити аномалію за допомогою точних даних. Інформаційна панель відстежує всі системні показники AI, включаючи рівень затвердження, сповіщення та експлуатаційні витрати.

4. Підтвердження аномалії

   Інформаційна панель підтверджує повідомлення служби підтримки клієнтів. Критичне сповіщення демонструє чітку систематичну модель регіональної дискримінації системою OnboardAI.

5. Це інцидент, про який можна повідомити?

6. Негайна локалізація

   Дані зрозумілі. Тепер Аліса повинна визначити: чи відповідає це порогу «серйозного інциденту» за статтею 73? Відповідь - так. Систематична дискримінація, яка стосується 230 заявників, є потенційним порушенням права на недискримінацію – фундаментального права, яке захищене законодавством ЄС. Ключові фактори, які роблять це звітним: Систематичний шаблон: Не випадкова помилка, а постійний показник 0% схвалення (100% відхилення) протягом 7 днів Вплив на основні права: Право на недискримінацію є захищеною основою право Значний масштаб: 230 особам було відмовлено в доступі до послуг залежно від їхнього регіону Постійна шкода: Зараз система все ще активно відхиляє заявників Згідно зі статтею 73, серйозний інцидент включає будь-яку подію, яка може становити порушення зобов’язань за законодавством Союзу, спрямованих на захист основних прав. Регіональна дискримінація в доступі до послуг є чіткою. Перш ніж досліджувати першопричину або подавати офіційний звіт, першочерговим завданням є стримування. Система OnboardAI зараз активно відхиляє заявників із постраждалих регіонів. На інформаційній панелі штучного інтелекту Аліса зупиняє систему OnboardAI і направляє всі програми з трьох уражених регіонів на ручну обробку. Більше ніяких автоматизованих рішень, доки система не буде досліджена та очищена. Правильний порядок відповідей: спочатку містить , потім розслідуйте та звітуйте. Ніколи не чекайте аналізу першопричини, перш ніж зупинити поточну шкоду.

7. Вхід на портал інцидентів

   Отримавши систему, Аліса відкриває внутрішній портал звітів про інциденти. Доступ обмежено для уповноваженого оперативного персоналу – вона входить у систему, використовуючи свої корпоративні облікові дані, перш ніж подавати звіт.

8. Подання звіту про подію

   Аліса заповнює звіт про інцидент фактами, підтвердженими командою підтримки, і діями зі стримування, які вже вжила оперативна група. Цей звіт буде направлено до групи комплаєнс, яка перешле його до органу ринкового нагляду.

9. Чому кожен розділ важливий

   Тепер звіт є частиною офіційного протоколу. Кожен розділ служить певній меті для команди комплаєнсу та органу ринкового нагляду.

10. Графіки звітування

    Звіт подано внутрішньо. Тепер починається юридичний термін. Згідно зі статтею 73, постачальники систем штучного інтелекту високого ризику повинні повідомляти про серйозні інциденти органу ринкового нагляду: Iнегайно після того, як постачальник або розробник встановить причинно-наслідковий зв’язок між системою штучного інтелекту та інцидентом Не пізніше ніж через 15 днів після того, як стало відомо про серйозні інцидент Швидше у найсерйозніших випадках: не пізніше ніж через 2 дні у випадку широкомасштабного порушення чи серйозного та незворотного порушення критичної інфраструктури та не пізніше ніж через 10 днів, якщо людина загинула Розробники повинні негайно повідомити провайдера, а потім орган ринкового нагляду (стаття 26(5)). І постачальники, і розгортачі повинні повністю співпрацювати з будь-яким подальшим розслідуванням з боку влади. SynapseAI розгортає OnboardAI, але не створював його – постачальник є постачальником OnboardAI. SynapseAI повинен негайно повідомити їх, щоб вони могли виконати свої зобов’язання щодо звітності.