Повідомлення про інциденти ШІ

Повідомлення про інциденти ШІ

Система ШІ починає відхиляти заявки цілих регіонів. Відлік уже йде.

Що таке Повідомлення про інциденти ШІ?

Стаття 73 Регламенту ЄС про штучний інтелект (AI Act) зобов'язує постачальників систем ШІ високого ризику повідомляти органи ринкового нагляду про серйозні інциденти у жорстких строках, а розгортачі (deployers) мають поінформувати постачальника й орган. Ви розслідуєте роботу системи онбордингу клієнтів на основі ШІ, яка відхиляє заявників з окремих регіонів, визначаєте, чи досягає ця аномалія порогу серйозного інциденту за статтею 73, локалізуєте шкоду, подаєте звіт і не піддаєтеся тиску вендора, який вимагає зволікати.

Що ви дізнаєтесь у Повідомлення про інциденти ШІ

Повідомлення про інциденти ШІ — Кроки навчання

  1. Стаття 73: повідомлення про серйозні інциденти

    Коли система ШІ високого ризику спричиняє серйозний інцидент, Регламент ЄС про ШІ встановлює жорсткі строки повідомлення. Постачальники повідомляють про нього орган ринкового нагляду (стаття 73), а розгортачі інформують постачальника й орган (стаття 26(5)). Серйозний інцидент — це подія, що призвела до смерті чи серйозної шкоди здоров'ю, серйозного й незворотного збою у функціонуванні критичної інфраструктури, порушення права ЄС, яке захищає основоположні права, або серйозної шкоди майну чи довкіллю (стаття 3(49)). Сьогодні одна із систем ШІ у вашій компанії спричинила саме такий інцидент.

  2. Термінова ескалація від підтримки

    Аліса отримує терміновий лист від служби підтримки клієнтів. Колеги помітили тривожну закономірність у роботі системи OnboardAI — інструмента компанії на основі ШІ для онбордингу клієнтів.

  3. Перевірка панелі ШІ

    Аліса відкриває панель моніторингу ШІ, щоб підтвердити аномалію точними даними. На панелі зібрано показники всіх систем ШІ: рівень схвалення, сповіщення й операційні витрати.

  4. Підтвердження аномалії

    Панель підтверджує те, про що повідомила служба підтримки клієнтів. Критичне сповіщення показує чітку системну закономірність: система OnboardAI дискримінує заявників залежно від регіону.

  5. Чи потрібно повідомляти про цей інцидент?

  6. Негайна локалізація

    Чи досягає це порогу «серйозного інциденту», визначеного статтею 3(49)? Так: інцидент, що прямо чи опосередковано призводить до порушення права Союзу, спрямованого на захист основоположних прав, підпадає під це визначення, а системна дискримінація 230 заявників порушує право не зазнавати дискримінації. Системна закономірність: рівень схвалення стабільно 0% (відмови — 100%) протягом 7 днів Вплив на основоположні права: недискримінація — захищене право Значний масштаб: 230 осіб не отримали доступу до послуг через свій регіон Шкода триває: система й досі відхиляє заявки Найперше — локалізувати інцидент. На панелі ШІ Аліса зупиняє OnboardAI і переводить заявки з трьох зачеплених регіонів на ручну обробку. Правильний порядок: спершу локалізувати , потім розслідувати й повідомляти. Не можна чекати на аналіз першопричини: шкоду, що триває, треба зупинити одразу.

  7. Вхід на портал інцидентів

    Після локалізації Аліса відкриває внутрішній портал повідомлень про інциденти. Доступ мають лише уповноважені працівники відділу операцій, тому перед поданням звіту вона входить із корпоративними обліковими даними.

  8. Звіт про інцидент

    Аліса заповнює звіт про інцидент: вносить факти, які підтвердила служба підтримки, і заходи з локалізації, які вже вжив відділ операцій. Звіт потрапить до відділу комплаєнсу, а той передасть його органу ринкового нагляду.

  9. Навіщо потрібен кожен розділ

    Тепер звіт належить до офіційної документації. Кожен розділ має своє призначення для відділу комплаєнсу й органу ринкового нагляду.

  10. Строки повідомлення

    Звіт подано всередині компанії. Тепер починається юридичний відлік. Згідно зі статтею 73 постачальники високоризикових систем ШІ повідомляють орган ринкового нагляду про серйозні інциденти: негайно , щойно встановлено причинно-наслідковий зв'язок або обґрунтовану ймовірність такого зв'язку не пізніше ніж через 15 днів після того, як про інцидент дізнався постачальник не пізніше ніж через 2 дні у разі широкомасштабного порушення чи серйозного й незворотного збою у функціонуванні критичної інфраструктури; через 10 днів , якщо людина померла Розгортачі негайно інформують постачальника, а потім орган (стаття 26(5)), і обидві сторони співпрацюють у будь-якому розслідуванні. Компанія SynapseAI розгортає OnboardAI, але не створювала цю систему, тож має негайно повідомити вендора.

Охоплення стандартів безпеки

CIS Controls

  • CIS 17 Incident Response Management
  • CIS 14.6 Train Workforce Members on Recognizing and Reporting Security Incidents

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
  • RS.MA Incident Management

NICE Framework

  • OG-WRL-008 Privacy Compliance
  • OG-WRL-002 Cybersecurity Policy and Planning

EU AI Act

  • Art. 73 Reporting of serious incidents