Обов'язки щодо моделей ШІ загального призначення

Обов'язки щодо моделей ШІ загального призначення

Ви будуєте на чужій моделі. Обов'язки все одно дійдуть і до вас.

Що таке Обов'язки щодо моделей ШІ загального призначення?

Дізнайтеся, як Регламент ЄС про штучний інтелект (AI Act) регулює моделі ШІ загального призначення (GPAI). Ви розберетеся, які обов'язки мають постачальники щодо технічної документації та прозорості тренувальних даних, за якими критеріями модель належить до категорії системного ризику і які обов'язки ланцюгом створення вартості ШІ переходять до постачальників нижчого рівня (downstream provider), що будують продукти на сторонніх моделях.

Що ви дізнаєтесь у Обов'язки щодо моделей ШІ загального призначення

Обов'язки щодо моделей ШІ загального призначення — Кроки навчання

  1. Статті 51–56: ШІ загального призначення

    Регламент ЄС про ШІ присвячує моделям ШІ загального призначення (GPAI) окремі правила — статті 51–56. Модель GPAI — це модель ШІ, навчена на широкому наборі даних і здатна виконувати найрізноманітніші завдання; типовий приклад — великі мовні моделі. Постачальники моделей GPAI мають надавати технічну документацію (зокрема про енергоспоживання моделі), дотримуватися авторського права ЄС і публікувати достатньо детальне зведення про тренувальні дані. Моделі GPAI із системним ризиком — це моделі, для навчання яких використано понад 10^25 FLOPs обчислень, і ті, які визнала такими Європейська комісія; нагляд за постачальниками GPAI від її імені здійснює європейський офіс з питань ШІ (AI Office). Їхні постачальники мають додаткові обов'язки: тестування на стійкість до атак (red-teaming), оцінювання й зменшення системних ризиків, повідомлення про інциденти та заходи кібербезпеки. Ці обов'язки стосуються постачальника моделі. Але компанії нижчого рівня, які будують продукти на моделях GPAI, мають і власні обов'язки.

  2. Перевірка вибору моделі

    Надходить лист від Раджа Пателя, технічного директора NovaMind Labs. Для платформи підтримки клієнтів розглядають дві моделі GPAI, і Алісі потрібно переглянути для обох документацію щодо дотримання вимог.

  3. Перегляд карток моделей

    Аліса відкриває сторінку оцінювання моделей за посиланням у листі Раджа. Сторінка показує обидві моделі-кандидати поруч: обсяг обчислень, стан документації, тренувальні дані та результати оцінювання.

  4. Перевірка знань: прозорість тренувальних даних

  5. Оцінювання системного ризику

    У контрольному переліку системного ризику показано обидва шляхи, що ведуть до статті 55: поріг обчислень і віднесення моделі до цієї категорії Європейською комісією. Там само — додаткові обов'язки, які з цього випливають, порівняно зі стандартними моделями GPAI.

  6. Обов'язки нижчого рівня й авторське право

    Платформу підтримки клієнтів, яку NovaMind будує на моделі GPAI, класифікують за ризиком окремо. Звичайний бот, що відповідає на запитання клієнтів, — імовірно, система ШІ обмеженого ризику (лише вимоги щодо прозорості); якщо ж система ухвалює рішення про доступ до послуг, кредитування чи страхування, її можуть віднести до високоризикових систем ШІ , що тягне за собою оцінку відповідності, людський нагляд і повідомлення про інциденти. NovaMind має оцінити це самостійно. Постачальники моделей GPAI мають дотримуватися авторського права ЄС, зокрема застереження щодо аналізу текстів і даних (TDM opt-out; стаття 4 Директиви про авторське право на єдиному цифровому ринку, DSM). Якщо NovaMind надає клієнтам результати, схожі на матеріали, захищені авторським правом, відповідальність можуть нести і постачальник, і NovaMind . Перевірте документацію постачальника щодо авторського права й подумайте про фільтрування контенту.

  7. Надсилання оцінки

    Аліса бачить цілісну картину: прогалини в документації, класифікацію за системним ризиком і обов'язки нижчого рівня, які ляжуть на NovaMind. Тепер вона надсилає Раджу у відповідь структуровану оцінку: висновки щодо кожної моделі з посиланнями на конкретні статті й чітку рекомендацію.

  8. Чому важлива кожна частина звіту

    Добра оцінка моделі GPAI — це не вердикт, а журнал аудиту. Кожен розділ відповіді Аліси має своє призначення: і для Раджа, і для закупівельної документації.

  9. Підсумок: GPAI у ланцюгу створення вартості

    Аліса завершила оцінювання моделей GPAI і надіслала рекомендацію. Головне зі статей 51–56: Багаторівневі обов'язки Обов'язки щодо GPAI передаються ланцюгом створення вартості: постачальник моделі має базові обов'язки, а постачальник нижчого рівня успадковує додаткові — залежно від того, як використовують модель. Базові обов'язки постачальника Постачальники моделей GPAI мають надавати технічну документацію, зокрема про енергоспоживання, і достатньо детальне зведення про тренувальні дані. Комерційна таємниця цієї вимоги не скасовує. Поріг системного ризику Моделі GPAI, для навчання яких використано понад 10^25 FLOPs обчислень, і ті, які Європейська комісія віднесла до цієї категорії, належать до категорії системного ризику. Це тягне за собою додаткові обов'язки: тестування на стійкість до атак, оцінювання й зменшення системних ризиків, повідомлення про інциденти та заходи кібербезпеки. Незалежна оцінка ризику Постачальники нижчого рівня мають самі визначити рівень ризику продукту, який будують на моделі GPAI. Дотримання вимог постачальником моделі на продукт не поширюється. Авторське право стосується всього ланцюга Дотримання авторського права — не лише справа постачальника моделі. Якщо модель GPAI створює вміст, захищений авторським правом, а постачальник нижчого рівня надає його користувачам, відповідальність можуть нести обидві сторони.

Охоплення стандартів безпеки

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind

NICE Framework

  • OG-WRL-008 Privacy Compliance
  • OG-WRL-002 Cybersecurity Policy and Planning

EU AI Act

  • Art. 53 Obligations for providers of general-purpose AI models
  • Art. 55 Obligations for providers of GPAI models with systemic risk
  • Art. 51 Classification of general-purpose AI models as general-purpose AI models with systemic risk