Дипфейки і Закон ЄС про ШІ: прозорість за Статтею 50
Закон ЄС про ШІ не забороняє дипфейки. Він трактує їх як проблему прозорості, тож обовʼязок полягає не в тому, щоб зупиняти синтетичні медіа, а в тому, щоб люди знали, коли контент штучний.
Цей обовʼязок живе у Статті 50, і він розподіляє відповідальність між компанією, що будує інструмент генерації, і компанією, що публікує результат. Хибний розподіл — це те, як маркетинговий ролик чи навчальне відео перетворюється на прогалину у відповідності.
Як Закон ЄС про ШІ регулює дипфейки?
Section titled “Як Закон ЄС про ШІ регулює дипфейки?”За Законом ЄС про ШІ (Регламент (ЄС) 2024/1689) дипфейк — це згенероване або змінене ШІ аудіо, зображення чи відео, що нагадує реальних людей, обʼєкти чи події і помилково видається автентичним. Стаття 3(60) задає це визначення. Стаття 50 відносить дипфейки до рівня обмеженого ризику й накладає обовʼязки щодо прозорості: штучну природу контенту треба розкрити, щоб звичайна людина не була введена в оману.
Це легший режим, ніж правила високого ризику, що керують системами на кшталт відбору резюме чи кредитного скорингу. Тут стурбованість у чесності, а не в безпеці, і виправлення — це позначка, а не заборона. Про те, як цей рівень стоїть поряд з іншими, читайте наш посібник із категорій ризику Закону ЄС про ШІ.
Чого Стаття 50 вимагає для синтетичних медіа?
Section titled “Чого Стаття 50 вимагає для синтетичних медіа?”Стаття 50 задає два окремі обовʼязки, що часто стосуються того самого фрагмента контенту. Постачальники генеративного ШІ загального призначення мають позначати свій результат як штучно згенерований у машинозчитуваному форматі, щоб системи нижче за течією могли його виявити. Впроваджувачі, що створюють або публікують дипфейк, мають розкрити, що контент штучно згенеровано або змінено, у спосіб, який людина здатна сприйняти.
Машинозчитувана позначка й розкриття для людини — це окремі вимоги. Відео може нести невидимий водяний знак від інструмента генерації й усе ж порушувати Статтю 50, якщо компанія, що його публікує, не дає глядачам жодного видимого повідомлення. Таблиця нижче показує, хто що винен.
| Обовʼязок | На кого лягає | Як це виглядає на практиці |
|---|---|---|
| Позначити результат як згенерований ШІ | Постачальник системи GenAI | Машинозчитуваний водяний знак чи метадані, стійкі й виявні |
| Розкрити дипфейк глядачам | Впроваджувач, що його публікує | Видимий підпис, позначка чи екранне повідомлення |
| Розкрити, що чат-бот — це ШІ | Впроваджувач, що запускає бота | Заява до початку розмови |
| Повідомити, коли текст згенеровано ШІ | Впроваджувач, що публікує текст ШІ з питань суспільного інтересу | Розкриття, якщо текст не пройшов людську редактуру з редакційною відповідальністю |
Вправа «Прозорість і розкриття ШІ» проводить маркетингову команду через правильне позначення кожного з цих випадків, зокрема відгуку з клонованим голосом і покращеного ШІ зображення продукту.
Хто має розкривати дипфейк: постачальник чи впроваджувач?
Section titled “Хто має розкривати дипфейк: постачальник чи впроваджувач?”Обидва, але для різних частин однієї проблеми. Постачальник — це компанія, що розробляє генеративну систему ШІ й виводить її на ринок, і його завдання — вбудувати машинозчитувану позначку в момент створення. Впроваджувач — це компанія, що використовує систему під власним керівництвом і публікує результат, і його завдання — видиме розкриття для аудиторії.
Постачальник, що правильно ставить водяний знак, не звільняє впроваджувача від його обовʼязку. Якщо ваша команда використовує сторонній інструмент, щоб згенерувати синтетичного спікера для реклами, вендор опікується технічною позначкою, але саме ваша організація є впроваджувачем, який має сказати глядачам, що ця постать штучна. Вправа «Відповідальність постачальника та впроваджувача» унаочнює цей розподіл реалістичним сценарієм.
Більшість підприємств є впроваджувачами куди частіше, ніж постачальниками. Ви рідко будуєте модель, але постійно публікуєте те, що вона продукує, і саме тут спрацьовує обовʼязок розкриття.
Чи є винятки для мистецтва, сатири чи правоохоронних органів?
Section titled “Чи є винятки для мистецтва, сатири чи правоохоронних органів?”Так, і вони пропорційні, а не суцільні. Стаття 50 робить виняток для контенту, що є частиною очевидно художнього, творчого, сатиричного чи вигаданого твору. У таких випадках розкриття не повинно псувати враження, тож воно може обмежуватися повідомленням, яке не заважає показу твору.
Використання правоохоронними органами для виявлення, запобігання, розслідування чи переслідування злочинів також трактується інакше за регламентом. Ці винятки вузькі, і вони не охоплюють звичайних комерційних чи корпоративних комунікацій. Сатиричний скетч може нести легку згадку, але фейкове оголошення від керівника, видане за справжнє, потрапляє точно під обовʼязок розкриття.
Безпечне операційне правило для більшості бізнесів просте. Якщо розумний глядач міг би сплутати синтетичний контент зі справжнім записом реальної людини чи події, розкрийте це.
Як обовʼязки розкриття дипфейків повʼязані з ризиком шахрайства?
Section titled “Як обовʼязки розкриття дипфейків повʼязані з ризиком шахрайства?”Право на розкриття й захист від шахрайства дивляться на ту саму проблему з протилежних боків. Стаття 50 керує чесним, задекларованим використанням синтетичних медіа, тоді як злочинці використовують точно ту саму технологію без жодного наміру щось позначати. Обовʼязок прозорості не зупиняє зловмисника, але обізнаність, яку він будує всередині команди, — зупиняє.
Ставки конкретні. У 2024 році інженерна фірма Arup підтвердила, що співробітника в її гонконгському офісі ошукали виплатити близько US$25 мільйонів після відеодзвінка, повністю заповненого дипфейк-відтвореннями старших керівників, як повідомили CNN і Financial Times. Жоден водяний знак тут не допоміг би, бо інструментарієм керували шахраї.
Саме тому навчання розкриттю й навчання захисту від атак підсилюють одне одного. Команди, що вчаться позначати власний синтетичний контент, також усвідомлюють, наскільки переконливим він став, і саме цей спосіб мислення ставить під сумнів несподівану відеоінструкцію. Наші посібники з дипфейк-соціальної інженерії та фішингу з ШІ розкривають бік атаки, а посібник із виявлення дипфейків у реальному часі розкриває звички верифікації, що ловлять фейк, перш ніж гроші підуть.
Як GDPR і права на ідентичність застосовуються до дипфейків?
Section titled “Як GDPR і права на ідентичність застосовуються до дипфейків?”Дипфейк реальної людини майже завжди є обробкою персональних даних, тож Закон про ШІ лягає поверх GDPR, а не замінює його. Стаття 50 керує розкриттям, тоді як GDPR (Регламент (ЄС) 2016/679) усе ще керує законною підставою, правами особи й безпекою базових даних. Використання чийогось обличчя чи клонованого голосу без дійсної підстави — це проблема захисту даних незалежно від будь-якої позначки.
Сировина для дипфейка зазвичай береться з публічної присутності. Кількох фото й короткого голосового запису достатньо, щоб натренувати переконливий фейк, і люди вільно віддають цей матеріал на соціальних платформах. Вправа «Надмірне розкриття в соцмережах» показує, як одне фото з конференції чи допис до дня народження живить розвідку, що уможливлює синтетичне видавання за іншу особу.
Інша половина — це видавання за конкретну особу, щоб скоїти шахрайство чи викрасти облікові дані. Коли дипфейк підробляє реального співробітника, щоб перенаправити зарплату чи зібрати персональні дані, він переходить у крадіжку особистих даних — територію, яку вправа «Запобігання крадіжці особистих даних» навчає персонал розпізнавати й повідомляти.
Як RansomLeak навчає обізнаності з дипфейками та розкриттю
Section titled “Як RansomLeak навчає обізнаності з дипфейками та розкриттю”RansomLeak трактує Статтю 50 як операційну навичку, а не юридичну абстракцію. Вправа «Прозорість і розкриття ШІ» ставить учнів усередину перегляду управління контентом, де вони правильно позначають згенеровані ШІ, створені за допомогою ШІ та синтетичні медіа й переписують чат-бота, що приховує свою ШІ-природу. Сценарій навчає обовʼязку розкриття, змушуючи людей застосовувати його, а не зачитуючи їм статтю.
Бік атаки йде паралельно. Вправа «Виявлення дипфейк-аудіо» навчає персонал ставити під сумнів клонований голос у дзвінку, а вправа «Вейлінг із дипфейком» відпрацьовує сценарій видавання за керівника, що так дорого коштував Arup, — той самий патерн, який наш посібник із вейлінгу розбирає докладно. Обидві живуть у каталозі безпеки ШІ, поряд з інʼєкціями в підказки й ризиками LLM, що мають той самий корінь.
Розкриття також належить до вашої програми відповідності, тому каталог приватності та відповідності містить курс із Закону ЄС про ШІ поряд зі сценаріями GDPR. Для розбору регламенту від початку до кінця наш посібник із навчання за Законом ЄС про ШІ накладає кожен обовʼязок на конкретну вправу. Щоб побачити, як обовʼязки щодо синтетичних медіа перетворюються на рольове навчання, замовте демонстрацію з нашою командою.
Поширені запитання
Section titled “Поширені запитання”Чи забороняє Закон ЄС про ШІ дипфейки?
Section titled “Чи забороняє Закон ЄС про ШІ дипфейки?”Ні. Закон ЄС про ШІ не забороняє дипфейки; він трактує їх як обмежений ризик і накладає обовʼязки щодо прозорості за Статтею 50. Контент дозволено, але його штучну природу треба розкрити, щоб глядачі не були введені в оману. Заборонені практики за Статтею 5 — це окрема й значно менша категорія.
Яке юридичне визначення дипфейка за Законом ЄС про ШІ?
Section titled “Яке юридичне визначення дипфейка за Законом ЄС про ШІ?”Стаття 3(60) визначає дипфейк як згенерований або змінений ШІ контент у вигляді зображення, аудіо чи відео, що нагадує реальних осіб, обʼєкти, місця, сутності чи події і помилково видається людині автентичним або правдивим. Визначення тримається на схожості з реальністю й потенціалі ввести в оману, а не на конкретній техніці, використаній для створення.
Хто відповідає за позначення дипфейка?
Section titled “Хто відповідає за позначення дипфейка?”Відповідальність розподілена. Постачальник генеративної системи ШІ має позначати результат як штучно згенерований у машинозчитуваний спосіб, а впроваджувач, що публікує дипфейк, має розкрити глядачам, що контент штучний. Правильний водяний знак від інструмента не знімає обовʼязку видавця дати видиме розкриття.
Коли правила прозорості щодо дипфейків починають діяти?
Section titled “Коли правила прозорості щодо дипфейків починають діяти?”Обовʼязки щодо прозорості за Статтею 50 застосовуються з 2 серпня 2026 року — тієї самої дати, коли набирає чинності більшість решти положень регламенту. Сам Закон про ШІ набув чинності 1 серпня 2024 року, а заборонені практики й обовʼязки щодо грамотності ШІ діють уже з 2 лютого 2025 року.
Чи є штрафи за нерозкриття дипфейка?
Section titled “Чи є штрафи за нерозкриття дипфейка?”Так. Порушення обовʼязків щодо прозорості може потягнути штрафи до €15 мільйонів або 3% глобального річного обороту за Статтею 99, залежно від того, що більше, причому нижча цифра застосовується до малих і середніх підприємств. Точний штраф залежить від порушення, розміру організації та виявленої співпраці.
Чи застосовується Стаття 50 до синтетичних медіа, що використовуються всередині?
Section titled “Чи застосовується Стаття 50 до синтетичних медіа, що використовуються всередині?”Обовʼязок розкриття націлений на контент, що сягає людей, тож дипфейк, опублікований для персоналу, клієнтів чи громадськості, потрапляє під нього. Суто внутрішні експерименти, які ніхто не має сплутати зі справжнім записом, несуть менше ризику, але безпечніша практика — позначати будь-яке синтетичне зображення реальної людини незалежно від аудиторії.
Підсумок
Section titled “Підсумок”Закон ЄС про ШІ регулює дипфейки через розкриття, а не заборону. Стаття 50 просить постачальників позначати синтетичний результат машинним способом і просить впроваджувачів сказати своїй аудиторії, що контент штучний, а більшість організацій несуть обовʼязок впроваджувача куди частіше, ніж усвідомлюють.
Ставтеся до цього як до навички команди. Команди, що правильно позначають власні синтетичні медіа, також виробляють інстинкт сумніватися в несподіваному відеодзвінку — той самий інстинкт, що зупиняє дипфейк-шахрайство. Якщо ваша організація використовує ШІ в Європі, перегляньте каталог приватності та відповідності або поспілкуйтеся з нашою командою.