Виявлення дипфейк-аудіо

Що таке Виявлення дипфейк-аудіо?

Декількох хвилин публічного аудіо з основної доповіді чи телефонної розмови достатньо, щоб клонувати голос керівника в реальному часі. Ви приймете терміновий дзвінок від когось, хто схожий на вашого генерального директора, з відповідним ідентифікатором абонента та вагомою причиною перенести дріт до кінця дня. Виявити хороший клон на слух нереально. Працює процедура: заздалегідь узгоджена фраза виклику, зворотній дзвінок на номер, якому ви вже довіряєте, і правило двох осіб для великих переказів.

Що ви дізнаєтесь у Виявлення дипфейк-аудіо

• Визнайте клонування голосу штучним інтелектом реальною та поточною загрозою для казначейства, фінансів та будь-якої ролі, уповноваженої переміщувати гроші
• Застосуйте заздалегідь обумовлену фразу виклику, щоб перевірити усний дозвіл, що перевищує порогове значення політики, незалежно від того, наскільки переконливо звучить голос
• Використовуйте зовнішній зворотний дзвінок через окремо автентифікований канал - збережену пряму лінію, корпоративний каталог або робочий чат - ніколи номер, з якого щойно вам телефонували
• Визначте поведінкові червоні прапорці, які переживають будь-яку якість клонування голосу: обхід ланцюжка схвалення, вимога секретності, відмова перевірити, ворожість під час відкликання
• Відрізнити поведінкові червоні прапорці від звукових артефактів і зрозуміти, чому процедурний захист важливіший за тест на прослуховування
• Надішліть структурований звіт про інцидент із записом каналу, підроблених даних, запиту, червоних прапорців, методу виявлення та впливу, щоб команда SOC могла шукати паралельні спроби

Виявлення дипфейк-аудіо — Кроки навчання

1. Тихий вівторковий день

   Сьогодні тихий вівторок у Brindale Capital Group. Аліса завершує квартальний звіт про ліквідність для завтрашнього керівного комітету. Цього тижня фінансовий директор Сара бере участь у роуд-шоу в Сінгапурі, а генеральний директор Деніел Вітмор сів на рейс, щоб зустріти її дві години тому. У Аліси дзвонить настільний телефон. Ідентифікатор абонента показує Daniel Whitmore - Пряма лінія .

2. Несподіваний дзвінок від генерального директора

   Аліса підхоплює. Голос на лінії, безсумнівно, Деніел — така ж тепла каденція, яку він використовує на всіх руках, так само, як він починає з її імені. Він каже, що він у літаку, його тримають біля воріт, і він має лише хвилину, але йому потрібна її допомога.

3. Терміновий запит

   Деніел пояснює, що сьогодні вдень завершується конфіденційна операція з придбання Westbridge Holdings, а термін дії пропозиції закінчується о четвертій годині. Йому потрібно, щоб Аліса проштовхнула сьогодні дріт, і просить її тримати його строго між ними двома до оголошення. Рука Аліси ширяє над системою затвердження проводів. Голос звучить правильно. Ідентифікатор абонента збігається. Історія правдоподібна - Бріндейл раніше робив тихі придбання. Але щось не так. Сума значно перевищує її ліміт для одного схваленого. Даніель ніколи раніше не просив її обійти Сару та Маркуса. І прохання зберегти це в секреті незвичне. Що робити Алісі далі?

4. Зупинись і подумай

5. Фраза виклику

   Казначейська політика Бріндейла чітка: будь-який усний дозвіл на суму понад п’ятсот тисяч доларів вимагає щоквартальної фрази виклику. Деніел сам підписав цей поліс минулого березня. Аліса вирішує використати його зараз, перш ніж робити щось інше.

6. Натисніть і покладіть трубку

   Той, хто телефонує, не може вимовити фразу і змінює тактику - спочатку зневажливо, потім відкрито вороже, потім погрозливо. Аліса завершує розмову. Справжні керівники можуть бути різкими під тиском, але вони не відмовляються від задокументованих контрольних перевірок, які вони написали самі. Ворожість у відповідь на перевірку політики сама по собі є червоним прапорцем.

7. Підтвердити на відомому каналі

   Невдала фраза виклику говорить Алісі, що телефонував, ймовірно, не Даніель. Він не повідомляє їй, де насправді знаходиться Деніел, і чи його справжній обліковий запис скомпрометовано. Аліса відкриває контакти свого телефону та набирає прямий номер Деніела — номер, який вона зберігала два роки. Якщо попередній дзвінок був справжнім, вона просто зареєструється. Якщо ні, це підтверджує цей дзвінок.

8. Підтверджено: голосовий клон

   Деніел підтверджує те, що Аліса вже підозрювала, — він ніколи не дзвонив першим. Угоди з Вестбріджа немає. Голос, який вона почула, був клоном штучного інтелекту, майже напевно навченим на десятках основних відеороликів і дзвінків про прибутки, які Деніел проводить на YouTube-каналі компанії. Повідомлення так і не було надіслано, але про інцидент все одно потрібно повідомити. Команді SOC знадобиться ідентифікатор абонента, мітки часу, підроблена назва угоди та деталі діалогу, щоб вони могли шукати відповідні спроби проти інших співробітників Brindale.

9. Увійдіть на портал безпеки

   Аліса входить на портал інцидентів безпеки Brindale, використовуючи свої збережені облікові дані.

10. Надішліть звіт про інцидент

    Аліса пише про те, що трапилося, щоб команда SOC могла провести розслідування, виявити пов’язані спроби та попередити інших працівників казначейства та фінансів. У звіті має бути вказано канал (телефон), підроблену особу (генеральний директор Деніел Вітмор), підроблений ідентифікатор абонента, запит (банківський переказ), суму в доларах, прикриття (придбання Вестбріджа), як Аліса це виявила (невдала фраза виклику + зворотний дзвінок) і той факт, що з компанії не вийшло жодних коштів.