Rilevamento di deepfake audio
Smaschera al telefono la voce clonata con l'AI di un dirigente prima che parta il bonifico.
Cos’è Rilevamento di deepfake audio?
Bastano pochi minuti di audio pubblico di un intervento o di una presentazione dei risultati per clonare in tempo reale la voce di un dirigente. Ricevi una telefonata urgente da qualcuno che suona esattamente come l'amministratore delegato, con un ID chiamante che corrisponde e un motivo plausibile per fare un bonifico prima della fine della giornata. Riconoscere a orecchio un buon clone non è realistico. Funziona la procedura: una frase di verifica concordata in anticipo, una richiamata a un numero di cui ti fidi già e una regola delle due persone per i bonifici di importo elevato.
Cosa imparerai in Rilevamento di deepfake audio
- Riconoscere la clonazione vocale con l'AI come una minaccia reale e attuale per la tesoreria, l'amministrazione e qualsiasi ruolo autorizzato a muovere denaro
- Usare una frase di verifica concordata in anticipo per confermare le autorizzazioni a voce sopra la soglia della policy, per quanto convincente sia la voce
- Richiamare su un canale separato, autenticato in modo indipendente (linea diretta salvata, rubrica aziendale o chat di lavoro), mai sul numero che ti ha appena chiamato
- Individuare i segnali d'allarme di comportamento che valgono con qualsiasi qualità di clone vocale: scavalcare la catena di approvazione, pretendere segretezza, rifiutare la verifica, mostrarsi ostili quando si viene messi alla prova
- Distinguere i segnali d'allarme di comportamento dagli artefatti audio e capire perché la difesa procedurale conta più dell'ascolto
- Inviare una segnalazione strutturata dell'incidente che indichi canale, identità falsificata, richiesta, segnali d'allarme, metodo di rilevamento e impatto, così che il team SOC possa cercare tentativi paralleli
Rilevamento di deepfake audio — Fasi della formazione
-
Un martedì pomeriggio tranquillo
È un martedì pomeriggio tranquillo a Brindale Capital Group. Alice sta ultimando il rapporto trimestrale sulla liquidità per il comitato di direzione di domani. La direttrice finanziaria Sarah è in roadshow a Singapore questa settimana, e l'amministratore delegato Daniel Whitmore è salito due ore fa su un volo per raggiungerla. Il telefono sulla scrivania di Alice squilla. Sul display compare Daniel Whitmore - Linea diretta .
-
Una chiamata inattesa dall'amministratore delegato
Alice risponde. La voce al telefono è inconfondibilmente quella di Daniel: lo stesso tono caldo che usa alle assemblee aziendali, lo stesso modo di cominciare chiamandola per nome. Chiama dall'aereo e le chiede un favore urgente.
-
La richiesta urgente
Daniel chiede un bonifico di importo elevato e segreto per un'acquisizione che si chiude questo pomeriggio. Alice ha la mano sospesa sopra il sistema di approvazione dei bonifici. La voce è proprio la sua. L'ID chiamante corrisponde. La storia è plausibile, perché Brindale ha già condotto acquisizioni in modo discreto. Eppure qualcosa non torna. L'importo supera di molto il suo limite di firma singola. Daniel non le ha mai chiesto di scavalcare Sarah e Marcus. E la richiesta di tenere tutto segreto è insolita. Cosa dovrebbe fare Alice adesso?
-
Fermati a riflettere
-
La frase di verifica
La policy di tesoreria di Brindale è chiara: qualsiasi autorizzazione a voce sopra i 500.000 dollari richiede la frase di verifica trimestrale. Daniel ha approvato di persona quella policy lo scorso marzo. Alice decide di usarla subito, prima di fare qualsiasi altra cosa.
-
Pressioni e fine della chiamata
Il chiamante non riesce a dire la frase e cambia tattica: prima liquida la questione, poi diventa apertamente ostile, infine passa alle minacce. Alice chiude la chiamata. Un vero dirigente può essere brusco sotto pressione, ma non rifiuta i controlli documentati che ha scritto lui stesso. L'ostilità davanti a un controllo previsto dalla policy è già di per sé un segnale d'allarme.
-
Verifica su un canale noto
Se il chiamante non ha saputo dire la frase di verifica, Alice capisce che probabilmente non era Daniel. Ma non sa dove sia davvero Daniel, né se il suo vero account sia stato compromesso. Alice apre la rubrica del telefono e chiama l'interno diretto di Daniel, il numero che ha salvato da due anni. Se la chiamata di prima era autentica, basterà un saluto. Se non lo era, questa telefonata lo confermerà.
-
Confermato: è una voce clonata
Daniel conferma quello che Alice già sospettava: non ha mai fatto la prima chiamata. L'acquisizione di Westbridge non esiste. La voce che Alice ha sentito era un clone creato con l'AI, quasi certamente addestrato su decine di video di interventi e presentazioni dei risultati che Daniel ha sul canale YouTube dell'azienda. Il bonifico non è mai partito, ma l'incidente va comunque segnalato. Il team SOC vorrà l'ID chiamante, gli orari, il nome inventato dell'operazione e i dettagli della conversazione, per cercare tentativi analoghi contro altri dipendenti di Brindale.
-
Accedi al portale di sicurezza
Alice accede al portale di Brindale per le segnalazioni degli incidenti di sicurezza usando le credenziali salvate.
-
Invia la segnalazione dell'incidente
Alice scrive cosa è successo perché il team SOC possa indagare, cercare tentativi analoghi e avvisare gli altri colleghi di tesoreria e amministrazione. La segnalazione deve indicare il canale (telefono), l'identità falsificata (l'amministratore delegato Daniel Whitmore), l'ID chiamante falsificato, la richiesta (un bonifico), l'importo in dollari, la storia di copertura (l'acquisizione di Westbridge), come Alice se ne è accorta (frase di verifica non data e richiamata) e il fatto che nessun fondo è uscito dall'azienda.
Copertura dei framework di sicurezza
MITRE ATT&CK
- T1656 Impersonation
CIS Controls
- CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind