Deepfake-Audioerkennung
Erkennen Sie eine von der KI geklonte Stimme einer Führungskraft am Telefon, bevor die Überweisung ausgeführt wird.
Was ist Deepfake-Audioerkennung?
Ein paar Minuten öffentliches Audio von einer Keynote oder einer Telefonkonferenz reichen aus, um die Stimme einer Führungskraft in Echtzeit zu klonen. Sie nehmen einen dringenden Anruf von jemandem entgegen, der genau wie Ihr CEO klingt, mit einer passenden Anrufer-ID und einem plausiblen Grund, eine Überweisung zu veranlassen, bevor der Tag zu Ende ist. Einen guten Klon anhand des Gehörs zu erkennen, ist nicht realistisch. Was funktioniert, ist die Vorgehensweise: eine vorab vereinbarte Prüfphrase, ein Rückruf auf eine Nummer, der Sie bereits vertrauen, und eine Zwei-Personen-Regel für große Überweisungen.
Was Sie lernen in Deepfake-Audioerkennung
- Erkennen Sie KI-Stimmklonen als reale und aktuelle Bedrohung für Treasury, Finanzabteilung und alle Rollen, die Geldbewegungen freigeben dürfen
- Wenden Sie eine vorab vereinbarte Prüfphrase an, um mündliche Freigaben oberhalb des Richtlinienschwellenwerts zu überprüfen, unabhängig davon, wie überzeugend die Stimme klingt
- Nutzen Sie Out-of-Band-Rückrufe über einen separat authentifizierten Kanal – eine gespeicherte Direktleitung, ein Unternehmensverzeichnis oder einen Arbeitschat – und niemals über die Nummer, die Sie gerade angerufen hat
- Identifizieren Sie verhaltensbedingte Warnsignale, die jede Qualität des Stimmklonens überdauern: Umgehung der Genehmigungskette, Forderung nach Geheimhaltung, Verweigerung der Überprüfung, Feindseligkeit bei Zurückweisung
- Unterscheiden Sie verhaltensbedingte Warnsignale von Audioartefakten und verstehen Sie, warum die prozedurale Verteidigung wichtiger ist als der Hörtest
- Reichen Sie einen strukturierten Vorfallbericht ein, in dem Kanal, gefälschte Identität, Anfrage, Warnsignale, Erkennungsmethode und Auswirkungen erfasst werden, damit das SOC-Team nach parallelen Versuchen suchen kann
Deepfake-Audioerkennung — Trainingsschritte
-
Ein ruhiger Dienstagnachmittag
Es ist ein ruhiger Dienstagnachmittag bei der Brindale Capital Group. Alice ist dabei, den vierteljährlichen Liquiditätsbericht für den morgigen Verwaltungsausschuss fertigzustellen. Die Finanzvorständin Sarah ist diese Woche auf einer Roadshow in Singapur und der CEO Daniel Whitmore ist vor zwei Stunden in ein Flugzeug gestiegen, um sie zu treffen. Alices Schreibtischtelefon klingelt. Die Anrufer-ID zeigt Daniel Whitmore – Direktwahl .
-
Ein unerwarteter Anruf vom CEO
Alice hebt ab. Die Stimme in der Leitung ist unverkennbar Daniel: der gleiche warme Rhythmus, den er bei den All-Hands verwendet, die gleiche Art, wie er mit ihrem Vornamen beginnt. Er ruft aus dem Flugzeug an und hat eine dringende Bitte.
-
Die dringende Anfrage
Daniel bittet um eine große, geheime Überweisung für eine Übernahme, die heute Nachmittag abgeschlossen wird. Alices Hand schwebt über dem Freigabesystem für Überweisungen. Die Stimme klingt genau richtig. Die Anrufer-ID stimmt. Die Geschichte ist plausibel, denn Brindale hat schon früher diskrete Übernahmen durchgeführt. Aber etwas stimmt nicht. Der Betrag liegt deutlich über ihrem Limit für Einzelfreigaben. Daniel hat sie noch nie gebeten, Sarah und Marcus zu umgehen. Und die Bitte um Geheimhaltung ist ungewöhnlich. Was sollte Alice als Nächstes tun?
-
Innehalten und Nachdenken
-
Die Prüfphrase
Brindales Treasury-Richtlinie ist eindeutig: Für jede mündliche Freigabe über fünfhunderttausend Dollar ist die quartalsweise wechselnde Prüfphrase erforderlich. Daniel selbst hat diese Richtlinie im vergangenen März genehmigt. Alice beschließt, sie jetzt anzuwenden, bevor sie irgendetwas anderes tut.
-
Druck und Auflegen
Der Anrufer kann die Phrase nicht nennen und wechselt seine Taktik – zunächst abweisend, dann offen feindselig und schließlich bedrohlich. Alice beendet das Gespräch. Echte Führungskräfte mögen unter Druck schroff sein, sie lehnen jedoch dokumentierte Prüfverfahren, die sie selbst festgelegt haben, nicht ab. Feindseligkeit als Reaktion auf eine Richtlinienprüfung ist bereits ein Warnsignal.
-
Auf einem bekannten Kanal verifizieren
Eine fehlgeschlagene Prüfphrase zeigt Alice, dass der Anrufer wahrscheinlich nicht Daniel war. Sie verrät ihr jedoch nicht, wo Daniel tatsächlich ist oder ob sein Konto kompromittiert wurde. Alice öffnet ihre Telefonkontakte und wählt Daniels direkte Durchwahl – die Nummer, die sie seit zwei Jahren gespeichert hat. Wenn der vorherige Anruf echt war, meldet sie sich einfach. Wenn nicht, ist dies der Anruf, der dies bestätigt.
-
Bestätigt: Ein Sprachklon
Daniel bestätigt, was Alice bereits vermutet hatte – er hat nie den ersten Anruf getätigt. Es gibt keinen Westbridge-Deal. Die Stimme, die sie hörte, war ein KI-Klon, der mit ziemlicher Sicherheit mit den Dutzenden Keynote-Videos und Earnings Calls trainiert wurde, die Daniel auf dem YouTube-Kanal des Unternehmens veröffentlicht hat. Die Überweisung wurde nie ausgeführt, der Vorfall muss jedoch trotzdem gemeldet werden. Das SOC-Team benötigt die Anrufer-ID, die Zeitstempel, den Namen des vorgetäuschten Deals und die Gesprächsdetails, damit es nach ähnlichen Versuchen gegen andere Brindale-Mitarbeiter suchen kann.
-
Beim Sicherheitsportal anmelden
Alice meldet sich mit ihren gespeicherten Zugangsdaten beim Brindale-Sicherheitsvorfallsportal an.
-
Den Vorfallbericht einreichen
Alice schreibt auf, was passiert ist, damit das SOC-Team Nachforschungen anstellen, entsprechende Versuche aufspüren und andere Treasury- und Finanzmitarbeiter warnen kann. Der Bericht sollte den Kanal (Telefon), die vorgetäuschte Identität (CEO Daniel Whitmore), die gefälschte Anrufer-ID, die Anfrage (Überweisung), den Dollarbetrag, den Vorwand (Westbridge-Übernahme), Alices Erkennungsmethode (fehlgeschlagene Prüfphrase + Rückruf) und die Tatsache erfassen, dass keine Gelder das Unternehmen verlassen haben.
Abdeckung der Sicherheits-Frameworks
MITRE ATT&CK
- T1656 Impersonation
CIS Controls
- CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind