Deepfake-Audioerkennung

Deepfake-Audioerkennung

Erkennen Sie eine von der KI geklonte Stimme einer Führungskraft am Telefon, bevor die Überweisung ausgeführt wird.

Was ist Deepfake-Audioerkennung?

Ein paar Minuten öffentliches Audio von einer Keynote oder einer Telefonkonferenz reichen aus, um die Stimme einer Führungskraft in Echtzeit zu klonen. Sie nehmen einen dringenden Anruf von jemandem entgegen, der genau wie Ihr CEO klingt, mit einer passenden Anrufer-ID und einem plausiblen Grund, eine Überweisung zu veranlassen, bevor der Tag zu Ende ist. Einen guten Klon anhand des Gehörs zu erkennen, ist nicht realistisch. Was funktioniert, ist die Vorgehensweise: eine vorab vereinbarte Prüfphrase, ein Rückruf auf eine Nummer, der Sie bereits vertrauen, und eine Zwei-Personen-Regel für große Überweisungen.

Was Sie lernen in Deepfake-Audioerkennung

Deepfake-Audioerkennung — Trainingsschritte

  1. Ein ruhiger Dienstagnachmittag

    Es ist ein ruhiger Dienstagnachmittag bei der Brindale Capital Group. Alice ist dabei, den vierteljährlichen Liquiditätsbericht für den morgigen Verwaltungsausschuss fertigzustellen. Die Finanzvorständin Sarah ist diese Woche auf einer Roadshow in Singapur und der CEO Daniel Whitmore ist vor zwei Stunden in ein Flugzeug gestiegen, um sie zu treffen. Alices Schreibtischtelefon klingelt. Die Anrufer-ID zeigt Daniel Whitmore – Direktwahl .

  2. Ein unerwarteter Anruf vom CEO

    Alice hebt ab. Die Stimme in der Leitung ist unverkennbar Daniel: der gleiche warme Rhythmus, den er bei den All-Hands verwendet, die gleiche Art, wie er mit ihrem Vornamen beginnt. Er ruft aus dem Flugzeug an und hat eine dringende Bitte.

  3. Die dringende Anfrage

    Daniel bittet um eine große, geheime Überweisung für eine Übernahme, die heute Nachmittag abgeschlossen wird. Alices Hand schwebt über dem Freigabesystem für Überweisungen. Die Stimme klingt genau richtig. Die Anrufer-ID stimmt. Die Geschichte ist plausibel, denn Brindale hat schon früher diskrete Übernahmen durchgeführt. Aber etwas stimmt nicht. Der Betrag liegt deutlich über ihrem Limit für Einzelfreigaben. Daniel hat sie noch nie gebeten, Sarah und Marcus zu umgehen. Und die Bitte um Geheimhaltung ist ungewöhnlich. Was sollte Alice als Nächstes tun?

  4. Innehalten und Nachdenken

  5. Die Prüfphrase

    Brindales Treasury-Richtlinie ist eindeutig: Für jede mündliche Freigabe über fünfhunderttausend Dollar ist die quartalsweise wechselnde Prüfphrase erforderlich. Daniel selbst hat diese Richtlinie im vergangenen März genehmigt. Alice beschließt, sie jetzt anzuwenden, bevor sie irgendetwas anderes tut.

  6. Druck und Auflegen

    Der Anrufer kann die Phrase nicht nennen und wechselt seine Taktik – zunächst abweisend, dann offen feindselig und schließlich bedrohlich. Alice beendet das Gespräch. Echte Führungskräfte mögen unter Druck schroff sein, sie lehnen jedoch dokumentierte Prüfverfahren, die sie selbst festgelegt haben, nicht ab. Feindseligkeit als Reaktion auf eine Richtlinienprüfung ist bereits ein Warnsignal.

  7. Auf einem bekannten Kanal verifizieren

    Eine fehlgeschlagene Prüfphrase zeigt Alice, dass der Anrufer wahrscheinlich nicht Daniel war. Sie verrät ihr jedoch nicht, wo Daniel tatsächlich ist oder ob sein Konto kompromittiert wurde. Alice öffnet ihre Telefonkontakte und wählt Daniels direkte Durchwahl – die Nummer, die sie seit zwei Jahren gespeichert hat. Wenn der vorherige Anruf echt war, meldet sie sich einfach. Wenn nicht, ist dies der Anruf, der dies bestätigt.

  8. Bestätigt: Ein Sprachklon

    Daniel bestätigt, was Alice bereits vermutet hatte – er hat nie den ersten Anruf getätigt. Es gibt keinen Westbridge-Deal. Die Stimme, die sie hörte, war ein KI-Klon, der mit ziemlicher Sicherheit mit den Dutzenden Keynote-Videos und Earnings Calls trainiert wurde, die Daniel auf dem YouTube-Kanal des Unternehmens veröffentlicht hat. Die Überweisung wurde nie ausgeführt, der Vorfall muss jedoch trotzdem gemeldet werden. Das SOC-Team benötigt die Anrufer-ID, die Zeitstempel, den Namen des vorgetäuschten Deals und die Gesprächsdetails, damit es nach ähnlichen Versuchen gegen andere Brindale-Mitarbeiter suchen kann.

  9. Beim Sicherheitsportal anmelden

    Alice meldet sich mit ihren gespeicherten Zugangsdaten beim Brindale-Sicherheitsvorfallsportal an.

  10. Den Vorfallbericht einreichen

    Alice schreibt auf, was passiert ist, damit das SOC-Team Nachforschungen anstellen, entsprechende Versuche aufspüren und andere Treasury- und Finanzmitarbeiter warnen kann. Der Bericht sollte den Kanal (Telefon), die vorgetäuschte Identität (CEO Daniel Whitmore), die gefälschte Anrufer-ID, die Anfrage (Überweisung), den Dollarbetrag, den Vorwand (Westbridge-Übernahme), Alices Erkennungsmethode (fehlgeschlagene Prüfphrase + Rückruf) und die Tatsache erfassen, dass keine Gelder das Unternehmen verlassen haben.

Abdeckung der Sicherheits-Frameworks

MITRE ATT&CK

  • T1656 Impersonation

CIS Controls

  • CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks

NIST CSF

  • PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind