Whaling met een Deepfake

Wat is Whaling met een Deepfake?

Door deepfake aangedreven whaling combineert directieimitatie met door AI gegenereerde audio en video om aanvallen te creëren die op zicht en gehoor bijna niet te detecteren zijn. In februari 2024 maakte een financieel medewerker bij een multinational in Hongkong $25 miljoen over na een videogesprek met wat de CFO van het bedrijf en meerdere collega's leken te zijn. Elke persoon in het gesprek was een deepfake. Dit is geen theoretisch risico. Het gebeurt nu. In deze simulatie neemt u deel aan een videoconferentie waar een hoge directiefunctionaris een dringend financieel verzoek doet. Het gezicht, de stem en de manieren lijken authentiek. De achtergrond, belichting en geluidskwaliteit zien er allemaal normaal uit. De directiefunctionaris verwijst naar echte projecten en gebruikt bekend taalgebruik. Maar er is iets mis en u moet erachter komen wat het is voordat u een overboeking autoriseert die niet kan worden teruggedraaid. U leert de huidige beperkingen van deepfake-technologie te identificeren: subtiele lipsynchronisatie-inconsistenties, onnatuurlijke oogbewegingspatronen, audio-artefacten bij bepaalde fonemen en antwoorden die niet volledig aansluiten bij spontane conversatie. Nog belangrijker is dat u de procedurele verdedigingen oefent die werken zelfs wanneer de technologie perfect is. Deze omvatten out-of-band verificatie via een apart telefoontje naar het bekende nummer van de directiefunctionaris, vooraf vastgestelde codewoorden voor transacties met hoge waarde, verplichte meervoudige autorisatie voor geldoverdrachten en een staand beleid dat geen enkele financiële handeling ooit wordt geautoriseerd via alleen een videogesprek.

Wat je leert in Whaling met een Deepfake

• Identificeer huidige visuele en audio-artefacten in deepfake-video, waaronder lipsynchronisatievertragingen, onnatuurlijke oogbewegingen en fonemvervorming
• Pas out-of-band verificatie toe door het bekende telefoonnummer van de directiefunctionaris te bellen op een apart apparaat om verzoeken via videogesprekken te bevestigen
• Implementeer procedurele maatregelen waaronder vooraf vastgestelde codewoorden en meervoudige autorisatie die deepfakes verslaan ongeacht de kwaliteit
• Erken dat geen enkele financiële transactie ooit mag worden geautoriseerd uitsluitend via een videogesprek, ongeacht wie er op het scherm lijkt te verschijnen
• Onderscheid realtime deepfake-videogesprekken van vooraf opgenomen deepfake-voicemails die worden gebruikt in gecombineerde whaling- en vishing-aanvallen

Whaling met een Deepfake — Trainingsstappen

1. Introductie

   Het is een drukke vrijdagmiddag. Alice vertrekt vanaf maandagochtend voor een vakantie van twee weken naar Europa, en er moeten vóór haar vertrek talloze financiële rapporten worden afgerond en goedkeuringen worden afgerond. Ze zit aan haar bureau en bekijkt de kwartaalbudgettoewijzingen op haar laptop. Haar agenda toont opeenvolgende vergaderingen voor de rest van de dag, en haar e-mailinbox toont 47 ongelezen berichten. Ze neemt een slok koffie en zucht, wetende dat het een lange avond wordt om bij te werken.

2. Een onverwachte uitnodiging voor een vergadering

   Alice's e-mailmelding klinkt. Ze opent haar e-mailapplicatie en ziet een nieuw bericht uit wat de e-mail van de CEO lijkt te zijn met de onderwerpregel 'URGENT: vertrouwelijke bestuursvergadering - onmiddellijke aandacht vereist'

3. Deelnemen aan de Zoom-bijeenkomst

   Ondanks dat ze zich enigszins gehaast voelt, merkt Alice de urgentie in de toon van de CEO en klikt ze onmiddellijk op de Zoom-link. De vergadering wordt snel geladen en ze ziet op camera wat Michael Thompson lijkt te zijn. De videokwaliteit lijkt enigszins korrelig, maar Alice schrijft dit toe aan netwerkproblemen.

4. Deelnemen aan het videogesprek

   Alice neemt deel aan het gesprek. Ze weet niet dat dit hele gesprek een vooraf opgenomen AI-verbeterde video is en dat het gezicht van de CEO dat op het scherm verschijnt eigenlijk een door AI gegenereerde deepfake is. CEO begint onmiddellijk te spreken. De stem klinkt precies als die van Michael Thompson, en de gelaatstrekken zijn overtuigend ondanks enkele kleine videoartefacten.

5. De geheime overname

   Michael liet de deelnemers aan de oproep weten dat het bedrijf in het geheim TechFlow Industries overneemt en een snelle reactie vereist. Het bestuur heeft de deal goedgekeurd, maar de financiële afdeling moet vóór het einde van de dag een overboeking van $ 2,8 miljoen regelen om de aanbetaling veilig te stellen. De zaak is zeer vertrouwelijk en bankgegevens volgen binnenkort. De CEO benadrukte niet rechtstreeks contact met hen op te nemen, aangezien hij de rest van de dag voortdurend in juridische vergaderingen zal verwikkeld zijn.

6. De instructies voor de overboeking zijn gearriveerd

   Twintig minuten later arriveert er nog een e-mail van hetzelfde afzenderadres. Alice zit nog steeds aan haar bureau en probeert haar vakantievoorbereidingen af ​​te ronden.

7. Toegang tot het betalingssysteem

   Alice logt in op het financiële portaal van Nexlify en initieert een overboeking naar de bankrekeninggegevens uit de e-mail van Michael.

8. Het indienen van de overdrachtsgegevens

   Ze voert alle bankgegevens uit de e-mail in: de naam van de begunstigde 'TechFlow Acquisition Holdings LLC', het rekeningnummer, het routeringsnummer en het bedrag van $ 2.850.000. Alice controleert de nummers nogmaals aan de hand van de e-mail en gaat verder met de autorisatie. De transactie is succesvol verzonden en wordt binnen 24 uur verwerkt. Ze voelt zich voldaan omdat ze dit dringende verzoek vóór haar vakantie efficiënt heeft afgehandeld.

9. De e-mail van de echte CEO

   Drie uur later, als Alice op het punt staat het kantoor te verlaten voor het weekend, ontvangt ze opnieuw een e-mail. Deze keer is het afkomstig van het daadwerkelijke e-mailadres van de echte CEO.

10. De realisatie

    Alice gaat terug om de eerdere e-mail van de CEO te bekijken. Er klopt iets niet. Ze onderzoekt het e-mailadres van de afzender nauwkeuriger.