Forestil dig, at du bliver ringet op af dit barn eller barnebarn, som siger, at han eller hun står i en akut situation, og har brug for penge nu og her for at få løst den akutte situation, og at stemmen i telefonen virkelig lyder som den person, opkaldet kommer fra.

Vil du hjælpe i en sådan situation?

I takt med, at stemmeefterligningsteknologien bliver mere og mere avanceret, som en vigtig del i den hastige udvikling af kunstig intelligens, stiger også risikoen for telefonsvindel baseret på stemmer skabt af kunstig intelligens. Nye tal viser, at antallet af ofre for den slags telefonsvindel er i kraftig stigning, da ofrene ikke er forberedt på, at den slags er muligt – og at det er så overbevisende.

Scenariet med de ældre øverst i klummen er én ting, men forestil dig så, at det er din CEO, som ringer til bogholderafdelingen og vil have overført et stort beløb til en ny kunde? Det er en helt ny afart af CEO-fraud, som vi skal være forberedt på.

Svindlere, som bruger kunstig intelligens til at efterligne bestemte personers stemmer som en del af deres telefonsvindel, satser på, at du vil hjælpe. Og ifølge den ny rapport “Beware the Artificial Impostor” (Pas på den kunstige bedrager) fra McAfee lader en hel del intetanende ofre sig bedrage af den type opkald.

25 procent af respondenterne svarer, at de enten selv har været udsat for svindelopkald, baseret på nærmest naturtro, kunstig intelligens-skabte stemmer, eller at de personligt kender nogen, som har været udsat for det. Og med onlinetjenester, som for eksempel virksomheden ElevenLabs, der tilbyder Instant Voice Cloning ved at generere en syntetisk stemme, baseret på 30 minutters lydoptagelse af en menneskestemme, er det kun et spørgsmål om tid, før aktørerne på dette marked skruer endnu mere op for deres svindel baseret på stemmeefterligning.

Ifølge McAfees undersøgelse vil næsten halvdelen - 48 procent - hjælpe, hvis de modtager et opkald om et biluheld, 47 procent vil hjælpe, hvis det drejer sig om tyveri, 43 procent, hvis opkaldet drejer sig om en mistet tegnebog, og 41 procent vil hjælpe, hvis opkaldet kommer fra en nærtstående person, der er på ferie.

70 pct. usikre på stemmens autencitet

Det værste af det hele er, at 35 procent af de adspurgte ikke var i stand til at afgøre, om stemmen, de havde i telefonen, var en rigtig menneskestemme eller ej, mens andre 35 procent ikke havde nogen idé om hvorvidt de kunne skelne mellem en menneskestemme og en stemme skabt af kunstig intelligens. Det betyder, at den eneste reelle kontekst for at kunne afgøre, om et opkald er svindel eller ej, ligger i den kendsgerning, at selve opkaldet kommer uventet.

I forretningsverdenen rækker niveauet for den slags stemmebaseret svindel sig lige fra et falsk gavekort fra den administrerende direktør til decideret digital svindel. Og uanset niveauet kræver det, at såvel ledelse som medarbejdere løbende bliver oplært og trænet i viden og bevidsthed om sikkerhed, så de er opmærksomme og på vagt, selv når stemmen i telefonen lyder nok så velkendt.

Retningslinjer

Så hvad skal du gøre for at beskytte dig imod det?

På samme måde som du beskytter dig mod CEO-fraud: Ved at der er enighed om de rette procedurer i virksomheden, når det kommer til overførsler af penge eller data. At det eksempelvis altid sker via den samme medarbejder, at forespørgsler altid skal ske via det interne chatsystem eller mail (som man også tjekker, inden der overføres).

Klare retningslinjer fjerner behovet for at skulle nærlytte en AI-stemme: Hvis ikke forespørgslen sker på præcis den aftalte måde, stopper al kommunikation, og hvis der er det mindste tvivl, så lytter man til mavefornemmelsen. Skulle det være en reel situation, så tænker jeg, chefen værdsætter din forsigtighed, fremfor bare at overføre penge i blinde.

Når det kommer til dine nærmeste, som måske ikke er helt så digitalt indfødte som os andre, så gælder det om at lære dem at have en sund skepsis: medarbejdere fra Skat eller Microsoft vil aldrig nogensinde bede om dine kortoplysninger over telefonen, og at det er okay at betvivle stemmen i røret, hvis situationen virker underlig.