Stemmen til sjefen kan kopieres: Norske bedrifter må forberede seg på deepfake-svindel

En telefonsamtale fra sjefen har tradisjonelt vært vanskelig å forfalske. Kunstig intelligens utfordrer denne tryggheten. KI-genererte stemmer, bilder og video gjør at norske virksomheter må tenke nytt om hvordan betalinger, passord, sensitive opplysninger og andre kritiske handlinger godkjennes.

«Det er meg. Vi må få betalt denne fakturaen med en gang.»

Stemmen høres riktig ut. Personen kjenner navnene på kollegene. Historien virker troverdig. Telefonnummeret kan tilsynelatende også stemme.

Men personen i den andre enden trenger ikke være sjefen.

Generativ kunstig intelligens gjør det mulig å fremstille syntetisk tale som etterligner virkelige personer. Dermed utfordres en av de mest grunnleggende mekanismene vi mennesker bruker for å avgjøre om en henvendelse er ekte:

Vi kjenner igjen personen.

For norske bedrifter betyr dette at stemmen i telefonen ikke lenger bør behandles som en sikker identitetskontroll.

Fra dårlig svindel til troverdig kommunikasjon

Mange tradisjonelle svindelforsøk har vært relativt enkle å oppdage.

Merkelig språk. Uvanlige formuleringer. Dårlig oversettelse. En e-postadresse som nesten, men ikke helt, stemmer.

Generativ KI kan redusere mange av disse avslørende tegnene.

En angriper kan bruke informasjon som finnes offentlig på bedriftens nettsider, LinkedIn, sosiale medier og andre åpne kilder til å utforme langt mer målrettede henvendelser.

Kombineres dette med syntetisk tale, blir angrepet betydelig vanskeligere å vurdere intuitivt.

Det er ikke lenger nødvendigvis nok å spørre:

«Høres dette ut som sjefen?»

Bedriften må spørre:

«Har vi verifisert at det faktisk er sjefen?»

Tenk deg økonomiavdelingen mandag morgen

En medarbeider mottar en telefonsamtale.

Stemmen tilhører tilsynelatende daglig leder.

Det haster.

En leverandør må få betalt før klokken 12. Hvis ikke kan en viktig leveranse stoppe opp.

Daglig leder forklarer at vedkommende sitter i møte og derfor ikke kan håndtere saken selv.

Betalingen må gjennomføres nå.

Situasjonen inneholder flere klassiske elementer fra sosial manipulering:

  1. autoritet
  2. tidspress
  3. økonomiske konsekvenser
  4. krav om handling
  5. redusert mulighet til å kontrollere historien

Hvis stemmen samtidig høres kjent ut, fjernes enda en psykologisk barriere.

Det er nettopp derfor deepfake-teknologi kan bli så interessant for kriminelle.

KI angriper ikke nødvendigvis datasystemet.

Den angriper tilliten mellom mennesker.

E-post er ikke den eneste risikoen

Bedriftenes sikkerhetsopplæring har lenge hatt stor oppmerksomhet på phishing.

Ikke klikk på mistenkelige lenker.

Kontroller avsenderadressen.

Ikke åpne ukjente vedlegg.

Men hva skjer når angrepet kommer gjennom en telefonsamtale?

Eller som en talemelding?

Eller gjennom en videokonferanse?

Da fungerer ikke nødvendigvis de tradisjonelle faresignalene.

Problemet blir spesielt alvorlig når stemmen eller utseendet til en person brukes som en del av autentiseringen.

Hvis noe er økonomisk eller sikkerhetsmessig viktig, bør derfor ikke «jeg kjenner igjen personen» være virksomhetens eneste kontrollmekanisme.

Sjefsvindel får et nytt våpen

Bedrifter har lenge vært utsatt for såkalt CEO fraud eller direktørsvindel.

Konseptet er forholdsvis enkelt.

En angriper utgir seg for å være en leder og forsøker å manipulere en medarbeider til for eksempel å gjennomføre en betaling eller dele sensitiv informasjon.

KI endrer ikke nødvendigvis selve svindelprinsippet.

Den kan gjøre imitasjonen bedre.

Tidligere kunne en angriper sende en falsk e-post som tilsynelatende kom fra administrerende direktør.

Nå må bedrifter også være forberedt på at svindelforsøket kan forsøke å etterligne hvordan personen faktisk kommuniserer.

Dermed blir skillet mellom cybersikkerhet og vanlig internkontroll stadig mindre.

Ikke bare penger står på spill

Det mest åpenbare scenariet er økonomisk svindel.

Men teknologien kan brukes i mange former for sosial manipulering.

En angriper kan forsøke å få en medarbeider til å:

  1. endre betalingsinformasjon
  2. avsløre kundeopplysninger
  3. sende interne dokumenter
  4. dele en engangskode
  5. tilbakestille et passord
  6. opprette eller endre en brukerkonto
  7. gi tilgang til et system
  8. endre bankinformasjon for en leverandør
  9. omgå en etablert godkjenningsrutine

Det avgjørende spørsmålet blir derfor ikke om henvendelsen gjelder penger.

Spørsmålet er om handlingen kan få alvorlige konsekvenser hvis personen som ber om den, ikke er den personen vedkommende utgir seg for å være.

Bedriften trenger en kanal nummer to

Et av de mest robuste prinsippene virksomheter kan innføre, er at kritiske eller uvanlige forespørsler skal verifiseres gjennom en uavhengig kanal.

Hvis «daglig leder» ringer og ber om en ekstraordinær betaling, bør medarbeideren kunne avslutte samtalen og kontakte lederen gjennom bedriftens allerede etablerte kontaktinformasjon.

Det samme prinsippet kan brukes ved:

  1. endring av bankkonto
  2. hastebetalinger
  3. passordtilbakestilling
  4. administratorrettigheter
  5. deling av konfidensiell informasjon
  6. endring av leverandøropplysninger

Det viktige er at kontrollen ikke utføres gjennom kontaktinformasjonen angriperen selv leverer.

En e-post etterfulgt av en telefonsamtale er for eksempel en svakere kontroll dersom begge kanalene kontrolleres av samme angriper.

To personer bør godkjenne kritiske betalinger

Virksomheter bør også vurdere arbeidsflytene sine.

Dersom én medarbeider alene kan motta en instruks og overføre et betydelig beløp, blir mennesket et kritisk enkeltpunkt.

Et prinsipp med to uavhengige godkjenninger kan redusere risikoen betydelig.

Da hjelper det mindre om angriperen klarer å manipulere én person.

Dette er særlig relevant ved:

  1. nye mottakerkontoer
  2. endring av eksisterende kontonummer
  3. store betalinger
  4. utenlandsbetalinger
  5. uvanlige hastebetalinger

Beløpsgrenser må tilpasses virksomheten. En betaling på 100 000 kroner kan være ordinær i én bedrift og ekstremt uvanlig i en annen.

Poenget er derfor ikke ett universelt beløp.

Unntak fra normal arbeidsflyt bør utløse ekstra kontroll.

Leverandørsvindel kan bli like viktig

Deepfake-problemet stopper heller ikke ved bedriftens egne ansatte.

Tenk på en viktig leverandør.

Bedriften mottar beskjed om at leverandøren har byttet bank.

En person ringer deretter for å bekrefte endringen.

Stemmen høres ut som kontaktpersonen virksomheten har snakket med mange ganger tidligere.

Hvor sikker er organisasjonen da på at endringen faktisk er legitim?

Dette illustrerer hvorfor leverandørkontroll i økende grad også er cybersikkerhet.

Bankopplysninger bør ikke endres utelukkende fordi noen sender en troverdig e-post eller foretar en overbevisende telefonsamtale.

Et teknisk problem med en menneskelig løsning

Det interessante ved deepfake-svindel er at bedriften ikke nødvendigvis kan kjøpe seg ut av problemet med enda et sikkerhetsprodukt.

Brannmuren kan fungere.

Antivirusprogrammet kan være oppdatert.

Microsoft 365-kontoene kan være beskyttet med flerfaktorautentisering.

Likevel kan økonomimedarbeideren få en telefonsamtale.

Det gjør prosedyrer, opplæring og organisasjonskultur minst like viktige som teknologi.

En medarbeider må ha lov til å si:

«Jeg må verifisere dette før jeg gjør det.»

Også når personen i andre enden hevder å være øverste leder.

Lag rutinen før telefonen kommer

Det dårligste tidspunktet å finne ut hvordan en mistenkelig betaling skal verifiseres, er når en medarbeider sitter med en tilsynelatende sint eller stresset direktør på telefonen.

Rutinen bør eksistere på forhånd.

En enkel bedriftsregel kan eksempelvis være:

Ingen hasteforespørsel fra telefon, video, SMS eller e-post kan alene overstyre virksomhetens ordinære godkjenningsrutiner.

Det fjerner mye av angriperens viktigste våpen.

Tidspress.

Et hemmelig kontrollord?

For enkelte små virksomheter kan et internt kontrollord brukes som et ekstra lag ved spesielle situasjoner.

Men løsningen har begrensninger.

Et statisk kontrollord kan bli:

  1. delt med for mange
  2. lagret i e-post eller Teams
  3. avslørt ved phishing
  4. gjenbrukt for lenge

Kontrollord bør derfor ikke erstatte gode godkjenningsrutiner, MFA eller verifisering gjennom en separat, kjent kanal.

Det sikreste prinsippet er fortsatt:

En sensitiv handling skal ikke avhenge av én enkelt form for bekreftelse.

Deepfake endrer betydningen av «å se det med egne øyne»

Videomøter representerer den neste utfordringen.

I mange virksomheter gir et Teams- eller Zoom-møte en sterk følelse av autentisitet.

Man ser personen.

Man hører stemmen.

Man snakker sammen i sanntid.

Men utviklingen innen syntetisk lyd og video betyr at virksomhetene bør være forsiktige med å gjøre visuell gjenkjennelse til selve sikkerhetsmekanismen.

Det betyr ikke at alle videosamtaler skal behandles som falske.

Det betyr at høyrisikohandlinger må sikres gjennom arbeidsprosesser som ikke kollapser dersom bildet eller stemmen kan manipuleres.

KI gjør identitet til et større sikkerhetsspørsmål

Dette peker mot en bredere utvikling innen cybersikkerhet.

Vi har lenge sikret enheter og nettverk.

Nå blir identitet stadig viktigere.

Hvem er personen?

Har personen faktisk de rettighetene vedkommende hevder å ha?

Er forespørselen legitim?

Og har virksomheten en teknisk eller organisatorisk mekanisme som kan bekrefte dette?

Deepfake-svindel gjør disse spørsmålene relevante også utenfor IT-avdelingen.

Økonomi, HR, kundeservice, ledelse og innkjøp kan alle bli mål.

Fem spørsmål norske bedrifter bør stille nå

Virksomheten trenger ikke starte med avansert teknologi.

Start med fem enkle spørsmål:

1. Kan én medarbeider alene gjennomføre en stor eller uvanlig betaling?

2. Hvordan kontrollerer vi at endring av leverandørens bankkonto faktisk kommer fra leverandøren?

3. Hva gjør medarbeiderne dersom en leder ringer og ber dem bryte en etablert rutine?

4. Krever vi separat verifisering før passord, administratorrettigheter eller sensitive opplysninger utleveres?

5. Har de ansatte fått beskjed om at stemme og video ikke alene er sikre bevis på identitet?

Hvis organisasjonen ikke har klare svar, er det ikke KI-teknologien som først og fremst må oppgraderes.

Det er rutinene.

Tillit må bygges på mer enn en stemme

Deepfakes illustrerer noe grunnleggende ved den nye KI-virkeligheten.

Teknologien gjør det stadig vanskeligere å bruke menneskelig gjenkjennelse som sikkerhetskontroll.

Bildet kan manipuleres.

Stemmen kan etterlignes.

Teksten kan genereres.

Avsenderen kan forsøkes forfalsket.

Det betyr ikke at bedrifter skal slutte å stole på mennesker.

Det betyr at kritiske beslutninger ikke bør baseres på tillit alene.

Når penger skal overføres, tilganger skal endres eller sensitive data skal utleveres, trenger virksomheten en kontrollmekanisme som fungerer også den dagen stemmen i andre enden høres helt riktig ut.

For norske bedrifter kan derfor en av de viktigste sikkerhetsreglene i KI-alderen være overraskende enkel:

Kjenner du igjen stemmen? Bra. Verifiser likevel.

Les også

Sikkerhet Norsk våpengigant brukte Grok: Sensitiv informasjon kunne finnes på nettet Sikkerhet Europol slo til mot skadevare: 6,4 millioner stjålne innloggingsopplysninger funnet Sikkerhet Hackerne går etter utviklerne: KI-verktøy kan bli inngangen til hele bedriften Sikkerhet Når hackerne slår til kan Norge stoppe opp