Vad är en deepfake?
En deepfake är syntetiskt ljud, video eller bild som skapats av artificiell intelligens för att på ett övertygande sätt efterlikna en verklig persons ansikte, röst eller bådadera. EU:s AI-förordning definierar begreppet i lag som AI-skapat eller AI-ändrat innehåll som imiterar verkliga personer eller händelser på ett sätt som kan vilseleda. I en affärsmiljö handlar det oftast om en klonad chefsröst i ett samtal eller ett fabricerat ansikte i ett videomöte.
Under många år var deepfakes ett problem som rörde kändisar och politik. Det har förändrats. Kriminella använder nu samma verktyg för att utge sig för att vara personerna du arbetar med, din ekonomichef, en leverantör, en kollega, och för att godkänna betalningar som aldrig borde ske. Tekniken är billig, snabb och byggs av material som dina chefer redan har lagt ut offentligt.
Så skapas en deepfake
Moderna deepfakes skapas av generativa AI-modeller som tränats att återskapa en måltavlas utseende eller röst. System för röstkloning lär sig en persons tonläge och rytm från ett kort ljudprov. Videomodeller lägger en måltavlas ansikte över en direktsänd videoström i realtid, så att en angripare kan sitta med i ett samtal och framstå som någon annan medan hen talar.
Tröskeln har rasat. World Economic Forum rapporterar att det räcker med 20 till 30 sekunder tydligt ljud för att klona en användbar röst, och att en övertygande videodeepfake kan byggas på under en timme med fritt tillgänglig programvara. Källmaterialet hämtas från de platser där era ledare syns mest: LinkedIn, YouTube, inspelade webbinarier och kvartalssamtal. Efter bedrägeriet mot Arup berättade företagets egen teknikchef för forumet att han av nyfikenhet återskapade sig själv som en deepfake i realtid, med gratis verktyg med öppen källkod.
Olika typer av deepfake-attacker
Deepfakes dyker upp i flera tydliga attackmönster. Att känna igen formen på vart och ett gör dem lättare att upptäcka i stunden.
- Röstkloning (vishing): en klonad röst i ett telefonsamtal eller röstmeddelande som pressar någon att betala eller lämna ut information.
- Videoimitation i realtid: ett ansiktsbyte i realtid i ett videomöte, där angriparen utger sig för att vara en chef eller flera kollegor samtidigt.
- Läppsynkad eller manipulerad video: befintligt material ändras så att en verklig person tycks säga något hen aldrig sagt.
- Syntetisk identitet och dokumentbedrägeri: genererade ansikten och id-bilder som används för att lura ansiktsigenkänning och passera identitetskontroller.
- Imitation utanför kameran: en falsk identitet i ett mötes chattfönster eller en meddelandeapp, ofta kombinerad med en klonad röst i en annan del av attacken.
Konsekvenserna för verksamheten
Deepfake-bedrägeri har gått från kuriosa till mätbar förlust. Rapporterade förluster från deepfake-baserat bedrägeri nådde ungefär 410 miljoner US-dollar enbart under första halvåret 2025, mer än de 359 miljoner som rapporterades för hela 2024, enligt en analys från Surfshark. Deloitte Center for Financial Services beräknar att generativt AI-baserat bedrägeri i USA stiger från 12,3 miljarder dollar 2023 till 40 miljarder 2027.
Skadan är inte bara pengarna som lämnar kontot. En enda lyckad attack bär på flera kostnader samtidigt:
- Direkt betalningsbedrägeri: pengar som förs över till konton som angriparen kontrollerar, ofta omöjliga att få tillbaka.
- Leverantörs- och fakturabedrägeri: ändrade bankuppgifter som bekräftas av en falsk röst och styr om legitima betalningar.
- Förbikoppling av identitet och åtkomst: syntetiska ansikten som luras förbi biometriska kontroller. Entrust rapporterade att ungefär ett av fem biometriska bedrägeriförsök det senaste året var deepfakes.
- Rykte och rapporteringsrisk: förlorat förtroende, regulatorisk exponering och kostnaden för utredning och åtgärd.
Deepfakes gör också den äldsta bedrägerikategorin svårare att stoppa. Bedrägeri via e-post, så kallad business email compromise, stod fortfarande för 3,05 miljarder dollar i rapporterade förluster till FBI under 2024. En klonad röst eller ett klonat ansikte ovanpå det e-postmeddelandet tar bort det tvivel som tidigare skyddade människor.
Verkliga fall
Tre fall från 2024 visar samma upplägg och, viktigast av allt, den enda kontroll som avgjorde varje utgång.
Arup, omkring 25 miljoner US-dollar förlorade. En medarbetare på ekonomiavdelningen vid teknikföretagets kontor i Hongkong gick med i ett videomöte med personer som såg ut och lät som den brittiske ekonomichefen och flera kollegor. Alla deltagare utom medarbetaren var deepfakes i realtid, byggda av offentligt material. Hen gjorde 15 överföringar på totalt cirka 200 miljoner Hongkongdollar innan hen kontaktade huvudkontoret och fick veta att mötet aldrig ägt rum. Kontrollen som hade stoppat det: att verifiera betalningen via en annan, känd kanal innan en enda överföring gjordes, inte efteråt.
WPP, attacken misslyckades. Bedragare klonade rösten på vd:n Mark Read och använde ett falskt WhatsApp-konto och ett Teams-möte för att rikta in sig på en byråchef, samtidigt som de utgav sig för att vara Read i chattfönstret. Försöket misslyckades eftersom den utsatta chefen kände igen varningstecknen, ett hemligt nytt projekt och förfrågningar om pengar och personuppgifter, och verifierade i stället för att agera. Kontrollen som fungerade: tränad vaksamhet. Som Read uttryckte det för sina anställda, bara för att ett konto har hans foto betyder det inte att det är han.
Ferrari, attacken misslyckades. En angripare klonade rösten på vd:n Benedetto Vigna, dialekt och allt, i ett försök att driva igenom en brådskande begäran. En chef avslutade samtalet genom att ställa en fråga som bara den riktiga Vigna kunde svara på. Kontrollen som fungerade: en personlig verifieringsfråga som bestämts i förväg.
Deepfakes och regelefterlevnad
Deepfake-bedrägeri är numera invävt i flera regelverk. Skyldigheterna nedan är de som en svensk styrelse främst behöver förstå.
NIS2 och Cybersäkerhetslagen. Sverige har införlivat EU:s NIS2-direktiv i nationell rätt genom Cybersäkerhetslagen (SFS 2025:1506), som gäller sedan den 15 januari 2026. Artikel 21 kräver utbildning i säkerhetsmedvetenhet och incidenthantering, alltså de åtgärder som möter den här typen av social manipulation. Enligt artikel 20 ansvarar styrelsen för åtgärderna, och tillsynsmyndigheter kan hålla styrelseledamöter personligt ansvariga. Läs vår guide till NIS2 och regelefterlevnad i Sverige för hela uppsättningen av krav.
EU:s AI-förordning. Från och med den 2 augusti 2026 kräver artikel 50 i AI-förordningen att deepfakes tydligt märks som artificiellt skapade, och regeln gäller även när det inte fanns någon avsikt att vilseleda. Att bryta mot märkningsplikten kan kosta upp till 15 miljoner euro eller 3 procent av den globala omsättningen. Skyldigheten riktar sig mot legitima som använder AI, inte mot kriminella, så den hjälper informationsekosystemet i stort snarare än att stoppa en bedragare direkt.
DORA och GDPR. För finansiella entiteter styr DORA artikel 17 hanteringen av IKT-incidenter, under tillsyn av Finansinspektionen. Om en deepfake-attack leder till ett brott mot personuppgifter kräver GDPR artikel 33 fortfarande anmälan till IMY inom 72 timmar. Se vår översikt över DORA och regelefterlevnad för detaljerna för finanssektorn.
Så känner du igen en deepfake
Det finns tecken, men behandla dem som ledtrådar, inte bevis. Deepfakes i realtid klarar i allt högre grad en visuell granskning, och de som lurades vid Arup var yrkespersoner som tittade på bekanta ansikten.
- Visuellt: onaturlig eller utebliven blinkning, läpprörelser som ligger något i otakt, märkligt ljus vid hårfästet, suddiga eller förvrängda kanter runt ansiktet, en stel eller fixerad blick.
- Ljud: platt tonfall, ovanlig rytm eller andningen, en liten fördröjning mellan ljud och bild, en robotaktig klang vid känslor.
- Beteende: brådska, hemlighetsmakeri, press att kringgå den vanliga processen, en begäran som styrs via en ovanlig kanal, och ovilja att byta till ett telefonsamtal eller ringa upp.
Den ärliga brasklappen är att upptäckt med blotta ögat är opålitlig och blir sämre. Gartner klassar verktyg för deepfake-upptäckt som nödvändiga men inte tillräckliga i sig, eftersom angripare testar mot dem och nya tekniker slinker igenom. Behandla verifiering via en separat kanal, inte din egen uppfattning, som det verkliga skyddet.
Så skyddar du dig mot deepfakes
Deepfake-bedrägeri stoppas av process och vana, inte av att upptäcka förfalskningen. Inför kontrollerna nedan i de team som flyttar pengar och beviljar åtkomst.
Människor. Utbilda personal inom ekonomi, HR och betalningsgodkännande om just det här attackmönstret, och gör det tryggt att pausa och verifiera även när den som ringer är en chef och ärendet är brådskande. Informera cheferna om att deras offentliga material är råvaran för de här attackerna.
Process. Det är här attacker stoppas:
- Kräv tvåpersonsgodkännande för betalningar över ett bestämt belopp.
- Verifiera ovanliga eller stora förfrågningar via en annan kanal, till exempel ett återuppringt samtal till ett nummer du redan har. Verifiera aldrig via samma kanal som begäran kom in på.
- Bestäm en personlig verifieringsfråga eller ett kodord för känsliga förfrågningar.
- Kontrollera ändringar av leverantörers bankuppgifter genom att bekräfta mot kända kontaktuppgifter, aldrig uppgifter som angetts i begäran.
- Inför en enkel regel: ingen transaktion är någonsin för hemlig eller för brådskande för vanlig verifiering.
Teknik. Lägg till liveness och skydd mot förfalskning i biometriska kontroller, deepfake-upptäckt i kundtjänst och i identitetsverifiering, och e-postautentisering som DMARC för att strypa den riktade nätfisken som oftast inleder kedjan. Kom ihåg Gartners poäng: verktygen stödjer processen, de ersätter den inte. Om du bara gör en sak, se till att varje stor eller ovanlig begäran verifieras via en andra, känd kanal innan någon agerar.
This post is also available in:
English