Varning om AI-drivna angrepp feldaterar Arups deepfake-förlust på 25 miljoner dollar

Det amerikanska säkerhetsbolaget Trellix publicerade den 22 september ett blogginlägg om hur AI har gjort bedrägeri till en industriell process. Huvudexemplet, ett deepfake-bedrägeri på 25 miljoner dollar mot ett ingenjörsföretag, dateras till början av 2026. I själva verket drabbades Arups kontor i Hongkong i januari 2024.

Felet säger mindre om historien än om hur tunt underlaget är för talet om en ny era. Av de tre fall som bär resonemanget är ett över två och ett halvt år gammalt, ett vilar på en enda redogörelse från AI-bolaget vars produkt missbrukades och ett gäller Android-malware som enligt upptäckaren själv knappt har observerats i verkligheten.

Arups videomöte är fortfarande förlagan

Polisen i Hongkong berättade i februari 2024 att en anställd på ekonomiavdelningen hade deltagit i ett videomöte där alla de andra deltagarna, bland dem en person som presenterades som finanschefen, var deepfakes. Han hade först varit misstänksam mot mejlet, som begärde en hemlig transaktion. Efter mötet gjorde han 15 överföringar på sammanlagt 200 miljoner Hongkongdollar, cirka 25,6 miljoner dollar, rapporterade public service-bolaget RTHK med hänvisning till polisen.

Arup bekräftade för CNN i maj 2024 att bolaget var offret och att falska röster och bilder hade använts. Enligt Arup komprometterades inga interna system.

Just den detaljen missar styrelser oftast. Ingen malware, inget intrång. Angriparna slog ut en betalningsrutin, inte ett nätverk.

GTG-1002 vilar på ett enda bolags redogörelse

Anthropic meddelade den 14 november 2025 att bolaget i mitten av september samma år hade upptäckt en kampanj från en grupp med beteckningen GTG-1002, som Anthropic med hög säkerhet bedömer vara kinesiskt statsstödd. Gruppen lurade Claude Code genom att utge sig för att vara ett säkerhetsföretag som utförde defensiva tester och riktade sedan verktyget mot ett trettiotal organisationer inom teknik, finans, kemi och offentlig förvaltning. Enligt Anthropic stod AI:n för 80-90 procent av det taktiska arbetet. Människor klev bara in vid ett fåtal beslutspunkter, till exempel vid val av mål och godkännande av dataexfiltrering.

Anthropic redovisade också att modellen överdrev sina resultat och ibland hittade på inloggningsuppgifter, och att endast ett litet antal intrång lyckades. Ingen av dessa uppgifter finns med i Trellixs inlägg, som beskriver kampanjen som pågående in i 2026. Enligt Anthropics rapport upptäcktes och stoppades den 2025.

Attributionen kommer från det bolag vars produkt missbrukades, och ingen oberoende teknisk analys har publicerats. Uppgifterna bör därför ses som en trovärdig redogörelse från en enda källa, inte som ett fastställt faktum.

PromptSpy kom knappt ut ur labbet

ESET presenterade PromptSpy den 19 februari 2026 som den första kända Android-malware som använder generativ AI under själva körningen. Programmet skickar en XML-beskrivning av skärmens innehåll till Googles Gemini och får tillbaka instruktioner om var det ska trycka och svepa för att hålla appen kvar i listan över senaste appar. Den egentliga uppgiften är att installera en VNC-modul som ger angriparna fjärrstyrning av telefonen.

ESET-forskaren Lukáš Štefanko sa till Computer Weekly att skadeprogrammet inte hade dykt upp i ESET:s bredare telemetri och kan vara ett proof of concept. Det har aldrig funnits på Google Play. ESET kopplade kampanjen till ekonomiska bedrägerier mot användare i Argentina och gjorde ingen statlig attribution. Trellix inlägg kopplar däremot till den kinesiska angripare.

För att få bort det måste telefonen startas om i felsäkert läge, eftersom skadeprogrammet lägger osynliga lager över knapparna för avinstallation.

Ett ansikte i ett videomöte är inget godkännande

Inget av fallen kräver en ny produkt. Hos Arup lade den anställde sina tvivel åt sidan eftersom personerna i mötet såg ut och lät som kollegor.

• Ring tillbaka på ett nummer som redan finns registrerat, aldrig ett som anges i begäran, innan en brådskande eller konfidentiell överföring genomförs.
• Kräv en andra behörig attestant för belopp över en fastställd gräns, utan undantag för begäranden som påstås komma från vd eller finanschef.
• Begränsa behörigheter till Accessibility Service via MDM och blockera sidladdning av appar på företagets telefoner.
• Bevaka de mönster Anthropic beskriver i GTG-1002: skurar av automatiserade anrop, snabb testning av inloggningsuppgifter och kartläggning av många system samtidigt.

Testa sedan den första regeln. Låt en person i ledningen begära en brådskande överföring via video den här veckan och se om ekonomiavdelningen ringer tillbaka.

Referenser

1. The Industrialization of Deception: AI-Driven Threats
2. AI Attacks Enter New Era as Hackers Use Deepfakes and Automation to Scale Deception
3. Disrupting the first reported AI-orchestrated cyber espionage campaign
4. ESET Research Discovers PromptSpy, the First Android Threat to Use Generative AI
5. PromptSpy Ushers in the Era of Android Threats Using GenAI
6. PromptSpy Android Malware May Exploit Gemini AI
7. British Engineering Giant Arup Revealed as $25 Million Deepfake Scam Victim

This post is also available in: