Five Eyes varnar: AI kommer att slå ut cyberförsvaret inom månader

Five Eyes-underrättelsealliansen har utfärdat en gemensam varning om att AI-drivna cyberattacker utvecklas snabbare än de flesta organisationers försvar hinner anpassas, och att tidsfönstret för att stänga det gapet mäts i månader. Uttalandet kommer från FIORC, Five Eyes Intelligence Oversight and Review Council, vars medlemmar omfattar tillsynsorganen i USA, Storbritannien, Kanada, Australien och Nya Zeeland.

The Record rapporterade om rådgivningen den 22 juli 2025. Huvudpoängen är inte att AI-attacker är på väg. Det är att takten i utvecklingen av frontier AI innebär att de hotantaganden som skrivs in i säkerhetspolicyer och incidenthanteringsplaner i dag redan kan vara föråldrade.

”Den snabba takten i utvecklingen av frontier AI innebär att antaganden om cyberrisk kan bli inaktuella på månader, inte år”, står det i rådgivningen. Den meningen förtjänar att läsas två gånger av alla som senast granskade sin organisations hotmodell innan dagens generation av stora språkmodeller och autonoma agentramverk började användas brett.

Vad rådgivningen faktiskt säger

FIORC identifierar två tydliga AI-riskkategorier som bedöms vara kvalitativt annorlunda än tidigare former av automatisering. Den första är accelerationen av befintliga attackmetoder. AI förkortar tiden mellan upptäckt av en sårbarhet och aktiv exploatering, minskar den kompetens som krävs för att genomföra nätfiske, social manipulering och rekognosering i stor skala, och gör det möjligt för angripare att iterera snabbare än försvarare kan patcha eller upptäcka. ”Det sänker trösklarna för skadliga aktörer och ökar attackernas hastighet och komplexitet, vilket gör tidsfönstret mellan upptäckt av sårbarheter och exploatering allt kortare”, står det uttryckligen i rådgivningen.

Den andra riskkategorin är nyare och mindre väl förstådd: autonoma AI-agenter. Det handlar om system som kan planera, utföra flerstegsuppgifter och interagera med externa tjänster utan kontinuerlig mänsklig styrning. FIORC lyfter fram sådana system en egen hotkategori, inte bara som en snabbare version av befintlig automatisering. En autonom agent som kan kedja samman rekognosering, åtkomst till inloggningsuppgifter, lateral förflyttning och exfiltrering i ett enda oavbrutet arbetsflöde innebär ett fundamentalt annat operativt tempo än något som dagens säkerhetscenter är bemannade eller utrustade för att hantera.

Inga specifika CVE:er nämns. Inga berörda produkter identifieras. Rådgivningen är en strategisk varning, inte en teknisk bulletin. Det är värt att säga tydligt, eftersom flera medier har rapporterat om den med en detaljnivå som dokumentet inte stöder.

Ett ovanligt dokument från ett tillsynsorgan – inte från en leverantör

FIORC är inte en leverantör av hotunderrättelser. Det är det gemensamma rådet för Five Eyes-ländernas civila underrättelsetillsynsorgan, vars uppgift är att granska respektive lands underrättelseverksamhet. En gemensam offentlig rådgivning från detta organ skiljer sig strukturellt från de leverantörsrapporter om hot som ständigt flödar genom säkerhetsbranschen. Här finns ingen produkt att sälja. Den skepsis jag normalt tillämpar på hotrapporter från privata företag gäller därför inte på samma sätt, även om rådgivningens brist på teknisk detaljnivå begränsar hur direkt organisationer kan agera utifrån den.

Bank Info Security, som rapporterade om rådgivningen den 22 juli 2025, noterade att beskrivningen av autonoma AI-agenter i FIORC uttalande ligger i linje med farhågor som även har lyft fram av CISA och ENISA kring AI-system som används i företagsmiljöer med otillräcklig mänsklig tillsyn. Denna samstämmighet mellan oberoende myndighetsorgan ger varningen större tyngd än en bedömning från en enskild myndighet skulle ha haft.

Styrningsgapet är större än det tekniska gapet

De organisationer som är mest utsatta för AI-accelererade attacker är inte nödvändigtvis de som har de svagaste tekniska kontrollerna. Det är de vars säkerhetsstyrning inte har hållit jämna steg med deras AI-användning. Om din organisation har infört AI-stödda utvecklingsverktyg, kundvända chattbotar eller någon form av agentisk arbetsflödesautomatisering under de senaste 18 månaderna utan en motsvarande uppdatering av er hotmodell, bygger er incidenthanteringsplan på antaganden som inte längre speglar er faktiska attackyta.

Den praktiska innebörden av FIORC:s varning är inte att varje organisation omedelbart behöver köpa AI-drivna säkerhetsverktyg. Leverantörer kommer att föra fram det argumentet högljutt under de kommande veckorna, och det bör bedömas med den vanliga skepsisen mot produkter som säljs som svar på rädsla. Den faktiska innebörden är smalare. Granska vilka AI-system ni har infört, vilka data de kan komma åt, vilka åtgärder de kan utföra autonomt och om er förmåga till upptäckt och respons skulle fånga upp en komprometterad agent som verkar inom beteendemönster som ser normala ut.

Incidenthanteringsplaner som inte tar hänsyn till AI-accelererat nätfiske eller agentiska attackscenarier är inte förenliga med andemeningen i NIS2:s artikel 21-krav, oavsett om de uppfyller checklistans bokstav. MSB har ännu inte utfärdat specifik vägledning om hur AI-hot ska integreras i riskbedömningar, men FIORC-rådgivningen ger svenska väsentliga entiteter en dokumenterad grund för att behandla detta som en riskhanteringsfråga på styrelsenivå, snarare än som en framtida fråga.

Tre frågor inför nästa styrelsemöte

FIORC-rådgivningen kommer inte med en patch att installera. Det den däremot ger är en dokumenterad utgångspunkt för tre specifika styrningsåtgärder som varje organisation inom tillämpningsområdet bör kunna besvara före nästa styrelsemöte.

1. När uppdaterades er hotmodell senast, och speglar den AI-stödda attacktekniker, inklusive automatiserat riktat nätfiske, AI-genererad deepfake-baserad social manipulering och autonom lateral förflyttning? Om svaret är att det var för mer än 12 månader sedan behöver den ses över.
2. Vilka agentiska AI-system driver er organisation eller har avtalad tillgång till, och vilken är den mest långtgående autonoma åtgärd något av dessa system kan utföra utan mänskligt godkännande? Om ni inte har ett fullständigt svar har ni ett inventeringsproblem innan ni har ett säkerhetsproblem.
3. Definierar er incidenthanteringsplan rutiner för upptäckt och eskalering vid en AI-stödd attack, inklusive scenarier där attackvolymen eller hastigheten överstiger vad er nuvarande SOC-bemanning kan triagera manuellt? Om den inte gör det, uppdatera planen och testa den.

CISA:s vägledning om AI-säkerhet, som publicerades tidigare under 2025 i samarbete med allierade myndigheter, däribland Storbritanniens NCSC, täcker grundläggande kontroller för organisationer som inför AI-system. Det dokumentet är mer tekniskt specifikt än FIORC-rådgivningen och är den mer användbara operativa referensen. Det finns länkat i referenserna nedan.

Referenser

1. Five Eyes Agencies Sound Alarm About AI’s Threat to Cybersecurity
2. Bank Info Security: Five Eyes Sound Alarm on Autonomous AI Security Risks
3. AI on Pace to Bypass Cybersecurity Systems in Months, Not Years, Five Eyes Spy Partners Warn
4. Guidelines for Secure AI System Development (joint publication with NCSC and allied agencies)

This post is also available in: