GCHQ presenterar plan för autonomt AI-system som ska skydda brittisk infrastruktur

GCHQ har publicerat en plan för ett autonomt AI-system som är utformat för att upptäcka och åtgärda sårbarheter i myndighetsnätverk och kritisk nationell infrastruktur, utan att invänta mänskligt godkännande för varje enskild åtgärd. Programmet kallas Cyber Shield. GCHQ förväntar sig att det ska vara i drift inom fem år.

Planen publicerades av National Cyber Security Centre, som är en del av GCHQ. The Record var först med att rapportera om programmet offentligt. Det handlar om en statlig myndighet som skriftligen redogör för sina egna avsikter, inte om en leverantörspresentation eller ett läckt strategidokument. Det gör förslaget värt att ta på allvar på sina egna villkor.

Anne Keast-Butler, chef för GCHQ, har beskrivit AI som en “ostoppbar kraft” som Storbritannien måste dra nytta av. Den formuleringen fyller en funktion här. Den framställer inte Cyber Shield som ett val mellan AI-stött försvar och människostyrt försvar, utan som ett val mellan att bygga AI-kapacitet nu eller att överlåta initiativet till motståndare som redan gör det.

Vad Cyber Shield faktiskt föreslår

Systemet, så som det beskrivs, skulle använda AI-agenter för att kontinuerligt skanna myndighetsnätverk och nätverk inom kritisk infrastruktur, identifiera sårbarheter och åtgärda dem autonomt. Ordet ”agentisk” gör ett betydande tekniskt och politiskt arbete i NCSC egen beskrivning. Ett agentiskt AI-system flaggar inte bara problem för en mänsklig analytiker att granska. Det agerar. I ett cyberförsvarssammanhang innebär det att systemet potentiellt skulle kunna omkonfigurera nätverkskontroller, isolera komprometterade tillgångar eller patcha exponerade tjänster utan att en människa är involverad i varje enskilt steg.

NCSC har inte publicerat tekniska specifikationer för hur systemet ska hantera beslutsgränser, vilka typer av åtgärder som kommer att kräva mänskligt godkännande eller hur det ska undvika att skapa nya sårbarheter samtidigt som befintliga stängs. Dessa luckor är inte obetydliga. Ett autonomt system som snabbt kan ändra infrastrukturkontroller är också, per definition, ett högvärdigt mål. Planen är ett strategiskt riktningsbesked, inte ett tekniskt konstruktionsdokument.

Femårstidslinjen placerar full operativ förmåga runt 2030. Det är en ärlig tidshorisont för ett program av den här komplexiteten, inte en undanflykt.

Storbritannien har ett grundarbete på plats, men gapet mellan policy och faktisk förmåga är stort

Cyber Shield uppstår inte ur tomma intet. Den brittiska regeringen publicerade 2025 en uppförandekod för cybersäkerhet inom AI, som fastställer grundläggande säkerhetskrav för AI-systemen själva. BCI har noterat att denna kod skapar skyldigheter som är relevanta för resiliensansvariga som använder AI i kritiska funktioner. NCSC har också utfärdat vägledning om hur AI-system kan skyddas mot fientliga indata och modellförgiftning, något som kommer att vara direkt relevant om Cyber Shields egna AI-komponenter blir måltavlor.

Det Storbritannien ännu inte har är en dokumenterad meritlista när det gäller att införa autonoma AI-system i storskalig nationell säkerhetsinfrastruktur med höga insatser. Det har ingen annan heller. GCHQ föreslår att bygga något som, i den beskrivna formen, för närvarande inte finns någonstans i världen. Computing beskrev programmet som ett ”världsförst”, och utifrån det som är offentligt känt om jämförbara program i allierade länder är det ett påstående som går att försvara.

Ambitionen är verklig. Det är även det tekniska avståndet mellan en publicerad plan och ett fungerande agentiskt system som är betrott att autonomt ändra produktionsinfrastruktur.

Vad detta innebär för europeiska aktörer som följer utvecklingen utifrån

Cyber Shield är ett nationellt brittiskt program. Det kommer inte att omfatta infrastruktur utanför Storbritannien. För europeiska företag, inklusive företag med betydande verksamhet i Storbritannien, är programmets relevans indirekt. Om det fungerar höjer det grundnivån för säkerheten i brittiska myndighetsnätverk och kan potentiellt minska mängden lateral rörelse med ursprung i Storbritannien in i anslutna leveranskedjor. Om det skapar nya sårbarheter i de system det hanterar kommer även de konsekvenserna att spridas vidare.

Källmaterialet till denna artikel antyder att programmet ”kan få konsekvenser för nordiska länder, särskilt Sverige, när det gäller cybersäkerhetssamarbete och informationsdelning”. Det kan visa sig stämma. Men inget namngivet avtal, ingen namngiven svensk myndighet och ingen namngiven samarbetsmekanism förekommer i någon av de publicerade källorna. Att rapportera den meningen som fakta skulle vara spekulation förklädd till analys. MSB och CERT-SE har vid publiceringstillfället inte gjort något uttalande om Cyber Shield eller indikerat något formellt deltagande i programmet.

Den svårare frågan som förslaget lämnar öppen

Autonoma system som ändrar kritisk infrastruktur utan mänskligt godkännande för varje enskild åtgärd är inte i sig säkrare än försvar som styrs av människor. De är snabbare. Hastighet är värdefullt när en angripare rör sig lateralt genom ett nätverk i maskintakt. Den är farlig när det autonoma systemet felklassificerar en legitim konfigurationsändring som ett hot och isolerar ett sjukhus patientjournalsystem klockan 03.00 en tisdag morgon.

GCHQ plan behandlar inte detta felscenario i någon detalj som är offentligt synlig. Den frånvaron är det viktigaste att följa när programmet utvecklas. Ett nationellt cyberförsvarssystem som kan agera snabbare än mänskliga operatörer kan granska är också ett nationellt cyberförsvarssystem som kan orsaka skada snabbare än mänskliga operatörer kan ingripa. GCHQ vet detta. Frågan är om den styrningsarkitektur de bygger motsvarar ambitionen i den tekniska arkitekturen.

Referenser

1. Britain Plans to Build Autonomous AI Cyber Shield to Defend Nation
2. Cyber Shield – The Path to an Agentic AI Future for Cyber Defence
3. GCHQ Unveils Plans for AI Cyber Shield
4. GCHQ Draws Up Plans for World-First National AI Cyber Defence System
5. Code of Practice for the Cyber Security of AI
6. UK’s New AI Cyber Security Standard – What It Means for Resilience Professionals

This post is also available in: