Storbritannia har i over et tiår vært en økonomisk underpresterende. Siden finanskrisen i 2008-9 har produktiviteten knapt steget, noe som øker landets eksponering for økonomiske sjokk, har ført til folkelig misnøye og ført til forverrede offentlige tjenester. Den nye regjeringen mener den har et svar: AI. En stor ny handlingsplan for AI Opportunities avduket i januar er designet for å levere et "tiår med nasjonal fornyelse" ved å "mainline AI inn i denne driftige nasjonens årer".

Likevel, som eksperter har advart, introduserer den også betydelige nye muligheter for trusselaktører til å stjele, sabotere, presse ut og forstyrre. Nøkkelen vil være å sikre at organisasjonene som er registrert for å gjøre planen til virkelighet, utformer AI-infrastrukturen og systemene deres med sikkerhet i tankene helt fra starten.

Hva er i planen?

Selve planen, som regjeringen hevder den vil vedta fullt ut, mangler absolutt ikke ambisjoner. Det er åtte nøkkelelementer:

Legger grunnlaget med AI-infrastruktur

Dette inkluderer å bygge en dedikert AI-forskningsressurs (AIRR) av avanserte AI-kompatible datamaskiner og etablering av "AI Growth Zones" for å fremskynde bygging av datasenter i privat sektor.

Låser opp dataressurser

Utvikle et nasjonalt databibliotek (NDL), som vil gjøre offentlige datasett tilgjengelig "sikkert og etisk" for AI-forskere og innovatører. Disse planene vil også innebære å bygge offentlig infrastruktur for datainnsamling, finansiere etableringen av nye datasett med høy verdi, og oppmuntre industrien til å "kuratere og låse opp private datasett."

Opplæring og ferdigheter

Vurdere AI-ferdighetsgapet, forbedre mangfoldet i talentmassen, støtte høyere utdanning for å øke antallet AI-kandidater, og tiltrekke dyktige arbeidere fra utlandet.

Regulering, sikkerhet og forsikring

Utvikle AI Safety Institute, gjøre «UK tekst- og datautvinningsregimet» mer konkurransedyktig, «haste» finansiere regulatorer for å forbedre deres AI-ekspertise, og sikre at alle sponsoravdelinger prioriterer «sikker AI-innovasjon». Planen siterer også pro-innovasjonsinitiativer som regulatoriske sandkasser og bygging av statlig støttede "verktøy for høykvalitetssikring" for å vurdere AI-sikkerhet.

Bruk en "Skann > Pilot > Skala"-tilnærming

Forutse fremtidig AI-utvikling, konsistent og rask pilotering og prototyping, og fokus på skalering til titalls eller hundrevis av millioner av borgerinteraksjoner over hele Storbritannia. Dette stadiet refererer også til behovet for interoperabilitet i infrastruktur, gjenbrukbarhet av kode og åpen kildekode.

Forsterkning av offentlig og privat sektor

Regjeringen planlegger å bruke sin heftige og nybygde digitale infrastruktur for å skape nye muligheter for innovatører, skape et AI-kunnskapsknutepunkt og drive privat sektors interesse for Scan > Pilot > Scale-tilnærmingen for raske gevinster.

Ta tak i hindringer for brukeradopsjon

Forbedre adopsjon av offentlig og privat sektor via sektorspesifikke AI-forkjempere og en ny industriell strategi.

Avansert AI

Opprett en ny statlig enhet med makt til å samarbeide med privat sektor for å maksimere Storbritannias eierandel i frontier AI.

Mer enn leppeservice?

Som det er typisk med store offentlige kunngjøringer, gjenstår mange av detaljene å utarbeide. Så selv om "sikkerhet" er nevnt 14 ganger i planen, er det bare i de vageste vilkårene, for eksempel at regjeringen "er forpliktet til å bygge banebrytende, sikker og bærekraftig AI-infrastruktur" eller at den "på ansvarlig, sikkert og etisk måte vil låse opp verdien av offentlige dataressurser".

Likevel er det god grunn til å være bekymret for konsekvensene. I følge World Economic Forum (WEF). Global Risk Report 2025, "Uønskede utfall fra AI-teknologier" ble rangert av bedriftsledere og eksperter som den sjette mest alvorlige risikoen i løpet av det neste tiåret. Disse resultatene kan komme fra dårlig utformede modeller eller ondsinnede handlinger som data/modellforgiftning. I det siste scenariet får trusselaktører tilgang til AI-systemer for å ødelegge treningsdataene eller manipulere modellparametere for å enten sabotere eller forårsake spesifikke, uønskede utdata.

De kan bruke den samme tilgangen til AI-infrastruktur for å stjele sensitive bedrifts- og kundeopplæringsdata, eller til og med en stor språkmodell (LLM) selv, hvis den er finjustert av en organisasjon for et spesifikt formål og derfor representerer verdifull IP i seg selv.

Dessverre avslører forskning at nøkkelkomponentene i neste generasjons AI-tilnærminger som gjenfinning utvidet generasjon (RAG) og autonom "agent AI" er fulle av sikkerhetsfeil. En rapport hevder å ha funnet flere sårbarheter i LLM-vertsverktøy og plattformer som llama.cpp og Ollama, samt vektordatabaser som ChromaDB. Den avslører også en rekke offentlig eksponerte servere og forekomster assosiert med slike verktøy, hvorav mange krever ingen autentisering. Det er for ikke å nevne risikoen forbundet med kompromitterte legitimasjon.

"En høy prosentandel av cyberangrep bruker stjålet legitimasjon - så angripere logger på i stedet for å hacke seg inn," sier SoSafe CSO Andrew Rose til ISMS.online. "Mange firmaer oppretter AI-chatbots for å hjelpe sine ansatte, men få har tenkt gjennom scenariet med at chatboten deres blir medskyldig i et angrep ved å hjelpe angriperen med å samle inn sensitive data, identifisere nøkkelpersoner og nyttig bedriftsinnsikt."

Eksperter heiser røde flagg

Andre sikkerhetseksperter har også slått alarm over regjeringens planer. Michael Adjei, direktør for systemteknikk i Illumio, advarer mot et "skjult lag" av proprietær og utilstrekkelig gransket AI-teknologi som trusselaktører kan målrette mot via de kontradiktoriske dataforgiftningsangrepene som er forklart ovenfor.

"Utfordringen er at de skjulte lagene av AI opererer gjennom 'lærte representasjoner', noe som er vanskelig for sikkerhetsteam å tolke og overvåke for sårbarheter. Dette gjør det vanskeligere å oppdage manipulerte AI-modeller, spesielt i systemer som fungerer autonomt eller i sanntid, sier han til ISMS.online.

«AI-forsyningskjeden utgjør ytterligere risiko. Kompromitterte tredjepartsdata, treningsmiljøer, programvare eller maskinvare kan sette hele AI-systemer i fare. For eksempel kan angripere injisere ondsinnede data i treningsdatasett, skape skjevheter eller sårbarheter i AI-modeller."

Regjeringens plan refererer til åpen kildekode programvare, en spesiell forsyningskjede bekymring gitt bransjens veldokumenterte sikkerhetsutfordringer.

Bridewell CTO Martin Riley har bakgrunn innen design og drift av datasenter. Han advarer om at "datasentermarkedet ikke er godt regulert, og modenheten for cybersikkerhet rundt disse fasilitetene er noe mangelfull." Han heiser også et rødt flagg om NDL.

"NDL vil først og fremst ta sikte på å sikre at privat sektor kan innovere for å støtte offentlig sektor, så strengheten rundt data, anonymisering og beskyttelse av enkeltpersoner kommer til å skape flere cybersikkerhetsutfordringer," sier Riley. "Hva vil cybersikkerhetskravene være for de som ønsker å få tilgang til NDL og bruke dens data?"

SoSafes Rose ønsker å se et større fokus på styring.

"Jeg håper å se regjeringen gjenta at AI må overholde eksisterende forskrifter, for eksempel standarder for personvern. Å insistere på kvalitet og kontroll for inputdata vil være lurt å sikre en kvalitetsutgang som mangler skjevhet, men dette blir en utfordring når datasettene blir enorme og omfattende, hentet fra mange steder, forklarer han.

"Nøkkelen er å insistere på at firmaer som omfavner AI oppretter en styrings- og tilsynskomité. Det bør kreve en oversikt over hvor AI brukes, og omfanget av dets ansvar, støttet av risikovurderinger av potensiell skade forårsaket av feilaktig produksjon eller feil, og gjenopprettingsveier for eventuelle feil eller brudd.»

ISO 42001 til unnsetning

Regulatorer vil spille en betydelig rolle i å sikre at regjeringens ambisjoner realiseres trygt, sikkert og etisk. AI Safety Institute vil bli et lovpålagt organ, sponsoravdelinger vil bli finansiert for å "oppskalere deres AI-evner", og "sikker AI-innovasjon" vil bli vektlagt i veiledning til disse regulatorene.

Men selv om det gjenstår å se hvilke nye regler som kan implementeres som et resultat, er det allerede standarder for beste praksis som kan hjelpe AI-utviklere og -brukere med å navigere i det regulatoriske rammeverket som måtte komme. ISO 42001, for eksempel, er designet for å drive ansvarlig bruk og administrasjon av AI-styringssystemer.

"Det gir retningslinjer for sikker bruk av AI, og hjelper utviklere med å implementere mekanismer for å oppdage uvanlig oppførsel eller uventede utdata, og reduserer mottakelighet for manipulasjon," sier Illumios Adjei.

SoSafes Rose er enig.

"ISO 42001 er en effektiv metodikk for å hjelpe organisasjoner med å ta i bruk AI med bevissthet. Det driver en nøye tilnærming til å vurdere og kontrollere implementeringen av AI, og sikre at det er tilstrekkelig innsikt og overvåking av tilknyttede risikoer», konkluderer han.

«Som ISO 27001, gjør det deg ikke sikker. Det skaper imidlertid en vei for kontinuerlig vurdering og forbedring, noe som øker sannsynligheten for å skape en robust løsning."

Vi vil vite mye mer om regjeringens planer til våren, selv om med den britiske økonomien i dårlig form, gjenstår det å se om statskassen vil blokkere eller utvanne mange av disse initiativene. Uansett hva som skjer, la oss håpe at innebygd sikkerhet og forbedret AI-styring ikke kan forhandles.