Helsevesenets kunstige intelligens utvikler seg raskt, men datastyring sliter med å holde tritt

By Kate O'Flaherty • 19. mai 2026 • 6 minutters lesetid

Hvordan kan helseorganisasjoner løse hull i tillit og datastyring for å realisere alle fordelene med AI?

Av Kate O'Flaherty

Helsesektoren innoverer ved hjelp av AI, med et enormt potensial for teknologien på tvers av områder som diagnostikk, triage og administrasjon.

I Storbritannia tar NHS allerede i bruk kunstig intelligens utover grunnleggende oppgaver. NHS England har startet pilotprosjekter for lungekreftscreening med kunstig intelligens , der teknologien kan identifisere mindre problemer enn det menneskelige øyet kan se.

I mellomtiden har det amerikanske mat- og legemiddeltilsynet (FDA) godkjent over 1,000 enheter som inneholder kunstig intelligens, hvorav de fleste brukes i radiologi.

I løpet av de siste to årene har ledere innen helsevesenet gått fra å stille spørsmål ved om AI er relevant til å fokusere på hvordan den kan brukes ansvarlig og i stor skala, ifølge en fersk McKinsey-rapport.

Tallene viser at halvparten av amerikanske helseorganisasjoner allerede har implementert generativ AI, mens mer enn 80 % hadde distribuert sine første brukstilfeller til sluttbrukere. Neste trinn, ifølge McKinsey, er å se organisasjoner gå fra å bruke generativ AI til å lage innhold og støtte individuelle oppgaver til agentisk AI for å iverksette tiltak og koordinere mer komplekse prosesser.

Likevel forsinker betydelige barrierer innovasjon innen AI i helsevesenet, inkludert sikkerhetsrisikoer og samsvarsproblemer på grunn av de enorme mengdene sensitive data som trengs for å lære opp systemer. Hvordan kan helseorganisasjoner løse hull i tillit og datastyring for å realisere alle fordelene med AI?

Svært sensitive data

Helsedata er blant de mest sensitive og mangesidige i enhver sektor, og kombinerer medisinske journaler, personopplysninger og finansiell informasjon fra flere leverandører og systemer.

«En pasients informasjon kan finnes på tvers av sykehus, fastlegekontorer, spesialister, laboratorier, apotek, forsikringsselskaper og teknologiplattformer – ofte i inkompatible formater uten en enhetlig journal som binder den sammen», forklarer Craig Gravina, teknisk direktør i Semarchy.

Resultatet er at ingen enkeltstående system har et komplett bilde av en pasient. «Å bygge det bildet – den longitudinelle pasientjournalen – er det som kreves for å få AI til å fungere trygt og effektivt i en klinisk setting», forteller Gravina til IO . «Uten den jobber AI ut fra et ufullstendig og upålitelig bilde. I helsevesenet går dette utover å være et dataproblem, og det blir et pasientsikkerhetsproblem.»

Etter hvert som AI blir integrert i kliniske arbeidsflyter, står organisasjoner overfor økende press for å svare på grunnleggende spørsmål: Hvor kom disse dataene fra, har de blitt validert, hvem har tilgang til dem, og kan AI-assisterte beslutninger revideres? «Når systemer begynner å påvirke kliniske beslutninger i stor skala, avslører svake datagrunnlag alvorlige hull i tillit og ansvarlighet», sier Gravina.

Innføringen av AI-teknologi skaper problemer på tre områder: ansvarlighet, forklaringsevne og samtykke, sier Mike Macauley, daglig leder i Liferay. «Ingen vet hvem de skal klandre når AI gir medisinske råd. Hvis et system kommer med en anbefaling, kan ikke loven si hvem som er ansvarlig for resultatet.»

Mange AI-modeller er i praksis «svarte bokser» som ikke forklarer hvordan de kommer frem til en konklusjon, ifølge Macauley. Det skaper et juridisk problem under Storbritannias personvernforordning (GDPR), fordi pasienter har rett til å vite hvorfor en datamaskin tok en spesifikk avgjørelse om helsen deres, sier Macauley.

I mellomtiden trener selskaper sin AI ved hjelp av data de har samlet inn for ett bestemt formål, men den brukes ofte også av andre grunner. «Dette betyr at de ikke kan bevise at de har juridisk rett til å bruke de opprinnelige dataene som lærte systemet opp», forteller Macauley til IO.

Det skjulte problemet

Etter hvert som AI introduseres i helsevesenet, er en ofte oversett risiko hva som skjer når data passerer gjennom en kompleks kjede av tredjeparter, som eldre plattformer og eksterne partnere.

«Ansvaret blir utvannet ved hver overlevering», ifølge Semarchys Gravina. «Det er ikke alltid klart hvem som eier dataene i hvert trinn, hvem som er ansvarlig for kvaliteten, eller hvem som er ansvarlig når noe går galt. Når ingen enkelt part har en komplett, ende-til-ende-oversikt over datalivssyklusen, bryter styringen sammen.»

For å gjøre kompleksiteten enda større, ble tradisjonelle rammeverk for helsestyring utformet for statiske systemer med relativt stabile dataflyter og faste regler. For eksempel fungerer Cyber Essentials og NHS Information Governance bare for rigide systemer. «KI bryter disse reglene fordi den stadig utvikler seg», sier Macauley fra Liferay.

Samtidig ser en standard konsekvensutredning for personvern, som beskrevet i GDPR, bare på et system én gang. Imidlertid kan en AI som lærer underveis endre oppførselen sin uten at noen sjekker om den fortsatt er trygg eller lovlig, ifølge Macauley.

Innovasjonsflaskehalser

Mangel på tillit til styring undergraver fremgangen til AI i helsevesenet ved å øke risikoen for flaskehalser i innovasjonen. Når organisasjoner mangler tillit til datagrunnlaget sitt, stopper adopsjonen av AI opp.

«Ledere vil nøle med å ta i bruk AI i kliniske settinger hvis de ikke kan garantere datakvalitet og -avstamning, eller demonstrere reviderbarhet overfor regulatorer», sier Gravina fra Semarchy. «Ironien er at styringsinfrastrukturen som trengs for å skalere AI på en sikker måte, er den samme som leverer det longitudinelle pasientdatabildet som gjør AI mer effektiv i utgangspunktet.»

Han forklarer at god styring er den viktigste faktoren for effektiv AI i helsevesenet. «Det er viktig at eksponering av data for AI ikke betyr at man mister styringsverdien som er bygget opp rundt det – dataavstamning, tilgangskontroller og datakvalitet bør følge med dataene, ikke bli etterlatt når de går inn i en AI-pipeline.»

Internasjonale standarder

To internasjonale standarder danner rammeverket for håndtering av kunstig intelligens. ISO 27001 gir grunnlaget for sterk informasjonssikkerhet og -styring, og bidrar til å etablere strukturerte tilnærminger til risikostyring, tilgangskontroll, hendelsesrespons, kapitalforvaltning og ansvarlighet. Dette bidrar til å bygge «mer forsvarlig styring», sier Gravina.

ISO 42001 bygger videre på dette ved å introdusere styring spesielt utviklet for AI-systemer. Den fokuserer på tilsyn, AI-spesifikk risikostyring, åpenhet og ansvarlig utvikling og bruk av AI.

Sammen gjør disse standardene det mulig for helseorganisasjoner å «gå utover ad hoc-adopsjon av AI og over til en mer strukturert styringsmodell», forklarer Gravina.

Det er tydelig at AI tilbyr et enormt potensial innen helsevesenet, hvis styringsstrukturer kan tilpasses denne innovative nye æraen.

Ifølge eksperter bør pasientenes tillit ligge til grunn for alt. Dr. Lohyd Terrier, førsteamanuensis i organisasjonsatferd ved EHL Hospitality Business School, taler for å behandle AI som en eksplisitt tjeneste for pasienten. «Den bør være sporbar, forklarbar og kunne avvises – snarere enn en usynlig backoffice-funksjon.»

Utgangspunktet må være selve dataene. Ledere må forstå om organisasjonen deres har grunnlaget for å bygge «et enhetlig, langsgående syn på pasientdata på tvers av alle systemer og leverandører», sier Gravina fra Semarchy. «Uten det er AI-styring bygget på sand.»

Han anbefaler å kartlegge hvor AI allerede er i bruk, identifisere kritiske datastrømmer og tredjepartsavhengigheter, avklare eierskap og forvaltning, og styrke tilgangskontroller, revisjonsspor og datakvalitet fra ende til ende. «Personvern, sikkerhet og AI-styring må samordnes i én helhetlig tilnærming, i stedet for å administreres isolert.»