Husker du skygge-IT? Den har fått en ny, disruptiv søsken: skygge-AI. Etter hvert som ansatte blir mer og mer fortrolige med de tidsbesparende mulighetene til generative AI-modeller, strømmer de til dem på jobb. Problemet er at de ikke alltid har tillatelse.

Skygge-AI er ikke bare et teoretisk problem, ifølge Check Point Researchs rapport om AI-sikkerhet 2025; den er her nå. AI-tjenester er nå aktive i minst halvparten av bedriftsnettverk hver måned, viste forskningen. Samtidig, en annen rapport fra Cyberhaven Labs fant i fjor at datadeling med AI-verktøy eksploderte nesten fem ganger i løpet av ett år mellom mars 2023 og mars 2024. Det ville vært greit hvis all bruk ble godkjent. Imidlertid skjer tre fjerdedeler av ChatGPT-bruken på arbeidsplassen gjennom personlige kontoer som ikke er begrenset av bedriftens sikkerhetskontroller, sa Cyberhaven.

Ansatte er ikke alltid diskrete om hva de deler med disse verktøyene, og nesten én av fire innrømmer at de deler sensitiv arbeidsinformasjon med dem bak sjefens rygg. Check Point Research fant at 1.25 % av alle forespørsler utgjorde en høy risiko for lekkasje av sensitive data, og ytterligere 7.5 % av forespørslene inneholdt potensielt sensitive data.

Den typen informasjon som havner i disse systemene spenner fra kundesupportinformasjon (16.3 %) til kildekode, FoU-materiell og økonomiske dokumenter, sa Cyberhaven.

Hendelser fra den virkelige verden illustrerer hva som står på spill. I april 2023, Samsung møtte en stor forlegenhet da ingeniører delte kildekode for halvledere og proprietære møtenotater.

Er dataene mine virkelig i fare?

Bedrifter kan kanskje tilgis for å tro at dataene deres er trygt låst hvis de havner i en AI-økt, men dette er ikke alltid tilfelle. Det finnes flere lekkasjevektorer. For eksempel bruker mange AI-tjenester eksplisitt inndata til modelltrening. Dette inkluderer OpenAIs gratis ChatGPT-versjon og gratisversjonen av Microsoft Copilot som den er basert på. Det kan eksponere fragmenter av bedriftens data for andre brukere gjennom AI-ens svar.

Prompt injection-angrep kan lure AI-systemer til å avsløre tidligere samtaler eller treningsdata, og i hovedsak vende AI-en mot seg selv for å trekke ut informasjon den ikke burde dele. Disse rangeres nå som OWASPs største AI-sikkerhetsrisiko på grunn av deres potensielle innvirkning. De lar angripere manipulere AI-systemer ved å lage nøye finpussede prompter som trekker ut sensitive treningsdata eller omgår sikkerhetstiltak.

Datainnbrudd hos AI-leverandører skaper selv eksponeringsrisikoer. Når disse selskapene blir hacket, blir dine sensitive ledetekster en del av det stjålne datasettet. OpenAI ble tvunget til å advare brukere i 2023 etter en feil i Redis-databasen. utsatt noen brukeres chatter med andre. Med OpenAI nå under ordre ikke å slette brukerforespørsler Som en del av en rettssak i New York Times, lagrer den nå private samtaler som kan være sårbare for et vellykket hacking.

Opprinnelsen og sikkerheten til disse modellene er også noen ganger tvilsom. Med flere kinesiske modeller nå tilgjengelig og dype bekymringer Over sikkerheten til den kinesiske modellen DeepSeek, er skygge-AI en klar og nærværende trussel.

Det er vanskelig å overvåke skygge-AI

Det er lett for skygge-AI å bli avslørt, spesielt med tanke på at disse tjenestene lanseres raskere enn IT-avdelinger kan evaluere dem. AI-funksjoner innebygd i godkjente applikasjoner vil være usynlige for konvensjonelle deteksjonssystemer, og det kan være utfordrende å blokkere nettleserbaserte økter. Blokkeringslister er kanskje ikke klar over alle AI-tjenester, og uansett kan noen ansatte få lov til å bruke dem, mens andre ikke gjør det. Deretter er det API-baserte interaksjoner og kryptert kommunikasjon å vurdere.

Temmer AI-uhyret

Gitt AIs løfte om økt produktivitet, virker det kontraintuitivt å bare forby det fullstendig. I stedet er det mer realistisk å bruke AI forsiktig ved å lage retningslinjer for bruk av AI, spesielt gitt de ansattes iver etter å bruke disse tjenestene. En studie fra Software AG i oktober i fjor. funnet at nesten halvparten av alle ansatte ville fortsette å bruke personlige AI-verktøy selv om arbeidsgiveren deres forbød dem.

Verktøy som NISTs rammeverk for risikostyring innen kunstig intelligens gir organisasjoner muligheten til å utnytte fordelene ved kunstig intelligens samtidig som de reduserer risikoene. NISTs rammeverk benytter en «styr, kartlegg, mål og administrer»-tilnærming, som inkluderer tiltak under hver av disse overskriftene for å gjøre det mulig for organisasjoner å ta i bruk en strategisk tilnærming til å håndtere bruken av kunstig intelligens blant ansatte. ISOs 42001:2023-rammeverk foreslår også hvordan man kan opprette og vedlikeholde styringssystemer for kunstig intelligens på en ansvarlig måte i organisasjoner.

Mange av de samme prinsippene som brukes for å bekjempe tradisjonell skygge-IT gjelder. Å etablere interne AI-appbutikker med godkjente verktøykataloger kan bidra til å gi brukerne flere valgmuligheter samtidig som det opprettholdes rimelige sikkerhetstiltak for bruk. Dette gir deg også mer fotfeste når du etablerer akseptable bruksregler for AI, som forteller ansatte hva slags spørringer som er greit (og ikke greit) å gjøre. Opplæringsprogrammer for ansatte vil bidra til å sementere disse reglene, samtidig som de også gjør dem mer produktive ved å gi dem innsikt i smarte brukstilfeller for AI.

For noen organisasjoner vil overgangen til private AI-systemer som bruker store språkmodeller med egen drift bidra til å minimere risikoen for eksterne AI-applikasjoner. For mange vil det imidlertid fortsatt være en stor utfordring, som krever betydelig ekspertise og budsjett.

Når ny teknologi blir vanlig, vil ansatte garantert ønske å eksperimentere. Vi så det med mobile enheter og deretter med skyen. AI vil ikke være den siste. Nøkkelen er å innta en imøtekommende og ansvarlig holdning til teknologibruk og få dem tilbake i arbeidslivet.