Mens EU forbereder seg på kommende valg, står den overfor den skremmende utfordringen med å beskytte sine demokratiske prosesser mot de gjennomgripende truslene om desinformasjon og digital manipulasjon. Dens robuste respons, støttet av Digital Services Act (DSA), har vært å utgi strenge nye retningslinjer for veldig store nettplattformer (VLOPs) designet for å forhindre at usannheter blir virale.

DSA selv understreker ikke bare EUs forpliktelse til å beskytte valgintegritet, men setter også en presedens for hvordan demokratier kan svare på de digitale utfordringene i vår tid, og sikrer at pilarene for demokratisk engasjement forblir sterke og ukorrupte.

Problemet med desinformasjon

Desinformasjon i den digitale æra utgjør en dyp trussel, ikke bare mot valgenes hellighet, men mot samfunnets struktur og forretningsintegritet. Det eroderer offentlig tillit til institusjoner, gir næring til politisk ustabilitet, og kan føre til betydelig økonomisk og omdømmeskade for selskaper som er fanget i kryssilden. Virksomheten er spesielt alvorlig; des- og feilinformasjon kan forvrenge forbrukeratferd, forstyrre markeder og føre til kostbar reguleringskontroll.

Nylige hendelser illustrerer de vidtrekkende konsekvensene av ukontrollerte digitale usannheter. For eksempel, under det amerikanske presidentvalget i 2016, utbredt desinformasjonskampanjer ble utplassert, spesielt med oppdiktede nyhetshistorier som ble delt på tvers av sosiale medieplattformer for å påvirke velgernes oppfatninger. Den beryktede Cambridge Analytica-skandalen fremhevet hvordan personopplysninger kan utnyttes til å påvirke velgerbeslutninger, og demonstrerer potensialet til digitale plattformer for å påvirke politiske resultater. Så under COVID-19-pandemien førte falske nyheter om viruset og vaksiner til folkehelsekriser og forstyrret responsinnsats i flere land.

I dette flyktige landskapet sliter både bedrifter og myndigheter med utfordringen med å skille sannhet fra usannhet, mens de streber etter å opprettholde et nivå av åpenhet og pålitelighet i kommunikasjonen. Hvis det ikke kontrolleres, truer online usannheter ikke bare demokratiske prosesser, men kan også kompromittere konkurranselandskapet ved å undergrave rettferdig forretningspraksis og forbrukertillit.

EUs reguleringstilnærming

Digital Services Act (DSA) representerer EUs strategiske rammeverk for å regulere det digitale rommet, med stor vekt på å bekjempe feil- og desinformasjon og sikre demokratiske prosesser. Dette lovgivningstrekket retter seg mot VLOP-er, som er avgjørende kanaler for informasjon under valgtider.

EUs Digital Services Act definerer VLOPs som de digitale tjenestene som når minst 45 millioner brukere innenfor blokken, som utgjør omtrent 10 % av befolkningen. Denne kategoriseringen retter seg mot plattformene som har størst rekkevidde og innflytelse, noe som krever strengere regulatorisk tilsyn for å redusere risikoen og konsekvensene av å spre feilinformasjon i stor skala. Ved å fokusere på disse plattformene, sikrer DSA at de primære kildene til digitalt innhold og interaksjon holdes til høyere standarder for ansvarlighet og åpenhet.

DSA krever at disse plattformene implementerer strengere tiltak for å administrere og moderere innhold, forbedre åpenheten rundt algoritmiske prosesser og sikre at politisk reklame er tydelig merket for å forhindre skjult påvirkning.

Nye forskrifter under DSA som er spesifikt rettet mot å sikre valg, krever at disse plattformene raskt adresserer trusler mot feil- og desinformasjon og er mer ansvarlige i praksisen for innholdsmoderering. Plattformer forventes også å gi brukerne større kontroll over innholdet de ser, og potensielt dempe spredningen av falske nyheter.

VLOP-er må sørge for at eventuelle politiske annonser på deres plattformer og AI-deepfakes er tydelig merket. Og sett opp dedikerte team for å overvåke potensielle falske nyhetsfortellinger i enkelte EU-land. Algoritmer må fremme mangfoldig innhold, og det bør være nødprosesser på plass for når dype forfalskninger fra politiske ledere dukker opp, sa EU-kommisjonen. Manglende overholdelse kan føre til bøter på opptil 6 % av den globale årlige omsetningen.

Thomas Richards, hovedsikkerhetskonsulent i Synopsys Software Integrity Group, mener at DSA kan redusere feilinformasjon betydelig hvis den implementeres effektivt av VLOP-er.

"Hvis VLOP-ene kan implementere DSA-veiledningen godt, tror jeg forekomsten av feilinformasjon vil avta. Det vil skape et katt-og-mus-spill...men totalt sett tror jeg folk vil se mindre av det, sier han til ISMS.online.

Adam Marrè, CISO ved Arctic Wolf, legger til at DSAs fokus på åpenhet og ansvarlighet fundamentalt kan endre hvordan feilinformasjon håndteres.

"Retningslinjene angir robuste mekanismer for ansvarlighet ... Hvis den utføres effektivt, er denne sterke håndhevingsmekanismen avgjørende for å sikre at plattformer overholder sine forpliktelser og ansvar," sier han til ISMS.online.

Utfordringer og håndhevelse

Håndheving av DSA utgjør flere praktiske utfordringer, særlig når det gjelder deteksjon, nøyaktighet og skala. Den enorme mengden data som administreres av VLOPs nødvendiggjør bruk av automatiserte systemer, først og fremst AI, for å overvåke og kontrollere feilinformasjon. Men som Richards påpeker, "identifisering og fjerning av innhold, med nøyaktighet, vil være det største hinderet å overvinne." Å stole på AI for deteksjon kan føre til unøyaktigheter og utilsiktet sensur, som potensielt kan tillate desinformasjon å slippe gjennom, eller omvendt, feilaktig straffe legitimt innhold.

Dessuten betyr desinformasjonstaktikkens dynamiske natur at så snart nye deteksjonsmetoder er utviklet, utformer ondsinnede aktører nye strategier for å omgå dem. Richards hevder at de som sprer desinformasjon stadig utvikler teknikker for å "omgå eller lure gjenkjenningsmekanismene til å tro at innholdet ikke bør fjernes."

Hannah Baumgaertner, leder for etterretningsforskning ved Silobreaker, bemerker at valg som finner sted allerede i år, i Taiwan, har vært preget av desinformasjonskampanjer

"I tillegg vil den pågående Russland-tilknyttede Doppelganger-kampanjen sannsynligvis dreie sitt fokus mot Storbritannia," sier hun til ISMS.online.

Under Brexit-avstemningen så forskjellige plattformer en økning i villedende artikler og manipulert statistikk designet for å påvirke opinionen. På samme måte har automatiserte bot-kontoer blitt brukt for å forsterke splittende innhold, og demonstrere hvordan desinformasjonsstrategier kontinuerlig foredles for å utnytte nye teknologiske fremskritt. Disse eksemplene fremhever den nådeløse utviklingen av falske nyhetstaktikker, noe som gjør håndhevelse til en kompleks og dynamisk utfordring.

Bredere forretningsimplikasjoner

Fremveksten av deepfakes og digitalt bedrag introduserer nye sårbarheter som bedrifter må ta tak i i sine risikostyringsstrategier. Etter hvert som disse teknologiene blir mer sofistikerte, øker potensialet for misbruk for å manipulere offentlig oppfatning og skade omdømmets integritet.

Med utgangspunkt i de bredere prinsippene som er skissert i DSA, kan bedrifter forbedre sin motstandskraft ved å implementere strenge verifiseringsprosesser og åpenhetstiltak. Ved å integrere avanserte deteksjonsteknologier og etablere klare protokoller for håndtering av digitale trusler, kan selskaper bedre sikre seg mot destabiliserende virkninger av desinformasjon. Videre, ved å fremme åpenhet og ansvarlighet, kan virksomheter ikke bare overholde nye reguleringer, men også bygge tillit hos sine interessenter, og dermed styrke deres markedsposisjon.

Sette en global benchmark

DSA markerer en robust forpliktelse til å bekjempe feil- og desinformasjon, og setter en global målestokk for hvordan demokratier kan beskytte valgintegritet i den digitale tidsalderen. Ved å håndheve strenge retningslinjer på store nettplattformer, har EU ikke bare som mål å redusere spredningen av falsk informasjon, men også å styrke de grunnleggende prinsippene for demokrati.

Denne innsatsen er avgjørende for å opprettholde helsen til den digitale økonomien, der tillit og åpenhet spiller en sentral rolle. Når vi ser på fremtiden, vil kontinuerlig tilpasning og håndheving av slike reguleringer være nøkkelen til å bevare både demokratiske prosesser og integriteten til den digitale markedsplassen.

I denne sammenhengen møter bedrifter sine egne kamper med deepfakes og digitalt bedrag. Disse teknologiene utgjør en alvorlig trussel mot bedriftens integritet og sikkerhet, og krever robuste styringssystemer for informasjonssikkerhet (ISMS) for å øke bevisstheten, etablere deteksjonsprotokoller og utvikle effektive hendelsesresponsstrategier. Etter hvert som dype forfalskninger blir mer sofistikerte, er det viktig å ligge i forkant av disse truslene for å opprettholde bedriftens drift og offentlig tillit.