Siden forslaget til lovforslaget om nettsikkerhet har det blitt holdt debatter inn og ut av Westminster om dets ulike innhold. Dan Raywood ser på den nåværende tilstanden.

Det er rundt to år siden første utkast av et lovforslag ble innført, foreslått av daværende Storbritannias statsminister Boris Johnson for å regulere nettinnhold bedre.

Med en primær intensjon om å kontrollere skadelig og støtende innhold, følger Online Safety Bill 2019s Online Harms White Paper for å adressere skadelig innhold og innhold som skader individuelle brukere. Denne saken har vært spesielt utbredt i Storbritannia etter den høyprofilerte saken om Molly Russell, en 14-åring som tok sitt eget liv i 2017 etter å ha sett selvmords- og selvskadingsinnhold på nettet.

Hensikten med lovforslaget er å skape en omsorgsplikt for nettsteder og nettplattformer og kreve at de iverksetter tiltak mot både ulovlig og lovlig, men skadelig innhold, med bøter på opptil 18 millioner pund eller 10 % av årlig omsetning, avhengig av hva som er høyest , til de som ikke følger.

Hvorfor kontroversen

Alt i alt høres dette rimelig akseptabelt ut. Den har til hensikt å rydde opp på internett og bedre beskytte sårbare mennesker mot potensielt skadelig og støtende innhold, så hvorfor har det forårsaket slike kontroverser?

Vel, på den ene siden er dette et forslag til et verktøy for voksne for å ha større kontroll over typen innhold de ser og hvem de engasjerer seg med på nettet, og bidra til å redusere sannsynligheten for at de vil møte visse typer innhold som vil bli satt ut i lovforslaget. Lovforslaget vil allerede beskytte barn mot å se dette innholdet.

På den annen side har dette blitt kalt en forsøke å tøyle innhold som generelt er enige om å forårsake skade, selv om det ikke er i strid med loven.

Mens Storbritannia har lover som forbyr hatefulle ytringer og trusler, vil lovforslaget utsette beslutningen til Ofcom om å avklare om store teknologiske plattformer på en passende måte oppfyller sin omsorgsplikt ved å gjennomføre risikovurderinger og forklare hvordan de reduserer risiko.

Menneskerettighetsorganisasjonens artikkel 19 sier i bloggen sin om lovforslaget at «outsourcing» av vedtak om ulovlighet vil kreve at bedriftene vurderer og tar stilling til om brukernes ytring er lovlig eller ikke.

"Dette er dypt problematisk ettersom bare uavhengige rettsmyndigheter bør gis makt til å ta en slik avgjørelse," heter det. "I tillegg til de legitime bekymringene ved å sette ut beslutninger om lovligheten av brukernes tale til private aktører, merker vi at i de fleste tilfeller er disse vurderingene ekstremt komplekse og kontekstavhengige og bør derfor gjøres av trente personer."

Til syvende og sist reiser dette spørsmål om hvem som bestemmer hva som er ulovlig og ikke, ettersom nettplattformer distribuerer algoritmiske modereringssystemer, for eksempel automatisert hash-matching og prediktiv maskinlæringsverktøy, for å utføre innholdsmoderering. På grunn av mangel på raffinement i å skille lovlig fra ulovlig innhold på en pålitelig måte, "identifiserer de rutinemessig innhold som ulovlig og fjerner enorme mengder legitimt innhold."

Bryter ende-til-ende-kryptering – datavernproblemet

Det andre stikkpunktet for lovforslaget om nettsikkerhet har vært erklæringer om å bryte ende-til-ende (E2E) kryptering eller i det minste ha tilgang til samtalene som finner sted via disse sikre applikasjonene.

Debatten om «bakdører» til apper som WhatsApp og Signal er neppe ny. Forgjengerne til Boris Johnson, som David Cameron, diskuterte dette konseptet i midten av det siste tiåret. Imidlertid kan dette nå være i et lovforslag fra regjeringen, og for noen organisasjoner har det vist seg å være det viktigste samtalepunktet.

I henhold til artikkel 19 vil seksjon 103(2)(b) tillate Ofcom myndighet til å beordre en leverandør av en bruker-til-bruker-tjeneste til å bruke "akkreditert teknologi" for å identifisere innhold som seksuell utnyttelse og overgrep mot barn (CESA) – enten slikt innhold kommuniseres offentlig eller privat.

Artikkel 19 hevder: «Den fullstendige unnlatelsen av lovforslaget med å gjøre noen meningsfull forskjell mellom kravene på offentlige plattformer i motsetning til private meldingstjenester, betyr at det er en reell risiko for at å tilby ende-til-ende-kryptering vil utgjøre et brudd på lovforslaget. ”

Sikker kommunikasjon truet

Bruken av sikker kommunikasjon har blitt godt sitert, med menneskerettighetsgrupper, journalister, varslere, ofre for vold i hjemmet og enkeltpersoner fra minoritetsgrupper, alle vanlige brukere av slike som WhatsApp, Signal og Telegram, som uttalte seg om lovforslaget, sier de vil heller bli blokkert i Storbritannia enn å undergrave teknologien. De kunne til og med slutte å tilby tjenester i Storbritannia hvis lovforslaget påla dem å skanne meldinger.

En policy-brief fra Open Rights Group hevder Ofcom kan tvinge chat-plattformer til å bruke regjeringsgodkjent innholdsmodereringsteknologi. Mens lovforslaget er taus om den nøyaktige implementeringen, er det generelt forstått å bety en form for skanning på klientsiden, der programvaren vil ligge på brukernes smarttelefoner.

Dr Monica Horten, policyansvarlig for ytringsfrihet ved Open Rights Group, sa: «Vi ser derfor på tiltak som vil resultere i masseovervåking av kommunikasjonstjenester som brukes av mer enn to tredjedeler av den britiske befolkningen for private meldinger, inkludert video- og taleanrop. De vil forstyrre britiske borgeres privatliv og ytringsfrihet.»

Horten hevder: «Tinget blir bedt om å lovfeste uforholdsmessig inngripende tiltak, som påvirker vårt personvern og ytringsfrihet, uten noen spesifikk informasjon om innvirkningen på verken brukere eller leverandører.» Folk og selskaper har rett til å vite hva tiltakene er og hvordan de kan iverksette tiltak for å unngå straffer før lovforslaget går videre.

Oppnå personvern og nettsikkerhet – hvem har svarene

Utviklingen av Online Safety Bill har utvilsomt vært vanskelig – mange hevder at et bedre internett, som er fritt for støtende materiale, er en god ting. Det er måten disse faktorene brukes på som skaper så mye bekymring, som på den ene siden Nspcc ber om "effektiv handling" mot støtende materiale og oppfordret (WhatsApp og Facebooks morselskap) Meta til å pause planene om å pause E2E-kryptering av Facebook og Instagram messenger-tjenester, men uttalte også at "online Safety Bill bør sees på som en mulighet å oppmuntre selskaper til å investere i teknologiske løsninger for ende-til-ende-kryptering som beskytter voksnes personvern og holder barn trygge.» Så en mellomting som ikke påvirker brukernes personvern og som ikke insisterer på å bryte krypteringsteknologien, men som fortsatt fungerer for nettsikkerhet?

Selvsagt er debatten om personvern høyest, og menneskerettighetsorganisasjoner har ledet motstanden mot å bryte E2E-kryptering. Likevel vil talsmenn for lovforslaget hevde at disse plattformene er mest brukt til å utveksle dette misbruksmaterialet.

Å bestemme slutten og hvem som sitter på høyre side er problematisk. Siden det først ble innført, har lovforslaget ført til nye diskusjoner og fortsatt andre debatter, og det blir interessant å se hvordan dette løses og konkluderes.