Det er 2023, og AI ser ut til å være overalt. ChatGPT, AI-en produsert av det Elon Musk-grunnlagte instituttet OpenAI, skriver studentoppgaver , produserer bøker og utfordrer til og med parkeringsbøter . I en hendelse som beviser at vi lever i en episode av Black Mirror, brukte en spesielt sjelløs universitetsansatt den til og med til å trøste studenter etter en masseskyting.

Hvordan ChatGPT fungerer

Personvern- og sikkerhetseksperter lurer kanskje på hvordan AI kan hjelpe dem også. Kan det for eksempel skrive personvernreglene dine? Svaret er ja - liksom.

For å pakke ut spørsmålet mer grundig, er det verdt å forstå hvordan ChatGPTs nyere merke av AI fungerer. Den er basert på noe som kalles en stor språkmodell (LLM). Dette er en AI-modell trent ved hjelp av et stort korpus med tekst, vanligvis skrapet fra internett. Treningsprosessen bryter denne teksten ned i tokens, som kan være deler av ord. Deretter bruker den enorme mengder datakraft for å finne mønstre i språket som hjelper den å forstå hvordan disse tokenene er relatert.

Når noen ber AI med en forespørsel (si "forklar kald fusjon i stil med Sherlock Holmes"), bruker AI sin enorme treningsmodell til å ta biter av ord og forutsi hvilke som sannsynligvis kommer neste. Dette er hvordan det kan produsere overbevisende språk som ser ut til å følge konseptene som er skissert i ledeteksten.

Selvsikker og dum: En dårlig kombinasjon

Problemet med denne tilnærmingen er at AI-en ikke vet hva den snakker om. Forskere har sammenlignet den med en «stokastisk papegøye», som setter sammen tilfeldige ord uten å forstå dem. En artikkel som beskriver dette, * On the Dangers of Stochastic Parrots *, påpeker at «språk er tegnsystemer, dvs. sammenkoblinger av form og mening». Når noen sier «kanin», forstår du konseptet med en kanin og hvordan det forholder seg til diverse andre ting (påske, vår, kjæledyr, smakfull lapskaus osv.). «Men treningsdataene for LM-er er bare form», sier forskerne. «De har ikke tilgang til mening.»

Det skaper problemer for LLM-er som du stoler på for faktainnhold. Fordi de henter ord basert på statistisk sannsynlighet i stedet for kunnskap, har de en tendens til å skrive ting som ikke er sanne. I AI-sjargong er dette kjent som 'hallusinerende', og det er et problem hvis du vil stole på dem for faktainnhold.

Folk har eksperimentert med å bruke ChatGPT til å skrive en personvernerklæring, med tvilsomme resultater. De fant, forutsigbart nok, ut at resultatene var dårligere når LLM-en måtte fylle ut flere blanke felt.

Enkel AI ber om returnerte retningslinjer som ikke var basert på spesifikke personvernlover og som ikke var relatert til spesifikke forretningspraksis. Personvernreglene ble forbedret etter hvert som testere la til mer informasjon, til et punkt hvor det ga et imponerende resultat. Men på det tidspunktet "må du bruke timer, dager eller til og med uker på å først bestemme hvilke personvernlover som gjelder for deg, analysere avsløringskravene i disse lovene og deretter gi denne informasjonen til ChatGPT, sammen med din spesifikke forretningspraksis, " hun sier. Som reiser spørsmålet: hvorfor ikke bare gjøre det hele selv i utgangspunktet?

Andre har beskrevet ChatGPT og lignende LLM-er som "kalkulatorer for ord". De er bare virkelig nyttige for skriving hvis du legger ned mye arbeid selv og nøye verifiserer resultatene.

Folks bruk av AI er ofte også både selvsikker og dum

Vi kan ikke stole på AI-verktøy, men vi kan stole på at folk misbruker dem. Vi har allerede sett nedfallet fra dårlig utformet og upassende anvendt AI, noe som fører til betydelig nedfall som påvirker det virkelige liv.

Myndighetene har brukt AI-drevne systemer som har vist seg å være partiske når de anbefaler dommer. For eksempel førte den nederlandske skattemyndighetenes misbruk av AI-programvare til at etaten urettferdig anklaget foreldre for svindel – blind tro på feilaktige AI-drevne ansiktsgjenkjenningsalgoritmer førte til urettmessig arrestasjon av uskyldige mennesker . Skjevhet dukket også opp i Amazons AI-drevne rekrutteringssystem, som ble nedlagt etter at det stadig unnlot å anbefale kvalifiserte kvinner til teknologijobber.

Hvordan kan vi håndtere dette problemet? Noen eksperter har allerede bedt om et seks måneders moratorium på AI-utvikling for å få oversikt over hele det forferdelige rotet før ting går enda mer ut av kontroll.

Ingen mangel på retningslinjer

Vi har allerede mange retningslinjer for ansvarlig KI å velge mellom, og de sier lignende ting. Interessentgruppen Algorithm Watch fører en oversikt over KI-retningslinjer fra ulike institusjoner, inkludert EUs etiske retningslinjer for pålitelig KI . En som ikke var inkludert i skrivende stund var National Institute of Standards and Technology (NIST) sitt rammeverk for risikostyring innen KI , som ble utgitt i januar i år. Som de fleste andre retningslinjer har NIST-rammeverket som mål å gi noen retningslinjer for utvikling og anvendelse av KI. Det gjenspeiler også flere vanlige prinsipper i andre etiske retningslinjer, som åpenhet, ansvarlighet, personvern, sikkerhet og robusthet.

Ifølge OEDC finnes det over 800 politiske initiativer for kunstig intelligens i nesten 70 land i skrivende stund, men det er stor forskjell på bindende og ikke-bindende politikk. Overholdelse av de fleste initiativer, inkludert NIST-er, er frivillig.

En titt på selskaper som Clearview AI viser viktigheten av å håndheve ansvarlige AI-retningslinjer lovlig, i stedet for bare å spørre pent. Oppstartsbedriften, som selger ansiktsgjenkjenningstjenester til politiet, driver dem via millioner av fotografier stjålet fra sosiale medier uten folks samtykke.

Ikke nok regulering

Land har vært delt i sin tilnærming til streng regulering av sin politikk. Alle står overfor samme utfordring: For lite regulering, og de risikerer uforutsigbar og uansvarlig bruk av teknologien. For mye, og de kan tvinge potensielt lukrative AI-innovatører til å flytte.

USA har ikke regulert AI ennå. Kongressen foreslo Algorithmic Accountability Act i 2022, men den falt uten avstemning. FTC har lovet å bruke sine eksisterende fullmakter til å beskytte amerikanske innbyggere mot grov bruk av AI. Den har også utstedt et forhåndsvarsel om foreslått regelverk som kan varsle omfattende nye handelsregler for å håndtere automatiserte beslutnings- og overvåkingssystemer.

EU har vært mer aggressive og foreslått en KI-lov , som håper å bli vedtatt i år. Den vil dekke alle KI-produkter og -tjenester, klassifisere dem etter oppfattet risikonivå og anvende strenge vurderinger og regler for datasamsvar på de med høyere risiko. Overtredere vil bli ilagt store bøter.

Storbritannia har valgt det de eufemistisk kaller en « pro-innovasjonstilnærming ». I stedet for å utnevne én ny, enkeltstående KI-regulator, vil de dele ansvaret for å regulere KI mellom eksisterende regulatorer, og de vil i utgangspunktet ikke gi dem noen nye juridiske fullmakter til å gjøre det.

Mens politikere går på strambåndet mellom etikk og økonomisk fordel, henger fremtiden til AI i en tynn tråd. En ting er sikkert: Å overlate det til teknologiselskapene alene å handle ansvarlig ville være...uansvarlig.