September var et vendepunkt for forkjempere for AI-etikk. FTC utstedte ordre i henhold til paragraf 6(b) til syv store teknologiselskaper som produserer chatboter som skal brukes som ledsagere. Dette er den første store føderale undersøkelsen som spesifikt retter seg mot AI-følgechatboter som er designet for å etterligne menneskelige egenskaper, følelser og intensjoner. FTC slår ikke tilbake. De går etter noen av AIs mest tungvektsselskaper. Alphabet, Meta Platforms, Instagram, OpenAI, Snap, Character Technologies og Elon Musks xAI fikk alle bokstaver.

Kommisjonærene stemte enstemmig for å utstede ordrene, noe som signaliserer tverrpolitisk regulatorisk bekymring rundt AI. De ga selskaper 45 dager til å forklare ulike aspekter ved sin AI-drift, inkludert hvordan de tjener penger på brukerengasjement, behandler brukerinnspill, genererer resultater som svar på brukerhenvendelser og utvikler og godkjenner sine AI-karakterer. De må også rapportere om hvordan de måler, tester og overvåker negative konsekvenser før og etter utrulling, samt hvordan de reduserer negative konsekvenser, spesielt for barn.

Disse rapportene drøfter også hvordan de informerer brukere og foreldre om potensielle negative konsekvenser, om sine praksiser for datainnsamling og -håndtering, samt hvordan de bruker eller deler personlig informasjon. Så det er bred bekymring for potensiell skade på personvernet og sårbare brukere.

Hvordan påvirker dette B2B-selskaper?

Vi er både overrasket og ikke overrasket over at FTC gjør dette. På den ene siden er Trump-administrasjonen sterkt motstander av regulering, spesielt når det gjelder AI. På den andre siden har flere familier anlagt søksmål der de påstår at AI-chatboter oppmuntrer til selvmord blant tenåringer. Barn har angivelig blitt oppildnet til å ta sine egne liv av AI-algoritmer som fungerte uansvarlig. Så det er på høy tid at noe blir gjort.

Imidlertid reiser AI-er som spiller lett på sårbare menneskers emosjonelle tilstander problemer med forbrukerskade. Hvordan kan dette påvirke B2B-selskaper?

Enhver antagelse om at B2B-organisasjoner kan ignorere forbrukerrettet AI-regulering er farlig, advarte advokatene Christa Bieker og Christopher Leach fra Mayer Brown i 2022. FTC paragraf 5 inneholder ingen uttrykkelige begrensninger på hvem som kvalifiserer som forbruker. Den har for eksempel iverksatt håndhevingstiltak mot B2B-betalingsbehandlere og utlånsselskaper for små bedrifter.

Og denne handlingen antyder at FTC ikke vil være så passiv som noen av oss kanskje trodde når det gjelder å korrigere noen av skadene ved AI.

I 2023 sa daværende styreleder Lina M. Khan at «Det finnes ingen unntak fra lovene for kunstig intelligens, og FTC vil håndheve loven kraftig for å bekjempe urimelig eller villedende praksis eller urimelige konkurransemetoder.» Det gjenstår å se hvor mye av dette som vil bli værende i den nye administrasjonen, men det er tydeligvis fortsatt en appetitt på å holde bedrifter ansvarlige.

Selskaper som ikke inntar AI riktig risikerer «algoritmisk degorgement»

Det vil være en trist og sjelden person som forelsker seg i sin egen kundefordrings-chatbot. Likevel kan uansvarlig bruk av AI fortsatt forårsake problemer for B2B-bedrifter.

For eksempel etablerte FTC et algoritmisk håndhevingstiltak for sletting som de kan bruke for å få selskaper til å slette AI-er som er utviklet med feil innhentede data. Disse har hovedsakelig blitt brukt i forbrukersaker, men som vi har lært, kan bedrifter også være forbrukere.

Bruk ISO 42001 til å dokumentere beste praksis

Det finnes tiltak bedrifter kan iverksette for å beskytte seg selv ved å sørge for at de utvikler og distribuerer sine AI-er på en ansvarlig måte. Et av de viktigste er å dokumentere at man gjør ting ansvarlig fra grunnen av. ISO 42001, en internasjonal standard spesielt for systemer for styring av kunstig intelligens (AIMS), tar for seg AI-utfordringer, inkludert etikk, åpenhet, kontinuerlig læring, skjevhet og ansvarlighet. Dette er nettopp bekymringene som driver FTC-undersøkelsen.

For eksempel må organisasjoner som følger denne standarden identifisere og dokumentere potensielle skader før utrulling, vurdere uforholdsmessige konsekvenser for beskyttede grupper, regelmessig revurdere risikoer og implementere dokumenterte tiltak. Det er akkurat det FTC krever av chatbot-leverandører.

På samme måte kontrollerer ISO 42001s vedlegg A.7 kravet om dokumentasjon av datainnsamlingskilder, samt transformasjon, bruk og lagring. Den ser på datakvalitetsstyring, inkludert virkningen av eventuelle skjevheter i systemet.

Selv selskaper som ikke har direkte kontakt med forbrukere, bør se på FTCs nåværende etterforskning gjennom et B2B-perspektiv. Chatboter er ikke bare nye grensesnitt til eksisterende bedriftssystemer. De er snarere langt kraftigere når det gjelder hvordan de kan samle inn og massere data, og har et langt mer flytende og naturlig språk. Det skaper nye måter å samhandle med bedriftskunder og ansatte på.

FTC-ordrer i henhold til paragraf 6(b) signaliserer ikke rettslige skritt; de er verktøy for faktainnhenting som hjelper med å utfylle kommisjonens kunnskap. Men hvis den ikke liker det den finner, kan håndhevingstiltak følge. Og det kan skape presedens for alle typer bruk av AI mot alle typer forbrukere (til og med små bedrifter). I et ustabilt regulatorisk landskap der beslutningstakere sliter med ny teknologi, lønner det seg å være forsiktig og implementere kontroller.