Kundedata og KI: Hva du lovlig kan legge inn i en modell, og hvordan du beviser det

De fleste bedrifter som vil bruke KI på kundedata, stiller ett spørsmål: er dette lov? Det er feil spørsmål. Spørsmålet som avgjør saken, er om dere om et år kan vise en tilsynsmyndighet eller en stor kunde at det var lov, og at dere håndterte dataene riktig. Det juridiske arbeidet handler for det meste om dokumentasjon og disiplin. Den gode nyheten er at dere kan planlegge for begge deler.

Denne artikkelen tar utgangspunkt i GDPR, fordi den setter standarden som de fleste andre personvernlover kopierer. Den er ikke juridisk rådgivning. Den tar for seg beslutningene juristene deres kommer til å spørre om, og det er lurt å ha svarene klare før de spør.

Begynn med formålet

Kundedata samles inn av en grunn: for å levere en bestilling, gi kundestøtte eller sende en faktura. Loven lar dere som regel bruke dataene til dette formålet og til formål som er forenlige med det. Å bruke kundehenvendelser til å hjelpe kundestøtten med å svare raskere er vanligvis forenlig. Å bruke de samme henvendelsene til å trene en modell dere har tenkt å selge til andre bedrifter, er det vanligvis ikke.

Så før noen laster opp noe som helst, skriv én setning: vi bruker disse dataene til å gjøre X, til nytte for Y. Hvis dere ikke klarer å skrive den, eller den høres dårlig ut, stopp der. Den setningen blir ankeret for alt annet.

Kjenn behandlingsgrunnlaget

All bruk av personopplysninger krever et lovlig behandlingsgrunnlag. For KI-prosjekter er de realistiske alternativene vanligvis avtale (behandlingen er nødvendig for å betjene kunden), berettiget interesse (dere har et reelt forretningsbehov som ikke går foran kundens rettigheter) eller samtykke.

Berettiget interesse er det vanligste grunnlaget, og også det som oftest påberopes uten at arbeidet bak er gjort. Det krever en skriftlig interesseavveining: hva dere oppnår, hva kunden risikerer, og hvorfor kunden med rimelighet kan forvente denne bruken. Dokumentet tar en ettermiddag å skrive, og det er det første en revisor vil be om å få se.

Noen data skal ikke inn

Helseopplysninger, biometriske data, religiøs eller politisk oppfatning, seksuell orientering, fagforeningsmedlemskap: dette er særlige kategorier, og terskelen for å behandle dem er mye høyere. Den samme forsiktigheten gjelder barns data og finansielle identifikatorer som kortnumre.

Den praktiske regelen er enkel. Med mindre hele prosjektet finnes for å håndtere slike data, og dere har fått råd om det, skal de filtreres bort før de når noen modell. Det finnes verktøy for sladding til dette formålet. Test dem mot deres egne, reelle data, for et filter som fanger 95 % av kortnumrene, slipper fortsatt gjennom de resterende 5 %.

Hvor dataene havner, betyr like mye som hva de er

Når dere sender kundedata til en KI-leverandør, blir leverandøren deres databehandler. Dere trenger en databehandleravtale med dem, og dere må lese tre klausuler nøye:

• Trening: bruker leverandøren det dere sender inn til å forbedre sine egne modeller? Bedriftsabonnementer sier vanligvis nei. Få det skriftlig.
• Lagring: hvor lenge beholder de forespørslene og svarene deres, og kan dere korte ned tiden?
• Plassering: hvor behandles dataene? Overføringer ut av EØS krever et rettslig grunnlag, for eksempel en beslutning om tilstrekkelig beskyttelsesnivå eller standard personvernbestemmelser.

Å kjøre modeller på egen infrastruktur fjerner de fleste av disse spørsmålene. Det fjerner ikke behovet for å dokumentere hva dere har gjort.

Oppslag er lettere å forsvare enn trening

Det finnes to hovedmåter å gi en modell tilgang til dataene deres på. Dere kan trene eller finjustere den, slik at dataene blir en del av modellen. Eller dere kan beholde dataene i egne systemer og la modellen slå opp det den trenger i det øyeblikket den svarer, noe som vanligvis kalles gjenfinning (retrieval).

For kundedata er gjenfinning nesten alltid det tryggeste valget. Når en kunde ber dere slette dataene sine, sletter dere posten, og den er borte fra alle fremtidige svar. Å få data ut igjen av en trent modell er i praksis nesten umulig. Det gjør retten til sletting svært vanskelig å oppfylle, og det vet tilsynsmyndighetene.

Slik beviser dere at dere gjorde det riktig

Etterlevelse dere ikke kan dokumentere, teller lite. Ta vare på denne dokumentasjonen, og hold den oppdatert:

1. En behandlingsprotokoll som viser KI-systemet, dataene det bruker, formålet og behandlingsgrunnlaget.
2. En vurdering av personvernkonsekvenser (DPIA). Ny teknologi kombinert med store mengder personopplysninger utløser nesten alltid en slik vurdering. Det er det mest overbevisende enkeltdokumentet dere kan gi en revisor.
3. Signerte databehandleravtaler med alle leverandører som berører dataene.
4. Logger som viser hvilke data som gikk inn i systemet, når og etter hvems fullmakt, samt bevis på at sladdingen faktisk ble kjørt.
5. En navngitt ansvarlig som går gjennom alt dette hver gang systemet endres.

EUs KI-forordning (AI Act) legger til egne dokumentasjonskrav, særlig der et system brukes på høyrisikoområder som rekruttering eller kredittvurdering. Hvis dokumentasjonen deres allerede dekker disse fem punktene, er dere et godt stykke på vei.

Ta jobben tidlig

Bedrifter får problemer når pilotprosjektet lanseres først og dokumentasjonen rekonstrueres i etterkant. Gjør det motsatt. Skriv ned formålet, velg behandlingsgrunnlaget, filtrer dataene, signer avtalene, slå på loggingen, og bygg deretter. Det legger til noen uker på det meste, og det betyr at svaret på «kan dere bevise det?» er en mappe, ikke et hastverk.

Dette grunnarbeidet er en stor del av det vi gjør i Hercules A. Enten dere jobber med oss eller ikke: gjør det før den første posten går inn.