Kundedata og AI: Hvad du lovligt må putte i en model, og hvordan du dokumenterer det

De fleste virksomheder, der vil bruge AI på kundedata, stiller ét spørgsmål: Er det tilladt? Det er det forkerte spørgsmål. Det, der afgør sagen, er, om I om et år kan vise en tilsynsmyndighed eller en stor kunde, at det var tilladt, og at I håndterede dataene korrekt. Det juridiske arbejde handler mest om papirarbejde og disciplin. Den gode nyhed er, at I kan planlægge begge dele.

Artiklen tager udgangspunkt i databeskyttelsesforordningen (GDPR), fordi den sætter den standard, som de fleste andre privatlivslove efterligner. Den er ikke juridisk rådgivning. Den gennemgår de beslutninger, jeres jurister vil spørge ind til, og det er bedre at have svarene klar, før de spørger.

Start med formålet

Kundedata indsamles af en grund: for at levere en ordre, yde support eller sende en faktura. Loven tillader generelt, at I bruger dataene til det formål og til formål, der er forenelige med det. At bruge supporthenvendelser til at hjælpe jeres supportteam med at svare hurtigere er som regel foreneligt. At bruge de samme henvendelser til at træne en model, som I vil sælge til andre virksomheder, er det som regel ikke.

Så før nogen uploader noget, skal I skrive én sætning: Vi bruger disse data til at gøre X, til gavn for Y. Hvis I ikke kan skrive den, eller hvis den lyder dårligt, så stop der. Den sætning bliver ankeret for alt det andet.

Kend jeres behandlingsgrundlag

Enhver brug af personoplysninger kræver et lovligt behandlingsgrundlag. I AI-projekter er de realistiske muligheder som regel kontrakt (behandlingen er nødvendig for at betjene kunden), legitim interesse (I har et reelt forretningsmæssigt behov, som ikke går forud for kundens rettigheder) eller samtykke.

Legitim interesse er det mest almindelige grundlag og også det, der oftest påberåbes uden det arbejde, der skal ligge bag. Det kræver en skriftlig interesseafvejning: hvad I får ud af det, hvad kunden risikerer, og hvorfor kunden med rimelighed kan forvente denne brug. Det dokument tager en eftermiddag at skrive, og det er det første, en revisor vil bede om at se.

Nogle data skal ikke ind

Helbredsoplysninger, biometriske data, religiøs eller politisk overbevisning, seksuel orientering, fagforeningsmæssigt tilhørsforhold: Det er særlige kategorier, og kravene til at behandle dem er langt højere. Den samme forsigtighed gælder data om børn og finansielle identifikatorer som kortnumre.

Den praktiske regel er enkel. Medmindre hele projektet handler om at håndtere den slags data, og I har fået rådgivning om det, så filtrer dem fra, før de når nogen model. Der findes værktøjer til maskering af data. Test dem på jeres egne data, for et filter, der fanger 95 % af kortnumrene, lader stadig de sidste 5 % slippe igennem.

Hvor dataene havner, betyder lige så meget som hvad de er

Når I sender kundedata til en AI-leverandør, bliver leverandøren jeres databehandler. I skal have en databehandleraftale med dem, og I skal læse tre punkter grundigt:

• Træning: Bruger leverandøren jeres input til at forbedre sine egne modeller? Erhvervsabonnementer siger som regel nej. Få det på skrift.
• Opbevaring: Hvor længe gemmer de jeres prompts og svar, og kan I forkorte perioden?
• Placering: Hvor behandles dataene? Overførsler uden for EU kræver et juridisk grundlag, for eksempel en tilstrækkelighedsafgørelse eller standardkontraktbestemmelser.

Hvis I kører modellerne på jeres egen infrastruktur, forsvinder de fleste af disse spørgsmål. Behovet for at dokumentere, hvad I har gjort, forsvinder ikke.

Opslag er lettere at forsvare end træning

Der er groft sagt to måder at give en model adgang til jeres data. I kan træne eller finjustere den, så dataene bliver en del af modellen. Eller I kan beholde dataene i jeres egne systemer og lade modellen slå det op, den har brug for, i det øjeblik den svarer. Det kaldes som regel retrieval.

For kundedata er opslag næsten altid det sikreste valg. Når en kunde beder jer om at slette sine data, sletter I posten, og så indgår den ikke i nogen fremtidige svar. At få data ud af en trænet model igen er i praksis tæt på umuligt. Det gør retten til sletning meget svær at overholde, og det ved tilsynsmyndighederne godt.

Sådan dokumenterer I, at I gjorde det rigtigt

Overholdelse, I ikke kan dokumentere, tæller ikke for meget. Hav disse dokumenter, og hold dem opdaterede:

1. En fortegnelse over behandlingsaktiviteter, der angiver AI-systemet, de data det bruger, formålet og behandlingsgrundlaget.
2. En konsekvensanalyse vedrørende databeskyttelse. Ny teknologi kombineret med store mængder personoplysninger udløser næsten altid en. Det er det mest overbevisende enkeltdokument, I kan give en revisor.
3. Underskrevne databehandleraftaler med alle leverandører, der har adgang til dataene.
4. Logs, der viser, hvilke data der kom ind i systemet, hvornår og med hvis bemyndigelse, samt dokumentation for, at maskeringen blev kørt.
5. En navngiven ansvarlig, der gennemgår alt ovenstående, hver gang systemet ændres.

EU's AI-forordning tilføjer sine egne dokumentationskrav, særligt hvor et system bruges på højrisikoområder som rekruttering eller kreditvurdering. Hvis jeres dokumentation allerede dækker disse fem punkter, er I det meste af vejen.

Tag arbejdet tidligt

Virksomheder kommer i problemer, når pilotprojektet lanceres først, og papirarbejdet rekonstrueres bagefter. Gør det omvendt. Skriv formålet, vælg grundlaget, filtrer dataene, underskriv kontrakterne, slå logningen til, og byg så. Det tager højst et par uger ekstra, og det betyder, at svaret på "kan I dokumentere det?" er en mappe og ikke en hektisk jagt.

Det forarbejde er en stor del af det, vi laver hos Hercules A. Uanset om I arbejder med os eller ej, så gør det, før den første post kommer ind.