Kunddata och AI: vad du lagligt får mata in i en modell, och hur du bevisar det

De flesta företag som vill använda AI på kunddata ställer en enda fråga: är det här tillåtet? Det är fel fråga. Den som avgör saken är om ni om ett år kan visa en tillsynsmyndighet eller en stor kund att det var tillåtet och att ni skötte det korrekt. Det juridiska arbetet handlar mest om dokumentation och disciplin. Det goda är att ni kan planera för båda.

Den här artikeln utgår från GDPR, eftersom den sätter den ribba som de flesta andra dataskyddslagar kopierar. Den är inte juridisk rådgivning. Den går igenom de beslut era jurister kommer att fråga om, och det är bättre att ha svaren klara innan de frågar.

Börja med ändamålet

Kunddata samlas in av en anledning: för att leverera en order, ge support, skicka en faktura. Lagen tillåter i regel att ni använder dem för det ändamålet och för ändamål som är förenliga med det. Att använda supportärenden för att hjälpa supportteamet att svara snabbare är oftast förenligt. Att använda samma ärenden för att träna en modell som ni tänker sälja till andra företag är det oftast inte.

Så innan någon laddar upp något, skriv en mening: vi använder de här uppgifterna för att göra X, till nytta för Y. Om ni inte kan skriva den, eller om den låter illa, stanna där. Den meningen blir ankaret för allt annat.

Känn till er rättsliga grund

All användning av personuppgifter kräver en rättslig grund. För AI-projekt är de realistiska alternativen oftast avtal (behandlingen behövs för att betjäna kunden), berättigat intresse (ni har ett verkligt affärsbehov som inte väger tyngre än kundens rättigheter) eller samtycke.

Berättigat intresse är den vanligaste grunden, och den som oftast åberopas utan att arbetet bakom finns. Den kräver en skriftlig intresseavvägning: vad ni vinner, vad kunden riskerar och varför kunden rimligen kan förvänta sig den här användningen. Dokumentet tar en eftermiddag att skriva, och det är det första en granskare ber att få se.

Vissa uppgifter ska inte in

Hälsouppgifter, biometriska uppgifter, religiös eller politisk övertygelse, sexuell läggning, medlemskap i fackförening: det här är särskilda kategorier, och kraven för att behandla dem är mycket högre. Samma försiktighet gäller barns uppgifter och finansiella identifierare som kortnummer.

Den praktiska regeln är enkel. Om inte hela projektet finns till för att hantera den typen av uppgifter, och ni har fått råd om det, ska de filtreras bort innan de når någon modell. Det finns verktyg för maskering. Testa dem mot era riktiga data, för ett filter som fångar 95 % av kortnumren släpper ändå igenom de övriga 5 %.

Vart uppgifterna tar vägen spelar lika stor roll som vad de är

När ni skickar kunddata till en AI-leverantör blir leverantören ert personuppgiftsbiträde. Ni behöver ett personuppgiftsbiträdesavtal med dem, och ni behöver läsa tre klausuler noga:

Träning: använder leverantören era indata för att förbättra sina egna modeller? Företagsnivåer säger oftast nej. Få det skriftligt.
Lagring: hur länge sparar de era promptar och svar, och kan ni korta den tiden?
Plats: var behandlas uppgifterna? Överföringar utanför EU kräver en rättslig mekanism, till exempel ett beslut om adekvat skyddsnivå eller standardavtalsklausuler.

Om ni kör modellerna på egen infrastruktur försvinner de flesta av de här frågorna. Behovet av att dokumentera vad ni gjorde försvinner inte.

Hämtning är lättare att försvara än träning

Det finns två huvudsakliga sätt att ge en modell era data. Ni kan träna eller finjustera den, så att uppgifterna blir en del av modellen. Eller så behåller ni uppgifterna i era egna system och låter modellen slå upp det den behöver i samma stund som den svarar, något som brukar kallas hämtning (retrieval).

För kunddata är hämtning nästan alltid det säkrare valet. När en kund ber er radera sina uppgifter raderar ni posten, och den är borta ur alla framtida svar. Att få ut uppgifter ur en tränad modell är i praktiken nästan omöjligt. Det gör rätten till radering mycket svår att uppfylla, och det vet tillsynsmyndigheterna.

Så bevisar ni att ni gjorde rätt

Regelefterlevnad som ni inte kan belägga väger lätt. Håll de här handlingarna och håll dem uppdaterade:

Ett register över behandlingar som anger AI-systemet, vilka uppgifter det använder, ändamålet och den rättsliga grunden.
En konsekvensbedömning avseende dataskydd. Ny teknik i kombination med stora mängder personuppgifter kräver nästan alltid en. Det är det mest övertygande dokument ni kan lämna till en granskare.
Undertecknade biträdesavtal med varje leverantör som hanterar uppgifterna.
Loggar som visar vilka uppgifter som gick in i systemet, när och på vems uppdrag, samt belägg för att maskeringen kördes.
En namngiven ansvarig som går igenom allt ovan varje gång systemet ändras.

EU:s AI-förordning lägger till egna dokumentationskrav, särskilt när ett system används inom högriskområden som rekrytering eller kreditgivning. Om er dokumentation redan täcker de här fem punkterna har ni kommit en bra bit på vägen.

Ta tyngden tidigt

Företag hamnar i trubbel när piloten lanseras först och dokumentationen rekonstrueras i efterhand. Gör det i omvänd ordning. Skriv ändamålet, välj rättslig grund, filtrera uppgifterna, skriv under avtalen, slå på loggningen och bygg sedan. Det tar som mest några veckor extra, och det betyder att svaret på frågan "kan ni bevisa det?" är en mapp, inte en brandkårsutryckning.

Det förarbetet är en stor del av vad vi gör på Hercules A. Oavsett om ni arbetar med oss eller inte: gör det innan den första posten går in.