Før du lader AI tale med dine kunder
En tjekliste før lancering af kundevendt AI: afgrænsning, eskalering, test på virkelige sager, oplysningspligt, overvågning, ejerskab og en nødstopknap.
Et internt AI-værktøj, der begår en fejl, koster dig en time. Et kundevendt værktøj, der begår den samme fejl, koster dig en refusion, en klage eller et skærmbillede på de sociale medier. Teknikken bag er ofte den samme. Eksponeringen er det ikke.
De fleste teams er klar til at lancere længe før, de har svaret på spørgsmålene herunder. Arbejd dig igennem dem, før systemet tager sin første virkelige samtale.
Skriv ned, hvad systemet har lov til at gøre
Ikke hvad det kan gøre — hvad det har lov til at gøre. Det er to forskellige lister, og kun den anden beskytter dig.
Vær konkret og mekanisk. "Besvare spørgsmål om ordrestatus, leveringstider og returret" er en afgrænsning. "Håndtere kundeservice" er det ikke. Skriv derefter den anden liste: de handlinger, systemet aldrig må foretage på egen hånd. Udbetale refusioner over en given grænse. Bekræfte en pris. Udtale sig om medicinske, juridiske eller økonomiske forhold. Ændre kontooplysninger. Love en leveringsdato.
Falder en henvendelse uden for den første liste, giver systemet den videre. Den regel skal håndhæves i systemet, ikke overlades til modellens vurdering i situationen.
Beslut, hvad der sker, når det ikke ved noget
Enhver kundevendt løsning har brug for en defineret vej ud. Hvem samtalen går videre til, hvor hurtigt, og hvad kunden ser imens.
Test overleveringen, før du tester noget som helst andet. Får den menneskelige medarbejder hele samtalen, eller skal kunden gentage sig selv? Virker overleveringen kl. 23 en søndag aften, hvor ingen er på vagt? Et system, der eskalerer ind i en tom kø, er værre end intet system, for kunden har allerede brugt fem minutter på at nå dertil.
Test på dine værste virkelige sager, ikke dine bedste opdigtede
Tag hundrede virkelige kundesamtaler fra sidste kvartal. Ikke de nemme — de vrede, de tvetydige, dem hvor kunden tog fejl, dem på dit andet og tredje sprog. Kør dem gennem systemet og læs selv hvert eneste svar, eller lad det team, der håndterer den slags sager i dag, læse dem.
Se efter en kort liste af helt bestemte fejl:
- Selvsikre svar på spørgsmål, systemet ikke har nogen kilde til
- Politik gengivet en anelse forkert: den rigtige idé, det forkerte tal eller den forkerte frist
- En tone, der bliver flad eller skinger, når kunden er oprevet
- Alt, der læses som et tilsagn, din virksomhed ville være nødt til at indfri
- Adfærd, der ændrer sig, når kunden skriver på et andet sprog
Du leder ikke efter en præcisionsprocent her. Du leder efter fejlenes karakter, så du kan afgøre, hvilke af dem du kan leve med.
Sig, hvad det er
Fortæl kunderne i klare ord fra begyndelsen, at de taler med et AI-system. Myndigheder på flere markeder kræver det nu, og kunderne regner det alligevel ud. De virksomheder, der bliver straffet, er dem, der så ud til at skjule det.
Og mens du er i gang: få styr på, hvad der sker med samtaledataene — hvor de gemmes, hvor længe I opbevarer dem, om de forlader jeres jurisdiktion, og om de træner noget. Jeres jurister og databeskyttelsesansvarlige bør godkende det før lancering, ikke efter den første indsigtsbegæring.
Gør fejlene synlige
Log hver samtale, og gennemgå en stikprøve hver uge — læs dem virkelig, fra start til slut. Sæt en alarm på de signaler, der betyder noget: eskaleringsrate, samtaler hvor kunden gentager sig selv, frafald, og antallet af klager, der nævner assistenten.
Vælg ét tal, du vil bedømme systemet på, og bliv enige om det nu. Deflection rate, løsningsgrad, svartid på første svar, tilfredshed på håndterede samtaler. Bliv enige om den grænse, der betyder, at I trækker det tilbage. At skulle beslutte det under pres, tre uger inde i forløbet, går sjældent godt.
Udpeg en ejer, og byg en nødstopknap
Én navngiven person ejer dette system i drift, med bemyndigelse til at slukke for det. At slukke det bør kræve én handling og tage under et minut, og nogen bør have øvet det. Hvis det kræver en deployment at slå assistenten fra, har du ikke en nødstopknap — du har et håb.
Start smalt
Lancér på én kanal, ét sprog, én type spørgsmål, ti procent af trafikken. Udvid, når den ugentlige gennemgang er kedelig. Teams, der lancerer bredt og må rulle tilbage, får sjældent godkendt et forsøg nummer to.
Intet af dette er eksotisk. Det er den helt almindelige disciplin, du ville lægge på ethvert system, der taler på vegne af din virksomhed — hvilket er præcis, hvad dette er. Vi bærer den byrde for kunder, der helst ikke selv vil bygge stilladset, men tjeklisten virker lige så godt i dine egne hænder.