Quando il tuo AI si sbaglia di fronte a un cliente

Si sbaglia sempre, ma è possibile evitare di ripeterlo

Non tutte le risposte errate meritano la stessa risposta. Classificale prima del lancio, in modo chiaro e semplice, assegnando un nome a ciascuna classificazione.

Un problema di tono - il sistema è brusco o troppo formale - è una questione di formazione da affrontare nella prossima versione. Un errore di fatto su una politica, un prezzo o una data di consegna richiede una correzione immediata e un contatto con il cliente. Un errore che riguarda denaro, sicurezza, impegni legali o dati personali è un evento stop-the-line: la funzionalità viene disattivata e rimane così fino a quando non si capisce cosa sia successo.

Definisci queste tre categorie su una pagina, assegnando a ciascuna un responsabile, un tempo di risposta e l'autorità esplicita di disabilitare il sistema. La persona che può spegnere il sistema non dovrebbe dover cercare prima un dirigente. Se il tuo unico interruttore è il deploy, non hai un interruttore.

Offri al cliente una persona, non un loop

Il modello più dannoso nei servizi con intelligenza artificiale è il loop chiuso: il cliente non è d'accordo con il sistema, il sistema si spiega di nuovo e non c'è un'uscita visibile. Le persone perdonano una risposta errata, ma non essere intrappolati.

Ogni interazione con l'intelligenza artificiale deve avere un percorso verso un essere umano disponibile dalla prima richiesta, non dalla terza. Rendilo visibile nell'interfaccia, non nascosto in una pagina di aiuto. Inoltralo a qualcuno che può vedere l'intera conversazione che il cliente ha appena avuto, in modo che il cliente non debba ripeterla. E traccia il tasso di escalation come metrica principale: un sistema che non scala mai è solitamente un sistema la cui uscita nessuno riesce a trovare.

Imposta una soglia che provoca proattivamente l'intervento umano. Se un cliente si ripete due volte, se una conversazione dura troppo o se l'argomento riguarda rimborsi o reclami, passa il controllo senza aspettare di essere chiesto.

Le scuse sono una decisione aziendale

Quando contatti un cliente per una risposta errata, tre elementi sono fondamentali: velocità, specificità e ciò che offri di fare per evitare che si ripeta. Prepara il modello ora, mentre nessuno è sotto pressione.

Dichiara cosa il sistema ha sbagliato, qual è la posizione corretta e cosa stai facendo per evitare che accada di nuovo. Non incolpare il modello, non spiegare l'architettura e non usare la frase "hallucinazione AI" con un cliente - suona come una scusa per una società che ha spedito qualcosa che non controllava.

Poi decidi la politica di rimedio in anticipo. Se il sistema ha citato un prezzo errato, lo onori? Se prometteva una data di consegna che non puoi rispettare, cosa offri? Rispondi a queste domande in una stanza una volta, piuttosto che caso per caso sotto pressione. Il costo di una politica coerente è quasi sempre inferiore al costo dell'improvvisazione.

Registra ciò che vorresti aver registrato

Una traccia degli accessi trasforma un dibattito in un'indagine. Registrala fin dal primo giorno, perché non puoi ricostruirla più tardi:

L'input esatto e l'output esatto con timestamp e ID conversazione che il cliente può citare
Quale modello e quale versione lo ha prodotto, e quale prompt o configurazione era attiva
Quali documenti o registri il sistema ha recuperato, in modo da poter distinguere una cattiva fonte da una cattiva risposta
Ogni intervento umano: chi ha escalato, chi ha sovrascritto e cosa ha cambiato
L'esito - risolto, rimborsato, reclamo, abbandono

Con questo si definiscono le regole di conservazione e accesso. Decidi quanto tempo conservi le conversazioni, chi può leggerle e come un cliente che esercita i propri diritti sui dati ottenga una risposta pulita. Una revisione legale prima del lancio è più economica di una dopo una denuncia.

Prova una volta

Esegui un'esercitazione di 30 minuti prima di andare live. Prendi una risposta errata plausibile, segui il processo di rilevamento, escalation, contatto con il cliente e correzione. Troverai immediatamente le lacune: nessun responsabile nei fine settimana, nessun modo per disabilitare una funzionalità senza disabilitare tutte, nessuna registrazione di quale prompt versione fosse attiva.

Tutto ciò è poco glamour, ma è ciò che determina se un'errore rimane tale o no. Costruiamo queste vie prima del lancio piuttosto che dopo la prima brutta settimana - il peso è più facile da portare quando qualcuno ha già pianificato per questo.