Avant de laisser l'IA communiquer avec vos clients

Un outil interne d'IA qui fait une erreur vous coûte une heure

Un outil client qui fait la même erreur vous coûte un remboursement, une plainte ou une capture d'écran sur les réseaux sociaux. L'ingénierie est souvent similaire, mais l'exposition l'est moins.

La plupart des équipes sont prêtes à lancer leur système bien avant d'avoir répondu aux questions suivantes. Prenez le temps de les aborder avant que le système ne traite sa première véritable conversation.

Définissez ce que le système est autorisé à faire

Pas ce qu'il peut faire, mais ce qu'il est autorisé à faire. Il s'agit de deux listes différentes et seule la seconde vous protège.

Soyez précis et mécanique. "Répondre aux questions sur l'état des commandes, les délais d'expédition et la politique de retour" est un champ d'application. "Gérer le service client" ne l'est pas. Ensuite, rédigez la seconde liste : les actions que le système ne doit jamais entreprendre de son propre chef. Effectuer des remboursements au-delà d'un certain seuil. Confirmer un prix. Faire toute déclaration concernant les conséquences médicales, juridiques ou financières. Modifier les détails du compte. Promettre une date de livraison.

Si une requête dépasse le premier champ, le système doit transmettre la conversation. Cette règle doit être intégrée dans le système, et non laissée au jugement du modèle au moment opportun.

Décidez ce qui se passe lorsqu'il ne sait pas

Chaque déploiement client nécessite un chemin défini. À qui la conversation est-elle transmise ? Combien de temps cela prend-t-il ? Que voit le client pendant son attente ?

Testez la transmission avant tout autre test. L'agent humain reçoit-il l'intégralité de la conversation ou le client doit-il répéter ses propos ? La transmission fonctionne-t-elle un dimanche soir à 23h, alors que personne n'est de service ? Un système qui escalade vers une file d'attente vide est pire qu'aucun système, car le client a déjà passé cinq minutes à attendre.

Testez sur vos pires cas réels, pas sur vos meilleurs cas inventés

Récupérez cent conversations clients réelles du dernier trimestre. Pas les faciles - celles qui sont en colère, ambiguës, où le client s'est trompé, dans vos deuxième et troisième langues. Faites passer ces conversations à travers le système et lisez vous-même chaque réponse, ou faites-le lire par l'équipe qui gère ces cas aujourd'hui.

Recherchez une courte liste d'échecs spécifiques :

Réponses assurées à des questions que le système n'a pas pour source
Politique légèrement erronée : la bonne idée, mais le mauvais numéro ou délai
Ton qui s'aplatit ou devient brutal lorsque le client est en colère
Tout ce qui ressemble à un engagement que votre entreprise devrait honorer
Comportement changeant selon la langue dans laquelle le client écrit

Vous n'êtes pas à la recherche d'un pourcentage de précision ici. Vous recherchez plutôt la forme des erreurs, afin de décider lesquelles vous pouvez accepter.

Dites clairement ce que c'est

Informez les clients qu'ils parlent à un système d'IA, en termes simples, dès le début. Les régulateurs de plusieurs marchés l'exigent désormais, et les clients le déduisent de toute façon. Les entreprises qui sont sanctionnées sont celles qui semblaient le cacher.

En passant, confirmez ce qui se passe avec les données de la conversation : où elles sont stockées, combien de temps vous les conservez, si elles quittent votre juridiction, et si elles entraînent un entraînement. Vos services juridiques et de protection des données devraient signer cela avant le lancement, pas après la première demande d'accès.

Rendre les échecs visibles

Enregistrez chaque conversation et relisez un échantillon chaque semaine - lisez-les réellement, du début à la fin. Configurez une alerte sur les signaux importants : taux d'escalade, conversations où le client doit répéter ses propos, abandons, et le volume de plaintes mentionnant l'assistant.

Choisissez un chiffre par lequel vous jugerez le système et convenez-en dès maintenant. Déflection, résolution, temps de première réponse, satisfaction sur les conversations traitées. Convenez du seuil qui signifie que vous devez l'arrêter. Décider sous pression, trois semaines après le lancement, ne va pas bien.

Désignez un responsable et créez un interrupteur d'urgence

Une personne est responsable de ce système en production, nommément, avec l'autorité de l'éteindre. L'extinction devrait prendre une seule action et moins d'une minute, et quelqu'un devrait avoir pratiqué cela. Si désactiver l'assistant nécessite un déploiement, vous n'avez pas de véritable interrupteur d'urgence - vous avez seulement un espoir.

Commencez petit

Lancez-le sur un seul canal, une seule langue, une seule catégorie de question, 10 % du trafic. Élargissez-le lorsque les révisions hebdomadaires deviennent ennuyeuses. Les équipes qui lancent largement et font marche arrière ne reçoivent rarement l'approbation pour un nouveau déploiement.

Rien de tout cela n'est exotique. C'est la discipline ordinaire que vous appliqueriez à tout système parlant au nom de votre entreprise - ce qu'il est ici. Nous portons cette responsabilité pour les clients qui ne souhaitent pas construire eux-mêmes la structure, mais la liste de contrôle fonctionne tout aussi bien entre vos mains.