Antes de dejar que la IA hable con tus clientes

Herramienta de IA interna: minimiza los errores

Un error cometido por una herramienta de IA interna te cuesta una hora. Pero si ese mismo error lo comete un asistente que interactúa con clientes, podrías enfrentarte a una devolución, una queja o incluso una captura de pantalla en redes sociales. Aunque la ingeniería puede ser similar, la exposición es muy distinta.

La mayoría de los equipos están listos para lanzar su sistema mucho antes de haber respondido las siguientes preguntas:

• Define las capacidades del sistema: No lo que puede hacer, sino lo que está permitido hacer. Estas son dos listas distintas y solo la segunda te protege.
• Especifica acciones prohibidas: Establece una lista de acciones que el sistema nunca debe realizar por sí solo, como procesar reembolsos por encima de un umbral, confirmar precios, ofrecer asesoramiento médico o legal, modificar datos de cuenta o prometer fechas de entrega.
• Decide qué hacer cuando no sabe: Cada implementación con clientes necesita una ruta definida. ¿A quién se le transfiere la conversación? ¿Con qué rapidez y qué ve el cliente mientras espera? Prueba este proceso antes que cualquier otra cosa.
• Prueba con los casos reales más complejos: Extrae 100 conversaciones reales de clientes del último trimestre (no las fáciles, sino las enojadas, las ambiguas, las donde el cliente se equivocó, etc.). Haz pasar estas conversaciones por el sistema y revisa cada respuesta tú mismo o hazlo con el equipo que maneja estos casos actualmente.
• Identifica patrones de fallo: Busca una lista corta de errores específicos: respuestas seguras a preguntas fuera de su alcance, políticas mal expresadas, tono plano o agresivo cuando el cliente está molesto, compromisos que tu empresa no podría cumplir, o cambios en el comportamiento al escribir en un idioma diferente.
• Sé transparente con los usuarios: Informa a los clientes que están conversando con un sistema de IA desde el principio. En varios mercados, esto es obligatorio para los reguladores y los clientes lo adivinan de todos modos. Las empresas sancionadas son aquellas que parecían ocultarlo.
• Define qué sucede con los datos: Confirma dónde se almacenan las conversaciones, cuánto tiempo se conservan, si salen del país y si se usan para entrenar otros modelos. Tu equipo legal y de protección de datos debe aprobar esto antes del lanzamiento, no después de la primera solicitud de acceso.
• Haz visibles los errores: Registra cada conversación y revisa una muestra semanalmente, leyéndolas en su totalidad. Configura alertas en las señales importantes: tasa de escalamiento, clientes que repiten sus preguntas, abandonos y volumen de quejas que mencionan al asistente.
• Establece un umbral de rendimiento: Elige una métrica principal para evaluar el sistema (desviación, resolución, tiempo de respuesta inicial o satisfacción con las conversaciones manejadas) y acuerda un umbral crítico. Decidir retirar el sistema bajo presión después de tres semanas no es una buena estrategia.
• Designa a un responsable y crea un interruptor de emergencia: Una persona específica debe ser responsable del sistema en producción, con la autoridad para apagarlo. Apagar el asistente debe tomar menos de un minuto y alguien debe haber practicado este procedimiento. Si desactivar el asistente requiere un despliegue, no tienes un interruptor de emergencia, solo una esperanza.
• Comienza de forma limitada: Lanza el sistema en un solo canal, idioma y categoría de pregunta, con el 10% del tráfico. Amplía su alcance cuando las revisiones semanales sean aburridas. Los equipos que lanzan ampliamente y luego retroceden rara vez obtienen una segunda oportunidad.