Antes de Permitir que a IA Fale com os Seus Clientes
Uma lista de verificação pré-lançamento para IA voltada ao cliente: escopo, escalonamento, teste em casos reais, divulgação, monitoramento, propriedade e um interruptor de emergência.
Uma ferramenta de IA interna que comete um erro custa-lhe uma hora. Uma ferramenta de atendimento ao cliente que comete o mesmo erro custa-lhe um reembolso, uma reclamação ou uma captura de tela nas redes sociais. A engenharia é frequentemente semelhante. A exposição não.
A maioria das equipes está pronta para lançar muito antes de responder às seguintes perguntas. Trabalhe nelas antes que o sistema tenha sua primeira conversa real.
Anote o que o sistema é permitido a fazer
Não o que ele pode fazer, mas o que ele é permitido a fazer. Estas são listas diferentes, e apenas a segunda protege você.
Seja específico e mecânico. "Responder a perguntas sobre o status do pedido, prazos de envio e política de devolução" é um escopo. "Manter o atendimento ao cliente" não é. Em seguida, escreva a segunda lista: as ações que o sistema nunca deve tomar por conta própria. Emitir reembolsos acima de um limite. Confirmar um preço. Fazer qualquer declaração sobre consequências médicas, legais ou financeiras. Alterar detalhes da conta. Prometer uma data de entrega.
Se um pedido estiver fora do primeiro escopo, o sistema deve transferir a conversa. Essa regra deve ser implementada no sistema, não deixada ao julgamento do modelo no momento.
Decida o que acontece quando ele não souber
Cada implantação de atendimento ao cliente precisa de um caminho definido. Para quem a conversa será transferida, como rápido e o que o cliente verá enquanto espera.
Teste a transferência antes de testar qualquer outra coisa. O agente humano recebe a conversa completa ou o cliente tem que repeti-la? A transferência funciona às 23h de um domingo, quando ninguém está de plantão? Um sistema que escala para uma fila vazia é pior do que nenhum sistema, porque o cliente já gastou cinco minutos chegando lá.
Teste nos seus piores casos reais, não nos melhores inventados
Extraia cem conversas reais com clientes do último trimestre. Não as fáceis - as irritadas, as ambíguas, as em que o cliente estava errado, as em suas segundas e terceiras línguas. Passe-as pelo sistema e leia todas as respostas pessoalmente, ou faça com que a equipe que lida com esses casos hoje leia-as.
Procure uma lista curta de falhas específicas:
- Respostas confiantes a perguntas que o sistema não tem fonte
- Política declarada ligeiramente errada: a ideia certa, o número ou prazo errado
- Tom que fica plano ou ríspido quando o cliente está irritado
- Qualquer coisa que pareça um compromisso que sua empresa teria que cumprir
- Comportamento que muda quando o cliente escreve em uma língua diferente
Você não está procurando uma porcentagem de precisão aqui. Você está procurando a forma dos erros, para que possa decidir quais você pode tolerar.
Diga o que é
Informe aos clientes que estão falando com um sistema de IA, em palavras simples, desde o início. Reguladores em vários mercados agora exigem isso, e os clientes descobrem de qualquer maneira. As empresas punidas são aquelas que pareciam esconder.
Enquanto estiver nisso, confirme o que acontece com os dados da conversa: onde eles são armazenados, quanto tempo você mantém, se deixam seu país e se treinam algo. Seu pessoal legal e de proteção de dados deve assinar isso antes do lançamento, não depois do primeiro pedido de acesso.
Torne as falhas visíveis
Registre todas as conversas e revise uma amostra semanalmente - leia-as genuinamente, desde o início. Configure um alerta nos sinais importantes: taxa de escalada, conversas em que o cliente repete, quedas e volume de reclamações mencionando o assistente.
Escolha um número pelo qual julgará o sistema e concorde com ele agora. Defina a taxa de desvio, taxa de resolução, tempo de primeira resposta e satisfação nas conversas tratadas. Concordem no limiar que significa puxar para trás. Decidir sob pressão, três semanas depois, não é bom.
Nomeie um proprietário e construa uma chave de interrupção
Uma pessoa é responsável por este sistema em produção, pelo nome, com autoridade para desligá-lo. Desligá-lo deve levar a uma ação e menos de um minuto, e alguém deve ter praticado isso. Se desativar o assistente exigir um deploy, você não tem uma chave de interrupção - você tem esperança.
Comece devagar
Lance em um único canal, uma única língua, uma categoria de pergunta, dez por cento do tráfego. Amplie-o quando a revisão semanal for chata. Equipes que lançam amplamente e revertem raramente têm uma segunda tentativa aprovada.
Nenhuma dessas coisas é exótica. É a disciplina comum que você aplicaria a qualquer sistema que fale em nome da sua empresa - o que este é. Levamos esse peso por clientes que prefeririam não construir a estrutura por si mesmos, mas a lista de verificação funciona tão bem nas suas próprias mãos.