Mantenha Estas Decisões Humanas: Um Mapa Prático de Onde a IA Não Pertence

O teste: quem responde quando as coisas dão errado

Por um momento, esqueça a tecnologia e faça três perguntas sobre a própria decisão.

Você consegue reverter isso de forma barata? Um ticket de suporte mal direcionado custa alguns minutos. Uma aplicação de empréstimo rejeitada, uma oferta de emprego retirada ou um contrato com fornecedor rescindido custa muito mais, e o dano é causado fora da sua empresa.

Você terá que explicar a alguém que está irritado? Não é um painel ou uma apresentação para a diretoria — é um indivíduo nomeado que quer saber o motivo. "O sistema te deu uma pontuação de 0,31" não é uma explicação, e todos na sala sabem disso.

A decisão cria as regras para outras decisões? Estabelecer um preço mínimo, definir o que é um cliente aceitável, escolher a métrica pela qual a equipe de vendas é paga — essas decisões se propagam. Cometeu um erro nestas áreas e não fez apenas um, você criou uma política.

Se uma decisão falhar em duas dessas três questões, mantenha-a humana de propósito e documente isso por escrito.

Quatro lugares para traçar a linha

Decisões sobre pessoas. Contratação, promoção, avaliações de desempenho, disciplina, demissão. Na União Europeia, isso não é apenas julgamento, mas regulamentação: as decisões de emprego estão na categoria de alto risco da Lei de Inteligência Artificial, o que significa documentação, supervisão humana e a capacidade de explicar um resultado. Além do cumprimento, há uma razão mais simples. Um gerente que não consegue defender uma decisão em suas próprias palavras perdeu a autoridade para tomá-la.

Decisões que encerram um relacionamento. Fechamento de conta, negação de reclamação, corte de fornecedor, recusa de reembolso acima de um limite. A automação é excelente em identificar os candidatos, mas terrível em saber qual deles é o cliente que está com você há onze anos e teve um trimestre ruim.

Decisões que você terá que defender a um regulador ou a um tribunal. Crédito, seguros, triagem médica, qualquer coisa relacionada à segurança. O padrão não é "o modelo estava correto", mas "você consegue reconstruir, meses depois, o que estava em frente a quem". Construa o passo de reconstrução primeiro ou não automatize nada.

Decisões sobre o que otimizar. Um modelo buscará o alvo que você lhe der com mais disciplina do que qualquer equipe que já gerenciou. É exatamente por isso que escolher o alvo é o seu trabalho. Peça a um sistema para maximizar as tickets resolvidas e ele fechará elas mais rápido, incluindo as que precisavam de uma conversa.

O problema do carimbo de aprovação

A maioria das empresas pensa ter resolvido esse problema com um passo de revisão humana. Normalmente, elas não o fizeram. Um passo de revisão é apenas teatro se qualquer uma dessas condições for verdadeira:

• O revisor aprova mais de 95% do que chega até ele.
• O tempo médio de revisão é inferior a trinta segundos para uma decisão que levaria uma pessoa cinco minutos para pensar adequadamente.
• O revisor vê uma recomendação, mas não as evidências por trás dela, ou não consegue ver os casos que o sistema filtrou antes de chegarem até ele.
• Ninguém é medido pela qualidade das reversões, apenas pelo volume.
• Reverter a recomendação exige mais cliques, mais justificativas ou mais explicações do que aceitá-la.

Corrija os incentivos ou abandone a farsa. Um carimbo de aprovação é pior que a automação completa, porque lhe dá a responsabilidade de uma decisão humana sem o julgamento.

Onde a máquina ganha seu lugar

Nenhuma dessas afirmações defende manter a IA longe do trabalho sério. Ela defende colocá-la no lado certo da linha. Deixe que ela monte o arquivo: extraia o histórico do contrato, resuma dezoito meses de correspondência, destaque os três cláusulas que diferem dos termos padrão, apresente o que aconteceu em casos semelhantes e quando. Essa é a parte difícil, e é realmente desafiador para uma pessoa fazer bem sob pressão de tempo.

Depois, deixe um humano tomar a decisão, com sua assinatura nela.

As empresas que mais se beneficiam da IA não são aquelas que automatizam as decisões mais. São as que permitem que suas pessoas cheguem em decisões difíceis preparadas, em vez de chegarem às 18h com um arquivo meio lido. Essa é a divisão que construímos na Hercules A, e vale a pena decidir no papel — quais decisões ficam com você — antes que as ferramentas decidam por você.