Mantenha Essas Decisões Humanas: Um Mapa Prático de Onde a IA Não Pertence

O teste: quem responde quando dá errado

Por um momento, esqueça a tecnologia e faça três perguntas sobre a própria decisão.

Você consegue reverter isso de forma barata? Um ticket de suporte mal direcionado custa alguns minutos. Uma aplicação de empréstimo rejeitada, uma oferta de emprego retirada ou um contrato com fornecedor rescindido custa muito mais, e o dano é causado fora da sua empresa.

Você terá que explicar a alguém que está irritado? Não é um dashboard ou uma apresentação para o conselho — é um indivíduo nomeado que quer saber o motivo. "O sistema te pontuou em 0,31" não é uma explicação, e todos na sala sabem disso.

A decisão cria as regras para outras decisões? Estabelecer um preço mínimo, definir o que é um cliente aceitável, escolher a métrica pela qual a equipe de vendas é paga — essas decisões se propagam. Cometer um erro nisso não significa apenas um erro, significa uma política.

Se uma decisão falhar em duas dessas três questões, mantenha-a humana de propósito e escreva isso.

Quatro lugares para traçar a linha

Decisões sobre pessoas. Contratação, promoção, avaliações de desempenho, disciplina, demissão. Na UE, isso não é apenas julgamento, é regulamentação: decisões de emprego estão na categoria de alto risco da Lei de Inteligência Artificial, o que significa documentação, supervisão humana e a capacidade de explicar um resultado. Além do cumprimento, há uma razão mais simples. Um gerente que não consegue defender uma decisão em suas próprias palavras perdeu a autoridade para fazê-la.

Decisões que encerram um relacionamento. Fechamento de conta, negação de reclamação, corte de fornecedor, recusa de reembolso acima de um limite. A automação é excelente em identificar os candidatos, mas terrível em saber qual deles é o cliente que está com você há onze anos e teve um trimestre ruim.

Decisões que você terá que defender a um regulador ou a um tribunal. Crédito, seguros, triagem médica, qualquer coisa relacionada à segurança. O padrão não é "o modelo estava correto", mas "você consegue reconstruir, meses depois, o que estava na frente de quem". Construa o passo da reconstrução primeiro ou não automatize nada.

Decisões sobre o que otimizar. Um modelo buscará o alvo que você lhe der com mais disciplina do que qualquer equipe que já gerenciou. É exatamente por isso que escolher o alvo é seu trabalho. Peça a um sistema para maximizar as tickets resolvidas e ele fechará elas mais rápido, incluindo as que precisavam de uma conversa.

O problema do carimbo de aprovação

A maioria das empresas acha ter resolvido isso com um passo de revisão humana. Normalmente, elas não fizeram isso. Um passo de revisão é apenas teatro se qualquer uma dessas condições for verdadeira:

• O revisor aprova mais de 95% do que chega até ele.
• O tempo médio de revisão é inferior a trinta segundos para uma decisão que levaria uma pessoa cinco minutos para pensar adequadamente.
• O revisor vê uma recomendação, mas não as evidências por trás dela, ou não consegue ver os casos que o sistema filtrou antes de chegarem até ele.
• Ninguém é medido pela qualidade das reversões, apenas pelo volume.
• Reverter a recomendação exige mais cliques, mais justificativas ou mais explicações do que aceitá-la.

Corrija os incentivos ou abandone a farsa. Um carimbo de aprovação é pior que a automação completa, porque lhe dá a responsabilidade de uma decisão humana sem o julgamento.

Onde a máquina ganha seu lugar

Nenhuma dessas argumentos para manter a IA longe do trabalho sério. Argumenta para colocá-la no lado certo da linha. Deixe que ela monte o arquivo: extraia o histórico do contrato, resuma dezoito meses de correspondência, destaque as três cláusulas que diferem dos termos padrão, apresente o que casos similares foram decididos e quando. Essa é a parte difícil, e é realmente difícil para uma pessoa fazer bem sob pressão de tempo.

Depois, deixe um humano tomar a decisão, com seu nome nela.

As empresas que mais se beneficiam da IA não são as que automatizam mais decisões. São aquelas cujos funcionários agora chegam em decisões difíceis preparados, ao invés de chegarem às 18h com um arquivo pela metade lido. Essa é a divisão que construímos na Hercules A, e vale decidir no papel — quais decisões ficam com você — antes que as ferramentas decidam por você.