Mantén Estas Decisiones Humanas: Un Mapa Práctico de Dónde No Debería Pertenecer la Inteligencia Artificial

La prueba: quién responde por ella cuando sale mal

Olvídate por un momento de la tecnología y hazte tres preguntas sobre la propia decisión.

¿Puedes revertirla a bajo costo? Una incidencia mal dirigida cuesta unos minutos. Pero una solicitud de hipoteca rechazada, una oferta de empleo retirada o un contrato con un proveedor terminado cuestan mucho más, y el daño recae fuera de tu empresa.

¿Tendrás que explicarla a una persona enfadada? No es suficiente con un tablero o una diapositiva para una junta; se trata de un individuo identificado que quiere saber por qué. "El sistema te calificó con 0.31" no es una explicación, y todos en la sala saben que lo es.

¿La decisión crea las reglas para otras decisiones? Establecer un precio mínimo, definir qué cliente es aceptable, elegir la métrica según la cual se paga al equipo de ventas — estas decisiones tienen repercusiones. Cometer un error en una de ellas no significa solo un error; has creado una política.

Si una decisión falla dos de esos tres criterios, déjala en manos humanas de forma deliberada y anótalo por escrito.

Cuatro lugares para trazar la línea

Decisiones sobre personas: contratación, promoción, evaluaciones de rendimiento, disciplina, despidos. En la UE, esto no es solo una cuestión de juicio, sino también de regulación: las decisiones laborales se consideran de alto riesgo según la Ley de Inteligencia Artificial, lo que implica documentación, supervisión humana y la capacidad de explicar el resultado. Más allá del cumplimiento, hay una razón más sencilla. Un gerente que no puede defender una decisión con sus propias palabras ha perdido su autoridad para tomarla.

Decisiones que ponen fin a una relación: cierre de cuentas, rechazo de reclamaciones, corte con un proveedor, denegación de reembolsos por encima de un umbral. La automatización es excelente para identificar candidatos, pero terrible para saber cuál de ellos es el cliente que lleva once años contigo y que tuvo un mal trimestre.

Decisiones que tendrás que defender ante un regulador o un tribunal: crédito, seguros, triaje médico, cualquier cosa relacionada con la seguridad. El estándar no es "¿era el modelo preciso?", sino "¿puedes reconstruir, meses después, qué información tenían frente a quién?". Construye primero el paso de reconstrucción o no automatices en absoluto.

Decisiones sobre lo que optimizar: un modelo perseguirá la meta que le des con más disciplina que cualquier equipo que hayas dirigido jamás. Precisamente por eso, elegir la meta es tu responsabilidad. Pide a un sistema que maximice las entradas resueltas y las cerrará más rápido, incluidas aquellas que requerían una conversación.

El problema del sello de goma

La mayoría de empresas creen haberlo resuelto con un paso de revisión humana. Por lo general, no es así. Un paso de revisión es una farsa si alguna de las siguientes afirmaciones es cierta:

• El revisor aprueba más del 95% de lo que le llega.
• El tiempo medio de revisión es inferior a treinta segundos para una decisión que tomaría una persona cinco minutos en pensar adecuadamente.
• El revisor ve una recomendación pero no las pruebas que la respaldan, o no puede ver los casos que el sistema filtró antes de llegar a él.
• Nadie se mide por la calidad de las excepciones, solo por la velocidad.
• Revertir la recomendación requiere más clics, más justificación o más explicaciones que aceptarla.

Corrige los incentivos o abandona la farsa. Un sello de goma es peor que la automatización completa, porque te da la responsabilidad de una decisión humana sin el juicio.

Donde la máquina gana su lugar

Nada de lo anterior aboga por mantener a la IA alejada del trabajo serio. Aboga por colocarla en el lado correcto de la línea. Déjala preparar el expediente: extrae el historial contractual, resume dieciocho meses de correspondencia, indica los tres artículos que difieren de tus términos estándar, presenta qué casos similares se han decidido y cuándo. Eso es todo el trabajo duro, y es difícil para una persona hacerlo bien bajo presión de tiempo.

Luego, deja que un humano tome la decisión, con su nombre encima.

Las empresas que obtienen más beneficios de la IA no son aquellas que automatizan más decisiones. Son las que permiten a sus empleados llegar a decisiones difíciles preparados, en lugar de llegar a ellas a las 6 p.m. con un archivo medio leído. Ese es el enfoque que construimos en Hercules A, y vale la pena decidir sobre papel — ¿qué decisiones se mantienen en manos humanas? — antes de que las herramientas lo decidan por ti.