Garder ces décisions humaines : une carte pratique de l'endroit où l'IA ne appartient pas

La liste inverse : les décisions à garder entre les mains humaines

La plupart des conseils en intelligence artificielle vous indiquent où commencer. Voici la liste inverse : les décisions que vous devriez garder délibérément entre les mains humaines, documentées avant qu'un outil ne les automatise par accident.

Ce dernier point est crucial. Presque personne ne décide de confier un licenciement à un modèle. Au lieu de cela, un outil de présélection classe les candidats, un manager lit la liste et, six mois plus tard, personne ne peut expliquer pourquoi la courte liste avait cette apparence. La limite a bougé sans réunion.

Le test : qui est responsable si ça tourne mal ?

Un instant, oubliez la technologie et posez-vous trois questions sur la décision elle-même.

Est-il possible d'annuler la décision à moindre coût ? Un ticket de support mal orienté coûte quelques minutes. Une demande de prêt refusée, une offre d'emploi retirée ou un contrat avec un fournisseur rompu coûte beaucoup plus cher, et les dommages tombent en dehors de votre entreprise.

Devrez-vous expliquer la décision à une personne en colère ? Pas un tableau de bord ou une diapositive de réunion - un individu nommé qui veut savoir pourquoi. "Le système vous a attribué un score de 0,31" n'est pas une explication, et tout le monde dans la pièce sait cela.

La décision crée-t-elle les règles pour d'autres décisions ? Fixer un prix plancher, définir ce qui est considéré comme un client acceptable, choisir la métrique sur laquelle l'équipe commerciale est payée - ces décisions se propagent. Faites une erreur et vous n'avez pas fait qu'une seule erreur, vous avez créé une politique.

Si une décision échoue à deux de ces trois critères, gardez-la humaine intentionnellement et écrivez-le.

Quatre endroits pour tracer la ligne

Décisions concernant les personnes. Embauche, promotion, évaluations de performance, discipline, licenciements. Dans l'UE, ce n'est pas seulement un jugement, c'est une réglementation : les décisions en matière d'emploi relèvent de la catégorie à haut risque de la loi sur l'intelligence artificielle, ce qui implique une documentation, une supervision humaine et la possibilité d'expliquer le résultat. Au-delà de la conformité, il y a une raison plus simple. Un manager qui ne peut pas défendre une décision en ses propres termes a perdu son autorité pour la prendre.

Décisions mettant fin à une relation. Fermeture de compte, refus de réclamation, rupture avec un fournisseur, refus de remboursement au-delà d'un seuil. L'automatisation excelle à identifier les candidats, mais est médiocre à savoir lequel est le client qui vous est fidèle depuis onze ans et a eu un mauvais trimestre.

Décisions que vous devrez défendre auprès d'un régulateur ou d'un tribunal. Crédit, assurance, triage médical, tout ce qui touche à la sécurité. La norme n'est pas "était-ce que le modèle était précis", mais "pouvez-vous reconstruire, des mois plus tard, les informations devant qui ?" Construisez l'étape de reconstruction en premier ou n'automatisez pas du tout.

Décisions sur ce qu'il faut optimiser. Un modèle poursuivra la cible que vous lui donnez avec plus de discipline que toute équipe que vous ayez jamais gérée. C'est exactement pourquoi le choix de la cible est votre responsabilité. Demandez à un système d'optimiser les tickets résolus et il fermera plus rapidement, y compris ceux qui nécessitaient une conversation.

Le problème du tampon en caoutchouc

La plupart des entreprises pensent qu'elles ont résolu ce problème avec une étape de révision humaine. Souvent, elles ne l'ont pas fait. Une étape de révision est un spectacle si l'une des conditions suivantes est vraie :

• Le réviseur approuve plus de 95 % de ce qui lui arrive.
• Le temps moyen de révision est inférieur à trente secondes pour une décision qui prendrait à une personne cinq minutes à bien réfléchir.
• Le réviseur voit une recommandation mais pas les preuves qui la soutiennent, ou ne peut voir les cas que le système a filtrés avant leur arrivée.
• Personne n'est mesuré sur la qualité des révisions, seulement sur le débit.
• Inverser la recommandation nécessite plus de clics, plus de justification ou plus d'explications qu'accepter la recommandation.

Corrigez les incitations ou abandonnez le prétexte. Un tampon en caoutchouc est pire que l'automatisation complète, car il vous donne la responsabilité d'une décision humaine sans aucun du jugement.

Où la machine gagne sa place

Rien dans cet article n'est un argument pour garder l'IA à l'écart du travail sérieux. C'est un argument pour la placer du bon côté de la ligne. Laissez-la assembler le dossier : extraire l'historique du contrat, résumer dix-huit mois de correspondance, signaler les trois clauses qui diffèrent des termes standard, présenter ce que sont les cas similaires décidés et quand. C'est le travail pénible, et il est réellement difficile pour une personne de le faire correctement sous pression de temps.

Puis laissez un humain prendre la décision, avec son nom dessus.

Les entreprises qui tirent le plus parti de l'IA ne sont pas celles qui automatisent le plus de décisions. Ce sont celles dont les employés abordent désormais des décisions difficiles préparés, plutôt qu'à 18h avec un demi-fichier lu. C'est la distinction que nous faisons chez Hercules A, et il vaut mieux décider sur papier - quelles décisions restent entre vos mains - avant que les outils ne le décident pour vous.