Mantieni queste decisioni umane: una mappa pratica di dove l'intelligenza artificiale non appartiene

Il test: chi ne risponde in caso di errore

Per un momento dimentica la tecnologia e poni tre domande sulla decisione stessa.

• Puoi annullarla facilmente? Un biglietto di assistenza smarrito costa pochi minuti. Una domanda di mutuo rifiutata, una proposta di lavoro ritirata o un contratto con un fornitore terminato comporta costi molto più elevati e il danno ricade al di fuori della tua azienda.

• Dovrai spiegarla a una persona arrabbiata? Non una dashboard o una presentazione per il consiglio di amministrazione, ma un individuo identificabile che vuole sapere perché. "Il sistema ti ha valutato con uno 0,31" non è una spiegazione, e tutti nella stanza sanno che lo è.

• La decisione crea le regole per altre decisioni? Impostare un prezzo minimo, definire cosa si considera un cliente accettabile, scegliere la metrica sulla quale il team di vendita viene pagato - queste decisioni si propagano. Se ne sbagli una, non hai commesso un solo errore, ne hai commesso una politica.

Se una decisione fallisce due su tre di questi criteri, conservala intenzionalmente in mano umana e scrivilo per iscritto.

Quattro luoghi dove tracciare la linea

Decisioni riguardanti le persone. Assunzione, promozione, valutazioni delle prestazioni, disciplinari, licenziamenti. Nell'UE non si tratta solo di giudizio, ma di regolamentazione: le decisioni in materia di lavoro rientrano nella categoria ad alto rischio della Legge sull'Intelligenza Artificiale, che richiede documentazione, supervisione umana e la capacità di spiegare un risultato. Oltre alla conformità, c'è una ragione più semplice. Un manager che non riesce a difendere una decisione con le proprie parole ha perso l'autorità per prenderla.

Decisioni che pongono fine a una relazione. Chiusura di un conto, rifiuto di una richiesta, interruzione di un fornitore, rifiuto di un rimborso superiore a una soglia. L'automazione eccelle nell'identificare i candidati, ma è terribile nel riconoscere quale dei clienti che hanno con te da undici anni e che hanno avuto un trimestre difficile sia quello giusto.

Decisioni che dovrai difendere nei confronti di un regolatore o di un tribunale. Credito, assicurazioni, triage medico, qualsiasi cosa riguardi la sicurezza. Lo standard non è "era accurato il modello", ma "riesci a ricostruire, mesi dopo, quali informazioni erano davanti a chi". Costruisci prima il passo della ricostruzione o non automatizzare affatto.

Decisioni su ciò da ottimizzare. Un modello perseguirà l'obiettivo che gli dai con una disciplina molto maggiore di qualsiasi squadra tu abbia mai gestito. Ecco proprio perché scegliere l'obiettivo è il tuo lavoro. Chiedi a un sistema di massimizzare i biglietti risolti e chiuderà anche quelli che richiedevano una conversazione.

Il problema del timbro di approvazione

La maggior parte delle aziende crede di averlo risolto con un passo di revisione umana. Di solito non è così. Un passo di revisione è solo un teatro se:

• Il revisore approva più dell'85% di ciò che gli arriva.
• Il tempo medio di revisione è inferiore a trenta secondi per una decisione che richiederebbe a una persona cinque minuti per rifletterci adeguatamente.
• Il revisore vede una raccomandazione ma non le prove dietro di essa, o non può vedere i casi filtrati dal sistema prima di arrivare da lui.
• Nessuno è misurato sulla qualità delle eccezioni, solo sul volume.
• Annullare la raccomandazione richiede più clic, più giustificazioni o più spiegazioni che accettarla.

Correggi gli incentivi o abbatta il pretesto. Un timbro di approvazione è peggio dell'automazione completa, perché ti dà la responsabilità di una decisione umana senza alcun giudizio.

Dove la macchina merita il suo posto

Nessuno di questo sostiene di tenere l'intelligenza artificiale lontana dal lavoro serio. Sostiene piuttosto di posizionarla correttamente. Lascia che assembli il file: estrai la storia del contratto, riassumi diciotto mesi di corrispondenza, evidenzia le tre clausole che differiscono dai tuoi termini standard, esponi quali casi simili sono stati decisi e quando. Questo è il lavoro duro, ed è davvero difficile per una persona farlo bene sotto pressione di tempo.

Poi lascia che una persona prenda la decisione, con il suo nome su di essa.

Le aziende che ottengono di più dall'intelligenza artificiale non sono quelle che automatizzano di più le decisioni. Sono quelle in cui le persone ora si presentano alle decisioni difficili preparate, invece di presentarsi alle 18:00 con un file a metà letto. Questa è la divisione che costruiamo in Hercules A, e vale la pena decidere su carta - quali decisioni restano tue - prima che gli strumenti lo decidano per te.