Håll de här besluten mänskliga: en praktisk karta över var AI inte hör hemma

De flesta råd om AI handlar om var du ska börja. Det här är den andra listan: besluten du medvetet bör behålla i mänskliga händer, nedskrivna innan någon automatiserar dem av misstag.

Den sista delen är viktig. Nästan ingen bestämmer sig för att lämna över ett uppsägningsbeslut till en modell. Det som händer i stället är att ett urvalsverktyg rangordnar kandidater, en chef läser rangordningen, och ett halvår senare kan ingen förklara varför slutlistan såg ut som den gjorde. Gränsen flyttades utan att någon höll ett möte om saken.

Testet: vem svarar för det när det går fel

Glöm tekniken ett ögonblick och ställ tre frågor om själva beslutet.

Går det att ta tillbaka billigt? Ett felaktigt dirigerat supportärende kostar några minuter. En avslagen bolåneansökan, ett återkallat jobberbjudande eller ett uppsagt leverantörsavtal kostar långt mer, och skadan drabbar någon utanför ditt företag.

Kommer du att behöva förklara det för en person som är arg? Inte en instrumentpanel, inte en styrelsebild — en namngiven människa som vill veta varför. "Systemet gav dig 0,31 i poäng" är ingen förklaring, och alla i rummet vet det.

Skapar beslutet reglerna för andra beslut? Att sätta ett prisgolv, definiera vad som räknas som en acceptabel kund, välja vilket mått säljteamet får betalt efter — sådana beslut fortplantar sig. Blir ett av dem fel har du inte gjort ett misstag, du har infört en policy.

Faller ett beslut på två av de tre punkterna: håll det mänskligt med avsikt, och skriv ner att det är så.

Fyra ställen att dra gränsen

Beslut om människor. Rekrytering, befordran, prestationsbedömningar, disciplinära åtgärder, uppsägningar. I EU handlar det inte bara om omdöme, utan om regelverk: anställningsbeslut ligger i AI-förordningens högriskkategori, vilket innebär dokumentation, mänsklig tillsyn och förmåga att förklara ett utfall. Bortom regelefterlevnaden finns ett enklare skäl. En chef som inte kan försvara ett beslut med egna ord har förlorat rätten att fatta det.

Beslut som avslutar en relation. Att stänga ett konto, avslå ett skadeanspråk, bryta med en leverantör, neka en återbetalning över en viss gräns. Automatisering är utmärkt på att peka ut kandidaterna och usel på att veta vilken av dem som är kunden ni haft i elva år och som just haft ett dåligt kvartal.

Beslut du kommer att behöva försvara inför en tillsynsmyndighet eller en domstol. Krediter, försäkring, medicinsk prioritering, allt som rör säkerhet. Måttstocken är inte "hade modellen rätt" utan "kan ni månader senare rekonstruera vilken information som låg framför vem". Bygg rekonstruktionssteget först, eller låt bli att automatisera alls.

Beslut om vad som ska optimeras. En modell kommer att jaga målet du ger den med mer disciplin än något team du någonsin lett. Just därför är det ditt jobb att välja målet. Be ett system maximera antalet lösta ärenden, och det kommer att stänga dem snabbare — inklusive de som behövde ett samtal.

Problemet med gummistämpeln

De flesta företag tror att de har löst det här med ett mänskligt granskningssteg. Oftast har de inte det. Ett granskningssteg är teater om något av det här stämmer:

• Granskaren godkänner mer än 95 % av det som når fram.
• Mediantiden för granskning ligger under trettio sekunder för ett beslut som en människa skulle behöva fem minuter för att tänka igenom ordentligt.
• Granskaren ser en rekommendation men inte underlaget bakom den, eller kan inte se de fall som systemet sorterade bort innan de kom fram.
• Ingen mäts på kvaliteten i sina avsteg, bara på genomströmning.
• Att gå emot rekommendationen kräver fler klick, mer motivering eller mer förklaring än att godta den.

Rätta till incitamenten eller sluta låtsas. En gummistämpel är sämre än full automatisering, eftersom den ger dig ansvaret för ett mänskligt beslut utan något av omdömet.

Där maskinen gör rätt för sig

Inget av det här är ett argument för att hålla AI borta från allvarligt arbete. Det är ett argument för att placera den på rätt sida om gränsen. Låt den bygga upp underlaget: hämta avtalshistoriken, sammanfatta arton månaders korrespondens, markera de tre klausuler som avviker från era standardvillkor, redovisa hur liknande fall avgjordes och när. Det är tungjobbet, och det är genuint svårt för en människa att göra bra under tidspress.

Låt sedan en människa fatta beslutet, med sitt namn under.

De företag som får ut mest av AI är inte de som automatiserar flest beslut. Det är de vars medarbetare nu går in i svåra beslut förberedda, i stället för att gå in i dem klockan sex på kvällen med ett halvläst underlag. Det är den uppdelningen vi bygger för på Hercules A, och den är värd att bestämma på papper — vilka beslut som förblir era — innan verktygen bestämmer det åt er.