Hold disse beslutningene menneskelige: et praktisk kart over hvor KI ikke hører hjemme

De fleste råd om KI forteller deg hvor du skal begynne. Dette er den andre listen: beslutningene du bevisst bør beholde i menneskehender, nedskrevet før noen automatiserer dem ved et uhell.

Det siste poenget er viktig. Nesten ingen bestemmer seg for å overlate en oppsigelse til en modell. Det som skjer i stedet, er at et screeningverktøy rangerer kandidater, en leder leser rangeringen, og seks måneder senere kan ingen forklare hvorfor kortlisten så ut som den gjorde. Grensen flyttet seg uten at det ble holdt et møte.

Testen: hvem svarer for det når det går galt

Glem teknologien et øyeblikk og still tre spørsmål om selve beslutningen.

Kan du reversere den billig? En feilrutet supporthenvendelse koster noen minutter. En avslått boliglånssøknad, et tilbaketrukket jobbtilbud eller en oppsagt leverandørkontrakt koster langt mer, og skaden rammer noen utenfor selskapet ditt.

Må du forklare den til en person som er sint? Ikke et dashbord, ikke et styrelysbilde — et navngitt menneske som vil vite hvorfor. «Systemet ga deg 0,31 i score» er ingen forklaring, og alle i rommet vet det.

Skaper beslutningen reglene for andre beslutninger? Å sette et prisgulv, definere hva som teller som en akseptabel kunde, velge hvilken måltall selgerne avlønnes på — slike beslutninger forplanter seg. Tar du feil på én, har du ikke gjort én feil, du har laget en policy.

Hvis en beslutning stryker på to av disse tre, hold den menneskelig med overlegg, og skriv det ned.

Fire steder å trekke grensen

Beslutninger om mennesker. Ansettelse, forfremmelse, prestasjonsvurderinger, disiplinærsaker, nedbemanning. I EU er dette ikke bare skjønn, det er regulering: arbeidsrelaterte beslutninger ligger i høyrisikokategorien i KI-forordningen, som betyr dokumentasjon, menneskelig tilsyn og evnen til å forklare et utfall. Utover etterlevelse finnes det en enklere grunn. En leder som ikke kan forsvare en beslutning med egne ord, har mistet myndigheten til å ta den.

Beslutninger som avslutter et forhold. Å stenge en konto, avslå et krav, kutte ut en leverandør, nekte en refusjon over en viss grense. Automatisering er utmerket til å peke ut kandidatene og elendig til å vite hvilken av dem som er kunden som har vært hos deg i elleve år og nettopp har hatt et dårlig kvartal.

Beslutninger du må forsvare overfor et tilsyn eller en domstol. Kreditt, forsikring, medisinsk triage, alt som berører sikkerhet. Standarden er ikke «var modellen treffsikker», men «kan du måneder senere rekonstruere hvilken informasjon som lå foran hvem». Bygg rekonstruksjonssteget først, eller la være å automatisere i det hele tatt.

Beslutninger om hva som skal optimeres. En modell vil forfølge målet du gir den med mer disiplin enn noe team du har ledet. Det er nettopp derfor det er din jobb å velge målet. Be et system om å maksimere antall løste henvendelser, så lukker det dem raskere — også de som trengte en samtale.

Gummistempelproblemet

De fleste selskaper tror de har løst dette med et menneskelig kontrollpunkt. Som regel har de ikke det. Et kontrollpunkt er teater hvis noe av dette stemmer:

• Kontrolløren godkjenner mer enn 95 % av det som når fram.
• Median behandlingstid er under tretti sekunder for en beslutning et menneske ville brukt fem minutter på å tenke ordentlig gjennom.
• Kontrolløren ser en anbefaling, men ikke grunnlaget bak den, eller får ikke se sakene systemet filtrerte bort før de kom fram.
• Ingen måles på kvaliteten i overstyringene, bare på gjennomstrømning.
• Å overprøve anbefalingen krever flere klikk, mer begrunnelse eller mer forklaring enn å godta den.

Fiks insentivene eller dropp fasaden. Et gummistempel er verre enn full automatisering, fordi det gir deg ansvaret som følger en menneskelig beslutning uten noe av skjønnet.

Der maskinen gjør seg fortjent til plassen

Ingenting av dette er et argument for å holde KI unna alvorlig arbeid. Det er et argument for å plassere den på riktig side av grensen. La den sette sammen saksgrunnlaget: hente kontrakthistorikken, oppsummere atten måneder med korrespondanse, markere de tre klausulene som avviker fra standardvilkårene dine, legge fram hvordan lignende saker ble avgjort og når. Det er tungløftet, og det er genuint vanskelig for et menneske å gjøre godt under tidspress.

Så lar du et menneske ta avgjørelsen, med sitt navn på den.

Selskapene som får mest ut av KI, er ikke de som automatiserer flest beslutninger. Det er de som har fått folk som nå går inn i vanskelige beslutninger forberedt, i stedet for å gå inn i dem klokka seks på kvelden med en halvlest sak. Det er den delingen vi bygger for i Hercules A, og den er verdt å avgjøre på papiret — hvilke beslutninger som forblir dine — før verktøyene avgjør det for deg.