Hold disse beslutninger menneskelige: et praktisk kort over, hvor AI ikke hører hjemme

De fleste råd om AI fortæller dig, hvor du skal begynde. Dette er den anden liste: de beslutninger, du bevidst bør holde på menneskehænder, skrevet ned, før nogen automatiserer dem ved et uheld.

Den sidste del er vigtig. Næsten ingen beslutter sig for at overlade en afskedigelse til en model. Det, der sker i stedet, er, at et screeningværktøj rangordner kandidater, en leder læser rangordningen, og et halvt år senere kan ingen forklare, hvorfor bruttolisten så ud, som den gjorde. Grænsen flyttede sig uden et eneste møde.

Prøven: hvem står på mål for det, når det går galt

Glem teknologien et øjeblik, og stil tre spørgsmål om selve beslutningen.

Kan du rulle den tilbage uden større omkostninger? En fejlsendt supportsag koster minutter. Et afvist boliglån, et tilbagetrukket jobtilbud eller en opsagt leverandøraftale koster langt mere, og skaden rammer nogen uden for din virksomhed.

Bliver du nødt til at forklare den til et menneske, der er vredt? Ikke et dashboard, ikke et bestyrelsesslide — en navngiven person, der vil vide hvorfor. "Systemet gav dig scoren 0,31" er ikke en forklaring, og det ved alle i lokalet.

Skaber beslutningen reglerne for andre beslutninger? At fastsætte en minimumspris, definere hvad der tæller som en acceptabel kunde, vælge hvilket nøgletal sælgerne aflønnes efter — den slags beslutninger forplanter sig. Rammer du forkert på én af dem, har du ikke begået én fejl, du har lavet en politik.

Falder en beslutning igennem på to af de tre punkter, så hold den menneskelig med vilje — og skriv det ned.

Fire steder at trække grænsen

Beslutninger om mennesker. Ansættelse, forfremmelse, præstationsvurderinger, disciplinære sager, afskedigelser. I EU er det ikke bare et spørgsmål om dømmekraft, det er regulering: beslutninger om ansættelsesforhold ligger i højrisikokategorien i AI-forordningen, hvilket betyder dokumentation, menneskeligt tilsyn og evnen til at forklare et udfald. Ud over reglerne er der en enklere grund. En leder, der ikke kan forsvare en beslutning med sine egne ord, har mistet retten til at træffe den.

Beslutninger, der afslutter et forhold. At lukke en konto, afvise en skadesanmeldelse, opsige en leverandør, nægte en refusion over en vis grænse. Automatisering er fremragende til at finde kandidaterne og elendig til at vide, hvem af dem der er kunden gennem elleve år, som lige har haft et dårligt kvartal.

Beslutninger, du skal kunne forsvare over for en myndighed eller en domstol. Kredit, forsikring, medicinsk visitation, alt hvad der berører sikkerhed. Målestokken er ikke "var modellen præcis", men "kan du måneder senere rekonstruere, hvilke oplysninger der lå foran hvem." Byg rekonstruktionstrinnet først, eller lad være med at automatisere.

Beslutninger om, hvad der skal optimeres. En model forfølger det mål, du giver den, med mere disciplin end noget team, du nogensinde har ledet. Netop derfor er det dit ansvar at vælge målet. Bed et system om at maksimere antallet af løste sager, og det lukker dem hurtigere — også dem, der krævede en samtale.

Gummistempel-problemet

De fleste virksomheder tror, de har løst det med et menneskeligt kontroltrin. Som regel har de ikke. Et kontroltrin er teater, hvis bare ét af disse punkter passer:

• Kontrollanten godkender mere end 95 % af det, der når frem.
• Den typiske kontroltid er under tredive sekunder for en beslutning, et menneske ville bruge fem minutter på at tænke ordentligt igennem.
• Kontrollanten ser en anbefaling, men ikke det materiale, den bygger på, eller kan ikke se de sager, systemet sorterede fra, før de nåede frem.
• Ingen måles på kvaliteten af de tilsidesatte afgørelser, kun på antallet af behandlede sager.
• Det kræver flere klik, mere begrundelse eller mere forklaring at gå imod anbefalingen end at følge den.

Ret incitamenterne, eller drop facaden. Et gummistempel er værre end fuld automatisering, for det giver dig ansvaret for en menneskelig beslutning uden dømmekraften.

Hvor maskinen gør nytte

Intet af dette taler for at holde AI væk fra alvorligt arbejde. Det taler for at placere den på den rigtige side af grænsen. Lad den samle sagen: hente kontrakthistorikken, opsummere atten måneders korrespondance, markere de tre klausuler, der afviger fra jeres standardvilkår, og stille op, hvordan lignende sager blev afgjort og hvornår. Det er det tunge arbejde, og det er reelt svært for et menneske at gøre godt under tidspres.

Lad så et menneske træffe afgørelsen — med sit navn på.

De virksomheder, der får mest ud af AI, er ikke dem, der automatiserer flest beslutninger. Det er dem, hvis medarbejdere nu går ind til de svære beslutninger forberedte i stedet for at gå ind til dem klokken 18 med en halvlæst sag. Det er den opdeling, vi bygger efter hos Hercules A, og den er værd at beslutte på skrift — hvilke beslutninger der forbliver dine — før værktøjerne beslutter det for dig.