Păstrați aceste decizii umane: O hartă practică a locurilor unde inteligența artificială nu aparține

Sfaturi pentru luarea deciziilor: când să rămâi uman

Majoritatea sfaturilor despre inteligența artificială (IA) îți spun unde să începi. Aceasta este o listă alternativă: deciziile pe care ar trebui să le păstrezi intenționat în mâinile oamenilor, documentate înainte ca un sistem să le automatizeze din greșeală.

Testul: cine răspunde dacă lucrurile merg prost?

Pentru moment, uită de tehnologie și pune-ți trei întrebări despre decizie însăși.

Poți anula decizia ușor? Un bilet de asistență deviat costă câteva minute. O cerere de credit respinsă, o ofertă de angajare retrasă sau un contract cu un furnizor încheiat - acestea costă mult mai mult, iar daunele sunt suportate de cineva în afara companiei tale.

Va trebui să explici decizia unei persoane supărate? Nu un dashboard sau o prezentare pe tablou, ci o persoană numită care vrea să știe de ce. "Sistemul ți-a atribuit un scor de 0,31" nu este o explicație, iar toți din cameră știu asta.

Crează decizia reguli pentru alte decizii? Stabilirea unui preț minim, definirea a ceea ce se consideră un client acceptabil sau alegerea metricii pe baza căreia echipa de vânzări este plătită - aceste decizii au ecou. Greșind una dintre ele, nu faci o singură greșeală, creezi o politică.

Dacă o decizie eșuează două din cele trei criterii de mai sus, păstrează-o uman în mod intenționat și menționează acest lucru în scris.

Patru locuri unde să trasezi linia

Decizii legate de oameni: Angajare, promovare, evaluări de performanță, disciplină, concedieri. În UE, acestea nu sunt doar judecăți, ci reglementări: deciziile de angajare intră în categoria cu risc ridicat a Legii privind IA, ceea ce înseamnă documentație, supraveghere umană și capacitatea de a explica rezultatele. Dincolo de conformitate, există un motiv mai simplu. Un manager care nu poate apăra o decizie în propriile cuvinte și-a pierdut autoritatea de a o lua.

Decizii care pun capăt unei relații: Închiderea unui cont, refuzul unei cereri, întreruperea unui contract cu un furnizor, refuzul unui rambursare peste un anumit prag. Automatizarea este excelentă la identificarea candidaților, dar teribilă la înțelegerea care dintre ei este clientul care a fost loial companiei timp de un deceniu și a avut doar un trimestru slab.

Decizii pe care vei trebui să le apari în fața unui regulator sau a unei instanțe: Creditare, asigurări, triage medical, orice implică siguranță. Standardul nu este "a fost modelul precis", ci "poți reconstrui, după luni, informațiile prezentate în fața cui". Construiește pasul de reconstrucție mai întâi sau nu automatiza deloc.

Decizii legate de optimizare: Un model va urmări ținta pe care i-o dai cu o disciplină mult mai mare decât orice echipă ai condus vreodată. Tocmai de aceea, alegerea țintei este responsabilitatea ta. Cere unui sistem să maximizeze biletele rezolvate și va închide rapid mai multe, inclusiv cele care necesitau o conversație.

Problema ștampilei de aprobare

Majoritatea companiilor cred că au rezolvat-o cu un pas de revizuire umană. De obicei, nu este cazul. Un pas de revizuire este un spectacol dacă oricare dintre următoarele este adevărată:

Revizorul aprobă mai mult de 95% din ceea ce ajunge la el.
Timpul mediu de revizuire este sub treizeci de secunde pentru o decizie care ar necesita cinci minute pentru a fi gândită corespunzător unei persoane.
Revizorul vede o recomandare, dar nu dovezile din spatele ei, sau nu poate vedea cazurile filtrate de sistem înainte de a ajunge la el.
Nimeni nu este măsurat pe calitatea revizuirilor, doar pe debit.
Anularea recomandării necesită mai multe clicuri, mai multă justificare sau mai mult explicat decât acceptarea ei.

Corectează incentivelor sau renunță la pretenție. O ștampilă de aprobare este mai rău decât completul automatizare, deoarece îți oferă responsabilitatea unei decizii umane fără judecata acesteia.

Unde mașina își câștigă locul

Niciuna dintre aceste argumente nu pledează pentru a ține IA departe de muncă serioasă. Pledează pentru a o poziționa corect. Lasă-o să compileze fișierul: extragerea istoricului contractului, rezumarea a optsprezece luni de corespondență, evidențierea celor trei clauze care diferă de termenii standard, prezentarea cazurilor similare și a momentelor deciziilor. Aceasta este munca grea, și este cu adevărat dificil pentru o persoană să o facă bine sub presiunea timpului.

Apoi lasă un om să ia decizia, cu numele său pe ea.

Companiile care obțin cele mai bune rezultate din IA nu sunt cele care automatizează cele mai multe decizii. Sunt cele ale căror angajați se prezintă acum în fața deciziilor dificile pregătiți, în loc să vină la 18:00 cu un fișier pe jumătate citit. Acesta este splitul pe care Hercules A îl construiește, și merită să decizi pe hârtie - care decizii rămân ale tale - înainte ca instrumentele să decidă pentru tine.