Zachowaj te decyzje w rękach ludzi: Praktyczny mapie, gdzie sztuczna inteligencja nie ma miejsca
Konkretne wskazówki dotyczące decyzji, które powinny pozostać w rękach ludzi w twojej firmie, oraz jak odróżnić prawdziwą ocenę od formalności.
Lista decyzji, które powinny pozostać w ludzkich rękach
Większość porad dotyczących sztucznej inteligencji wskazuje, od czego zacząć. Oto druga lista: decyzje, które należy celowo utrzymać w ludzkich rękach, zapisane zanim model je automatycznie zmieni.
To ostatnie jest kluczowe. Niewiele osób decyduje się o zwolnieniu kogoś za pomocą modelu. Zamiast tego narzędzie do wstępnej selekcji ocenia kandydatów, menedżer przegląda ranking i po sześciu miesiącach nikt nie jest w stanie wyjaśnić, dlaczego lista skrócona wyglądała tak, jak wyglądała. Granica zmieniła się bez spotkania.
Test: kto odpowiada za konsekwencje, gdy coś pójdzie nie tak?
Na chwilę zapomnij o technologii i zadaj sobie trzy pytania dotyczące samej decyzji.
Czy można ją łatwo odwrócić? Błąd w przekierowaniu zgłoszenia wsparcia kosztuje kilka minut. Odmowa kredytu, wycofanie oferty pracy lub rozwiązanie umowy z dostawcą - to znacznie więcej, a szkody ponosi ktoś spoza firmy.
Czy będziesz musiał wyjaśnić ją osobie oburzonej? Nie pulpit nawigacyjny, nie prezentacja na tablicy - konkretna osoba, która chce wiedzieć dlaczego. "System ocenił Cię na 0,31" nie jest wyjaśnieniem, a wszyscy w pokoju to wiedzą.
Czy decyzja tworzy zasady dla innych decyzji? Ustawianie ceny minimalnej, określanie, co jest akceptowalnym klientem, wybór metryk, według których zespół sprzedaży otrzymuje wynagrodzenie - te decyzje mają konsekwencje. Błąd w jednej z nich nie oznacza tylko jednego błędu, ale politykę.
Jeśli decyzja nie przejdzie dwóch z tych trzech testów, celowo utrzymaj ją w ludzkich rękach i napisz to na piśmie.
Cztery miejsca, gdzie należy narysować linię
Decyzje dotyczące ludzi: rekrutacja, awansy, oceny wydajności, dyscyplina, zwolnienia. W UE nie chodzi tu tylko o ocenę, ale o regulacje: decyzje dotyczące zatrudnienia należą do kategorii wysokiego ryzyka w Ustawie o sztucznej inteligencji, co oznacza konieczność dokumentacji, nadzoru ludzkiego i możliwości wyjaśnienia wyniku. Poza zgodnością prawną jest też prosty powód. Menedżer, który nie może bronić decyzji własnymi słowami, stracił autorytet do jej podejmowania.
Decyzje kończące relacje: zamykanie kont, odrzucanie roszczeń, zerwanie umowy z dostawcą, odmowa zwrotu pieniędzy powyżej określonego progu. Automatyzacja doskonale radzi sobie w identyfikacji kandydatów, ale kiepsko zna klienta, który był z tobą od jedenastu lat i miał gorszy kwartał.
Decyzje, które będziesz musiał uzasadnić przed regulatorem lub sądem: kredyty, ubezpieczenia, triage medyczny, wszystko związane z bezpieczeństwem. Standard nie jest "czy model był dokładny", ale "czy możesz odtworzyć, kilka miesięcy później, jakie informacje były przed kim". Buduj krok rekonstrukcji najpierw, albo w ogóle nie automatyzuj.
Decyzje dotyczące optymalizacji: model będzie dążył do osiągnięcia wyznaczonego celu z większą dyscypliną niż jakikolwiek zespół, który kiedykolwiek zarządzałeś. Dokładnie dlatego wybór celu jest twoją pracą. Poproś system o maksymalizację rozwiązywanych zgłoszeń i zamknie je szybciej, w tym te, które wymagały rozmowy.
Problem pieczątki formalnej
Większość firm uważa, że rozwiązali ten problem dzięki krokowi przeglądu ludzkiego. Zazwyczaj tak nie jest. Krok przeglądu to teatr, jeśli:
- Przeglądający zatwierdza ponad 95% tego, co dotrze do niego.
- Średni czas przeglądu wynosi mniej niż trzydzieści sekund na decyzję, która wymagałaby od osoby pięć minut na jej właściwe rozważenie.
- Przeglądający widzi zalecenie, ale nie dowody stojące za nim, lub nie może zobaczyć przypadków, które system wyfiltrował przed ich przybyciem.
- Nikt nie jest oceniany pod kątem jakości anulowań, tylko pod kątem wydajności.
- Odwracanie zalecenia wymaga więcej kliknięć, więcej uzasadnienia lub więcej wyjaśniania niż jego przyjęcie.
Popraw motywację lub porzuć pretekst. Pieczątka formalna jest gorsza od pełnej automatyzacji, ponieważ daje ci odpowiedzialność za decyzję ludzką bez żadnego z jej osądu.
Gdzie maszyna zasługuje na swoje miejsce
Żadne z tego nie oznacza, że należy trzymać sztuczną inteligencję z dala od poważnej pracy. Argumentuje to za umieszczeniem jej po właściwej stronie linii. Pozwól jej przygotować plik: wyciągnij historię umowy, podsumuj osiemnaście miesięcy korespondencji, zaznacz trzy klauzule, które różnią się od standardowych warunków, przedstaw podobne przypadki i ich decyzje oraz momenty. To ciężka praca, którą człowiek ma trudności z wykonaniem w odpowiednim czasie pod presją.
A potem pozwól człowiekowi podjąć decyzję, podpisując ją swoim imieniem i nazwiskiem.
Firmy, które najbardziej korzystają z sztucznej inteligencji, nie są tymi, które automatyzują najwięcej decyzji. Są to firmy, których pracownicy teraz wchodzą w trudne decyzje przygotowani, zamiast wchodzić do nich o 18:00 z półprzeczytanym plikiem. To właśnie dzielimy w Hercules A i warto zdecydować na papierze - jakie decyzje pozostają twoje - zanim narzędzia podejmą je za ciebie.