इन निर्णयों को मानवीय रखें: एक व्यावहारिक नक्शा जहाँ एआई नहीं होनी चाहिए

वह निर्णय जिन्हें मनुष्यों के हाथ में रखना चाहिए

अधिकांश AI सलाह आपको शुरू करने के बारे में बताती है। यह एक और सूची है: उन निर्णयों को जिन्हें आप जानबूझकर मनुष्यों के हाथ में रखना चाहिए, लिखित रूप में रखा जाना चाहिए ताकि कोई भी उन्हें स्वचालित रूप से न कर दे।

इस अंतिम बात का महत्व है। लगभग कोई भी व्यक्ति एक मॉडल को निकाल देने का निर्णय नहीं लेता है। इसके बजाय, एक स्क्रीनिंग उपकरण उम्मीदवारों को रैंक करता है, एक प्रबंधक उस रैंकिंग को पढ़ता है, और छह महीने बाद भी कोई भी यह नहीं समझ सकता कि छोटी सूची कैसे दिखी। सीमा बदल गई, बिना किसी बैठक के।

परीक्षण: जिसके लिए जवाबदेही किसी को होगी जब वह गलत हो जाए

एक पल के लिए प्रौद्योगिकी से भूल जाइए और निर्णय स्वयं के बारे में तीन प्रश्न पूछिए।

क्या इसे सस्ते में उलटा किया जा सकता है? एक गलत निर्देशित समर्थन टिकट कुछ मिनट लेता है। एक अस्वीकृत मॉर्गेज अनुप्रयोग, वापस लिया गया नौकरी प्रस्ताव या समाप्त आपूर्तिकर्ता अनुबंध बहुत अधिक लागत पर आता है, और क्षति कोई भी आपके कंपनी के बाहर का व्यक्ति है।

क्या आपको एक गुस्साए व्यक्ति को समझाना होगा? न कि किसी डैशबोर्ड, न कि किसी बोर्ड स्लाइड को, बल्कि एक नामित व्यक्ति जो जानना चाहता है कि क्यों। "सिस्टम ने आपको 0.31 का स्कोर दिया" एक समझाना नहीं है, और सभी कमरे में इसे जानते हैं।

क्या यह निर्णय अन्य निर्णयों के नियमों को तय करता है? मूल्य निर्धारण की सीमा, स्वीकार्य ग्राहक की परिभाषा, बिक्री टीम को भुगतान करने के लिए जो मैट्रिक्स - ये निर्णय प्रसारित होते हैं। एक गलतफहमी से आप एक नीति नहीं बनाते, आप एक गलत निर्णय लेते हैं।

यदि निर्णय दो में से किसी एक को पूरा करता है, तो इसे जानबूझकर मनुष्यों के हाथ में रखें और इसे लिखित रूप में रखें।

चार जगहें जहाँ आप रेखा खींच सकते हैं

लोगों संबंधी निर्णय। भर्ती, प्रमोशन, प्रदर्शन रेटिंग, अनुशासन, विस्थापन। यूरोप में, यह केवल निर्णय नहीं है, बल्कि विनियमन भी है: रोजगार निर्णय उच्च जोखिम श्रेणी में AI अधिनियम के अंतर्गत आते हैं, जिसका अर्थ है दस्तावेज़ीकरण, मानव पर्यवेक्षण और परिणाम को समझाने की क्षमता। संपादन से परे, वहाँ एक सरल कारण भी है। एक प्रबंधक जो अपने शब्दों में निर्णय का बचाव नहीं कर सकता, उसके पास उसे लागू करने का अधिकार नहीं है।

संबंध समाप्त करने वाले निर्णय। खाता बंद करना, दावा अस्वीकार करना, आपूर्तिकर्ता को काट देना, पुनर्भुगतान से इनकार करना। स्वचालन उम्मीदवारों को फ़िल्टर करने में उत्कृष्ट है, लेकिन ग्राहक जो आपके साथ 11 वर्षों से रहा है और बस एक खराब तिमाही बीता है, उसे पहचानने में बहुत पीछे है।

आपको एक नियामक या अदालत के सामने बचाना पड़ सकता है। ऋण, बीमा, चिकित्सा प्राथमिकता, कुछ भी सुरक्षा से संबंधित। मानक "प्रणाली ने सही था" नहीं है, बल्कि "आप महीनों बाद भी जो जानकारी के सामने थी, उसका पुनर्निर्माण कर सकते हैं" है। पहले पुनर्निर्माण चरण बनाएँ, या स्वचालन के लिए पूरी तरह से न जाएँ।

जो आपको अनुकूलित करना चाहिए। एक मॉडल अपने लक्ष्य का पालन करने में अनुशासित होगा, किसी भी टीम से ज़्यादा। यही कारण है कि लक्ष्य चुनना आपका काम है। एक प्रणाली को टिकटों को अधिकतम करने के लिए कहें, और वह उन्हें तेज़ी से बंद कर देगी, जिनमें से कई वास्तव में एक बातचीत की आवश्यकता थी।

रबर स्टैम्प समस्या

अधिकांश कंपनियाँ मानती हैं कि उन्होंने इसे मानव समीक्षा चरण के साथ हल कर लिया है। आमतौर पर, वे ऐसा नहीं करते हैं। एक समीक्षा चरण तभी प्रभावी होता है जब इनमें से कोई भी सच न हो:

• समीक्षक को जो पहुँचता है, उसके 95% से अधिक को मंजूरी देता है।
• औसत समीक्षा समय तीन mươi सेकंड से कम है एक ऐसे निर्णय के लिए जो किसी व्यक्ति को पाँच मिनट सोचने के लिए चाहिए।
• समीक्षक के पास सिफारिश के बिना सबूत या प्रणाली द्वारा फ़िल्टर किए गए मामलों को देखने की क्षमता नहीं है।
• किसी का निष्कर्ष लेने के लिए किसी का प्रदर्शन नहीं मापा जाता, केवल थ्रूपुट पर।
• एक सिफारिश को उलटने के लिए क्लिक, अधिकारी या समझाने के लिए अधिक की आवश्यकता होती है जितना कि इसे स्वीकार करने के लिए।

प्रोत्साहनों को ठीक करें या दिखावे को छोड़ दें। एक रबर स्टैम्प अधिक से अधिक स्वचालन है, क्योंकि यह आपको एक मानव निर्णय लेने की ज़िम्मेदारी से मुक्त करता है, बिना किसी न्याय के।

जहाँ मशीन अपना स्थान अर्जित करती है

कोई भी ऐसी कंपनी नहीं जो सबसे अधिक AI का उपयोग कर रही है, वह उन निर्णयों को स्वचालित कर रही है जो सबसे अधिक। वे उन लोगों के हैं जिनके पास अब कठिन निर्णयों के लिए तैयार दस्तावेज़ हैं, बजाय 6 बजे उनके आधा पढ़े फ़ाइलों के। यही वह विभाजन है जो हम Hercules A में बनाते हैं, और यह निर्णय लेने से पहले अपने आप पर प्रश्न चिह्न लगाना है - जो निर्णय आपके पास रहेंगे - इससे पहले कि उपकरण आपके लिए निर्णय ले लें।