Bu Kararları İnsan Tutun: Yapay Zeka'nın Yer Almaması Gereken Pratik Bir Harita
İnsan ellerinde tutulması gereken şirket kararlarına dair somut bir rehber ve gerçek bir değerlendirme adımından mühürlemeyi nasıl ayırt edeceğiniz konusunda.
İnsan Elinde Kalması Gereken Kararlar
Çoğu yapay zeka tavsiyesi, başlangıç noktalarını size söyler. Ancak bu, kararları insan ellerinde tutmanız gereken başka bir liste. Son kısım çok önemlidir; neredeyse kimse bir atama kararını bir modele vermeyi seçmez. Bunun yerine, bir eleme aracı adayları sıralar, bir yönetici sıralamayı okur ve altı ay sonra kimsenin kısa listenin neden bu şekilde olduğunu açıklaması mümkün olmaz. Sınır değişti, bir toplantı yapılmadan.
Test: Sorumluluk Kimde Olacak Eğer Yanlış Giderse?
Bir an için teknolojiyi unutun ve kararın kendisi hakkında üç soru sorun.
Kararı geri almak ucuza gelir mi? Bir yönlendirilmiş destek bileti birkaç dakikayı alır. Reddedilen bir ipotek başvurusu, geri çekilen bir iş teklifi veya sonlandırılan bir tedarikçi sözleşmesi çok daha pahalıdır ve zarar dış şirketlere gider.
Birinin nedenini açıklamanız gerekebilir mi? Bir panoda veya yönetim sunumunda değil, bir kişinin, karar hakkında soru sormak isteyen birinin önünde. "Sistem seni 0.31 ile puanladı" bir açıklama değildir ve odadaki herkes bunu bilir.
Karar, diğer kararlar için kurallar mı belirliyor? Fiyat tabanı ayarlamak, kabul edilebilir müşteri tanımlamak, satış ekibinin ödenmesi için hangi metriklerin kullanılacağı - bu kararlar yayılır. Birini yanlış yaparsanız, tek bir hata yapmadınız, bir politika oluşturdunuz.
Bir kararın iki veya üçünden fazlasını karşılamıyorsa, onu bilerek insan ellerinde tutun ve bunu yazılı olarak belirtin.
Kararı Çizmek İçin Dört Yer
İnsanlar hakkında kararlar: İşe alım, terfi, performans değerlendirmeleri, disiplin, işten çıkarma. AB'de bu sadece bir yargı değil, düzenlemedir: istihdam kararları, AI Yasası'nın yüksek risk kategorisine girer, yani belgeleme, insan gözetimi ve bir sonucun nedenini açıklama yeteneği gerektirir. Uyum ötesinde, daha basit bir sebep vardır. Bir yöneticinin kararını kendi sözleriyle savunamaması yetkisini kaybetmiştir.
İlişkiyi sonlandıran kararlar: Hesabı kapatma, iddiayı reddetme, tedarikçiyi kesme, üstü kapalı bir iade reddi. Otomasyon, adayları belirlemede mükemmeldir, ancak onlardan hangisinin uzun yıllardır yanınızda olan ve sadece kötü bir çeyrek geçiren müşteri olduğunu bilmek konusunda berbat olur.
Bir düzenleyici veya mahkemeye hesap vermeniz gereken kararlar: Kredi, sigorta, tıbbi triage, güvenlikle ilgili her şey. Standart "model doğru mu" değil, "aylar sonra neyin kimlere sunulduğunu yeniden oluşturabilir misiniz"dir." Yeniden oluşturma adımını ilk olarak inşa edin ya da hiç otomasyon yapmayın.
Optimizasyon için kararlar: Bir model, ona verdiğiniz hedefi daha disiplinli bir şekilde takip eder, bu da hiçbir zaman yönettiğiniz herhangi bir ekibin yaptığı gibidir. İşte bu yüzden hedefin seçimi sizin görevinizdir. Bir sisteme çözülen biletleri maksimize etmesini isterseniz, bunları daha hızlı kapatacak, bunlardan bazıları da bir konuşmayı gerektirecek şekilde.
Onay Damgası Sorunu
Çoğu şirket, insan gözden geçirme adımıyla bu sorunu çözdüklerini düşünüyor. Genellikle öyle olmuyor. Bir gözden geçirme adımı, aşağıdaki durumlardan herhangi biri doğruysa sahte bir tiyatrodur:
- Gözden geçirenin aldığı kararların %95'inden fazlası ona ulaşır.
- Ortalama gözden geçirme süresi, bir kişinin kararı dikkatlice düşünmesi için gereken beş dakikadan daha kısa.
- Gözden geçen, öneriyi ancak onu destekleyen kanıtları göremeden veya sistemin filtrelediği vakaları göremeden karar verir.
- Hiç kimse üstlerin kalitesine göre ölçülmez, sadece verimlilik açısından.
- Öneriyi reddetmek, kabul etmekten daha fazla tıklama, daha fazla açıklama veya daha fazla gerekçe gerektirir.
Motivasyonları düzeltin ya da sahte iddiayı bırakın. Onay damgası, insan kararının sorumluluklarını ve yargısını olmadan tam otomasyondan daha kötüdür.
Makineyi Hak Ettiği Konuma Getirmek
Bütün bu tartışma, yapay zekanın ciddi işlerden uzak tutulması için değil, doğru tarafta kullanılması için bir argümandır. Ona dosya hazırlama görevini verin: sözleşme tarihlerini çekin, on sekiz ayın iletişim özetini hazırlayın, standart şartlarınızla farklı olan üç maddeyi işaretleyin, benzer vakaların kararlarını ve ne zaman alındığını belirtenleri ekleyin. Bu, bir kişinin zaman baskısı altında iyi yapamayacağı gerçek zorluklardır.
Sonra, bir insanın karar vermesine izin verin, adını karara yazın.
En çok yapay zekadan yararlanan şirketler, en fazla kararı otomasyonla değil, insanların şimdi zor kararlar için hazırlandığı bir duruma sahip olan şirketlerdir. Bu, hangi kararların sizin kalması gerektiğine karar vermeniz gerektiği kağıdında yazılı olmalıdır - araçlar sizin için karar vermeden önce.