人工智能決策：保留人類判斷的關鍵決定
大多數人工智能建議告訴你從何開始。但這裡有一個不同的清單——你應該刻意保留在人類手中的決策，並在某人無意中自動化之前記錄下來。這個細節非常重要。幾乎沒有人會將解僱決定交給模型。相反地，一個篩選工具會對申請人進行排名，經理閱讀排名後，六個月後可能連為什麼簡報清單看起來那樣也說不清。邊界移動了，而沒有任何會議討論過。
測試：誰要為錯誤承擔責任？
先忽略技術一刻，然後對決策本身提出三個問題。
- 你能輕易地反轉它嗎？一個誤導的支援票券只需幾分鐘時間。但拒絕貸款申請、撤回工作機會或終止供應商合約會造成更大的損失，而這些損害會落在公司之外。
- 你需要向一個憤怒的人解釋嗎？不是儀表板或簡報幻燈片，而是具名個體，他們想要知道為什麼。"系統給你打了0.31分"並不是解釋，所有人都在房間裡都知道這一點。
- 這個決策是否會為其他決策建立規則？設定最低價格、定義可接受客戶標準、銷售團隊的薪酬指標——這些決策都會傳播開來。如果你做出一個錯誤的決定，你沒有犯下一個錯誤，你犯下了政策。
如果一個決策在上述三個方面中失敗了兩個以上，故意保留人類參與，並將此書面記錄下來。
劃分界限的四個地方
關於人的決策： 招聘、晉升、表現評估、紀律處分、裁員。在歐盟，這不僅僅是判斷，而是法規：就業決策屬於《人工智能法》的高風險類別，需要文件記錄、人類監督和結果解釋的能力。除了合規之外，還有更簡單的原因。一位無法用自己的話語捍衛決策的經理已經失去了做出該決策的權限。
結束關係的決策： 關閉帳戶、拒絕索賠、斷絕供應商、拒絕超出門檻的退款。自動化在識別候選人方面表現出色，但在知道哪個是與你合作了十一年的客戶，但只是經歷了一個不好的季度時卻表現不佳。
你需要向監管機構或法院解釋的決策： 信用、保險、醫療分級等，標準不是"模型是否準確"，而是"幾個月後你能重建出當時在場的人和資訊嗎"。首先建立重建步驟，或者完全不要自動化。
關於什麼要優化的決策： 一個模型會比任何你曾經管理過的團隊更嚴格地追求你給它的目標。這正是選擇目標是你的職責的原因。告訴系統最大化解決的票證，它會更快地關閉它們，包括那些需要對話的票證。
橡皮印問題
大多數公司認為他們通過人類審核步驟解決了這個問題。通常他們沒有。審核步驟是假戲，如果以下任何情況屬實的話：
- 審核人批准了到達他們的95%以上內容。
- 中位數審核時間不到三十秒，而一個人花五分鐘思考這個決策需要的時間。
- 審核人看到推薦，但看不到背後的證據，或者無法看到系統過濾出的案例。
- 沒有人根據覆核質量被衡量，只有通過率被衡量。
- 覆核建議需要比接受它多點擊、更多解釋或更多說明。
調整激勵措施或放棄偽裝。橡皮印比完全自動化更糟糕，因為它給你一個人類決策的責任，但沒有任何判斷力。
機器贏得位置的地方
這篇文章並不主張將人工智能排除在嚴肅工作之外。它主張將它放在正確的位置上。讓它整理文件：提取合同歷史、總結十八個月的通訊記錄、標記與標準條款不同的三個條款、列出類似案例的決定時間等。這是繁重的工作，對人來說在時間壓力下做得並不好。
然後讓人類做出決策，並為之負責。
最有效利用人工智能的公司不是自動化最多決定的公司。而是那些現在面對艱難決策時已經做好準備的人們。這就是赫庫爾薩（Herculesa）公司所追求的分割方式，在紙上決定哪些決策屬於你，而不是讓工具為你做出決定。