哪些决策应保留在人类手中
大多数人工智能建议告诉你从何开始。这是另一份清单：你应该有意保留在人类手中的决定，事先记录下来，以防被意外地自动化。
这其中的一个原因很重要。几乎没有人会把解雇的决定交给模型。相反，一个筛选工具会对候选人进行排名，经理阅读排名，六个月后，没人能解释为什么最终的候选名单是这样的。边界移动了，而没有召开会议。
测试：当出错时谁来负责
先忘记技术一段时间，问三个关于决策本身的问题。
- 你可以便宜地撤销它吗？一个误导的支持票只需几分钟的时间。但拒绝贷款申请、撤回工作邀请或终止供应商合同要花费更多，而损失将落在公司外部。
- 你需要向一个人解释这个决定吗？不是仪表板或幻灯片，而是某个被提及的个人，他们想知道为什么。"系统给你打了0.31分的评分"不是一个解释，所有人都在房间里都知道这一点。
- 这个决定是否会为其他决策设定规则？设定最低价格、定义可接受客户或销售团队支付指标等决策都会产生影响。做出一个错误的决定，你没有犯一个错误，你犯了一个政策。
如果一个决定在上述三个方面中失败了两个以上，故意保留在人类手中，并书面记录这一点。
划定界限的四处地方
关于人的决定：招聘、晋升、绩效评估、纪律处分、裁员。在欧盟，这不仅仅是判断，而是法规：就业决策属于《人工智能法》的高风险类别，需要文件记录、人类监督和解释结果的能力。除了合规之外，还有更简单的原因。一个无法用自己的话语捍卫决定的经理已经失去了做出该决定的权威。
结束关系的决定：关闭账户、拒绝索赔、切断供应商、拒绝超出门槛的退款。自动化在识别候选人方面非常出色，但在知道哪个客户与你合作了11年，但最近一个季度表现不佳时却很糟糕。
你需要向监管机构或法院解释的决定：信用、保险、医疗分级等涉及安全的任何事情。标准不是"模型是否准确"，而是"几个月后你能重建出当时谁看到了什么信息吗"。首先构建重建步骤，或者根本不要自动化。
关于优化决策的内容：一个模型会比你管理过的任何团队更严格地追求你给它的目标。这正是选择目标是你的职责的原因。要求系统最大化解决的票据，它会更快地关闭它们，包括需要对话的票据。
橡皮图章问题
大多数公司认为他们通过人类审查步骤解决了这个问题。通常情况并非如此。如果以下任何一种情况属实，那么审查步骤只是表演：
- 审查人员批准的文件超过95%。
- 中位数审查时间不到三十秒，而对一个需要一个人五分钟才能正确思考的决定来说，这太短了。
- 审查人员看到推荐，但看不到支持推荐的证据，或者无法看到系统过滤出的案例。
- 没有人根据决策质量来衡量，只有通过量化。
- 撤销建议比接受建议需要更多的点击、更多解释或更多说明。
调整激励措施或放弃虚伪。橡皮图章比完全自动化更糟糕，因为它给你一个人类决策的责任，却没有判断力。
机器应得的地位
上述所有论点都不是要将人工智能排除在严肃工作之外。而是要将其放在正确的一边。让它组装文件：提取合同历史、总结18个月的通信记录、标记与标准条款不同的三个条款、列出类似案件的决定时间等。这是艰巨的工作，对人来说在时间压力下做得不错是很困难的。
然后让人类做出决定，并负责这个决定。
最有效利用人工智能的公司不是自动化最多决策的公司。而是那些现在走进艰难决策时已经准备好的人的公司。这就是Herculesa A所追求的分裂，在纸上决定哪些决策保留在你手中，而不是让工具为你做决定。