Giữ Những Quyết Định Cho Con Người: Bản Đồ Thực Tế Về Nơi AI Không Thuộc Về

Hãy để con người quyết định: Khi nào nên giữ các quyết định trong tay nhân viên?

Hầu hết lời khuyên về trí tuệ nhân tạo (AI) sẽ hướng dẫn bạn bắt đầu từ đâu, nhưng đây là một danh sách khác: những quyết định mà bạn nên cố gắng giữ trong tay con người, được ghi lại trước khi chúng bị tự động hóa vô tình.

Điều cuối cùng này rất quan trọng. Ít ai quyết định giao quyền sa thải cho một mô hình AI. Thay vào đó, công cụ sàng lọc thường xếp hạng ứng viên, quản lý đọc bảng xếp hạng, và sáu tháng sau, không ai có thể giải thích tại sao danh sách rút gọn lại như thế nào. Giới hạn đã thay đổi mà không có cuộc họp nào.

Bài kiểm tra: Ai phải chịu trách nhiệm khi có sai sót?

Hãy tạm quên đi công nghệ và đặt ra ba câu hỏi về chính quyết định đó.

Bạn có thể đảo ngược nó một cách rẻ tiền không? Một vé hỗ trợ bị chuyển hướng mất vài phút. Nhưng một đơn xin vay bị từ chối, một lời đề nghị việc làm bị rút lại, hoặc hợp đồng với nhà cung cấp bị chấm dứt có chi phí cao hơn nhiều, và thiệt hại sẽ rơi vào bên ngoài công ty của bạn.
Bạn có phải giải thích nó cho một người tức giận không? Không phải là bảng điều khiển hay bản trình bày trước hội đồng, mà là một cá nhân cụ thể muốn biết tại sao. "Hệ thống đã đánh giá bạn ở mức 0,31" không phải là một lời giải thích, và mọi người trong phòng đều biết điều đó.
Quyết định này có tạo ra quy tắc cho các quyết định khác không? Thiết lập mức giá sàn, xác định những gì được coi là khách hàng chấp nhận được, hoặc lựa chọn chỉ số mà đội bán hàng được trả lương dựa vào - những quyết định này lan truyền. Làm sai một trong những điều này không chỉ là một sai sót, mà là chính sách.

Nếu một quyết định thất bại hai trong ba tiêu chí trên, hãy cố gắng giữ nó trong tay con người một cách có chủ ý và ghi lại điều đó bằng văn bản.

Bốn nơi để vẽ ranh giới

Quyết định về con người: Tuyển dụng, thăng chức, đánh giá hiệu suất, kỷ luật, sa thải. Trong Liên minh Châu Âu, đây không chỉ là phán đoán, mà còn là quy định: các quyết định việc làm thuộc vào danh mục rủi ro cao của Luật AI, yêu cầu tài liệu, giám sát con người và khả năng giải thích kết quả. Ngoài sự tuân thủ, có một lý do đơn giản hơn. Một nhà quản lý mất quyền lực nếu không thể bảo vệ quyết định của họ bằng lời nói của chính mình.

Quyết định chấm dứt mối quan hệ: Đóng tài khoản, từ chối yêu cầu bồi thường, cắt đứt nguồn cung cấp, từ chối hoàn tiền trên một ngưỡng nhất định. Tự động hóa xuất sắc trong việc xác định ứng viên, nhưng tồi tệ khi biết khách hàng trung thành 11 năm qua đã có một quý kém.

Quyết định bạn sẽ phải bảo vệ trước cơ quan quản lý hoặc tòa án: Tín dụng, bảo hiểm, phân loại y tế, bất cứ điều gì liên quan đến an toàn. Tiêu chuẩn không phải là "mô hình có chính xác hay không", mà là "bạn có thể tái tạo lại thông tin nào ở phía trước ai và khi nào". Xây dựng bước tái tạo trước tiên, hoặc đừng tự động hóa tất cả.

Quyết định về việc tối ưu hóa: Một mô hình sẽ theo đuổi mục tiêu bạn đưa ra với kỷ luật nhiều hơn bất kỳ đội ngũ nào bạn từng quản lý. Chính vì vậy, lựa chọn mục tiêu là công việc của bạn. Hỏi một hệ thống để tối đa hóa các vé giải quyết và nó sẽ đóng chúng nhanh hơn, bao gồm cả những vé cần một cuộc trò chuyện.

Vấn đề con dấu cao su

Hầu hết các công ty cho rằng họ đã giải quyết vấn đề này bằng một bước xem xét con người. Thông thường, họ chưa thực sự làm như vậy. Một bước xem xét là màn trình diễn nếu bất kỳ điều sau đây là đúng:

Người xem xét phê duyệt hơn 95% những gì đến với họ.
Thời gian xem xét trung bình dưới 30 giây cho một quyết định mà một người sẽ mất 5 phút để suy nghĩ kỹ lưỡng.
Người xem xét chỉ thấy khuyến nghị mà không thấy bằng chứng đằng sau nó, hoặc không thể xem các trường hợp hệ thống lọc ra trước khi đến họ.
Không có ai được đánh giá về chất lượng của việc đảo ngược khuyến nghị, chỉ có ai đó được đánh giá về tốc độ xử lý.
Việc đảo ngược khuyến nghị đòi hỏi nhiều lần nhấp chuột, nhiều lời giải thích hoặc nhiều nỗ lực hơn chấp nhận nó.

Sửa đổi động lực hoặc từ bỏ sự giả vờ. Con dấu cao su tồi tệ hơn cả tự động hóa hoàn toàn, vì nó cho bạn trách nhiệm của một quyết định con người mà không có phán đoán nào.

Khi nào máy tính xứng đáng được giữ vị trí

Điều này không ngụ ý rằng AI nên bị loại ra khỏi công việc quan trọng. Nó ngụ ý rằng nó nên ở đúng phía bên này đường phân chia. Cho phép nó thu thập hồ sơ: lấy lịch sử hợp đồng, tóm tắt 18 tháng thư từ, đánh dấu ba điều khoản khác biệt so với các điều khoản tiêu chuẩn của bạn, liệt kê những trường hợp tương tự đã được quyết định và khi nào. Đó là công việc nặng nhọc thực sự, và khó có thể thực hiện tốt trong thời gian áp lực cho một người.

Sau đó, để một con người đưa ra quyết định, với tên của họ trên đó.

Các công ty đạt được nhiều nhất từ AI không phải là những công ty tự động hóa nhiều quyết định nhất. Họ là những công ty nơi nhân viên hiện nay bước vào các quyết định khó khăn đã được chuẩn bị, thay vì bước vào chúng vào lúc 6 giờ tối với một nửa tập tin chưa đọc. Đó là ranh giới chúng tôi xây dựng tại Hercules A, và việc quyết định trên giấy - những quyết định nào vẫn thuộc về bạn - trước khi công cụ quyết định cho bạn là điều đáng để cân nhắc.