Сохраняйте эти решения за людьми: практическая карта мест, где искусственный интеллект не должен быть.
Конкретное руководство по решениям, которые должны оставаться в руках людей в вашей компании, и как отличить реальный шаг по оценке от штампа.
Список решений, которые должны оставаться в человеческих руках
Большинство советов по искусственному интеллекту говорят вам, с чего начать. Это другой список: решения, которые вы должны намеренно оставить в человеческих руках, записанные заранее, чтобы инструменты не автоматизировали их случайно.
Это важно. Мало кто решает передать решение о увольнении модели. Вместо этого инструмент отбора кандидатов ранжирует соискателей, менеджер читает этот ранг, и через шесть месяцев никто не может объяснить, почему был сформирован такой шортлист. Граница изменилась без встречи.
Тест: кто несет ответственность, если что-то пойдет не так?
На мгновение забудьте о технологии и задайте три вопроса о самом решении.
Можно ли его легко отменить? Ошибка в маршрутизации поддержки обходится минутами. Отказ в ипотеке, отзыва работы или расторжение контракта с поставщиком — это стоит гораздо дороже, и ущерб наносится человеку за пределами вашей компании.
Будете ли вы вынуждены объяснить его человеку, который злится? Не дашьте отчет на экране или слайде на собрании — представите конкретного человека, который хочет знать, почему. "Система оценила вас на 0,31" — не объяснение, и все в комнате это знают.
Создавает ли это решение правила для других решений? Установка ценового пола, определение того, что считается приемлемым клиентом, выбор метрики, по которой будет оплачиваться команда продаж — эти решения распространяются. Если вы совершите одну ошибку, вы не сделаете одну неправильную вещь, вы сделаете политику.
Если решение провалит два из этих трех критерия, намеренно оставьте его в человеческих руках и запишите это в письменной форме.
Четыре места для установления границы
Решения о людях: набор персонала, продвижение по службе, оценка эффективности, дисциплинарные меры, увольнение. В ЕС это не просто суждение, это регулирование: решения, связанные с трудоустройством, относятся к высокой категории риска в Законе об искусственном интеллекте, что означает документирование, человеческий надзор и возможность объяснить результат. Помимо соблюдения требований, есть более простой причин: менеджер, который не может защитить решение своими словами, потерял право его принимать.
Решения, которые заканчиваются отношениями: закрытие счета, отказ в претензии, прекращение сотрудничества с поставщиком, отказ от возмещения выше определенной суммы. Автоматизация отлично находит кандидатов, но ужасно знает, какой из них клиент, который был с вами одиннадцать лет и просто имел плохий квартал.
Решения, которые вы должны объяснить регулятору или суду: кредитование, страхование, медицинская триажа, все, что касается безопасности. Стандарт не "была ли модель точной", а "можете ли вы реконструировать, через несколько месяцев, какую информацию видели кто и когда". Сначала построите шаг реконструкции, или вообще не автоматизируйте.
Решения о том, что оптимизировать: модель будет преследовать поставленную вами цель с большей дисциплиной, чем любая команда, которую вы когда-либо управляли. Именно поэтому выбор цели — ваша работа. Попросите систему максимизировать количество решенных билетов, и она их закроет быстрее, включая те, которые требовали разговора.
Проблема "печатной марки"
Большинство компаний считают, что решили эту проблему с помощью шага человеческого обзора. Обычно они этого не сделали. Шаг обзора — это театр, если любое из следующих условий истинно:
- Обозреватель одобряет более 95% того, что до него достигает.
- Среднее время обзора меньше тридцати секунд для решения, которое потребует человеку пять минут для правильного размышления.
- Обозреватель видит рекомендацию, но не доказательства, стоящие за ней, или не может увидеть случаи, отфильтрованные системой перед их прибытием.
- Никто не измеряет качество отмен, только скорость обработки.
- Отмена рекомендации требует больше кликов, большего обоснования или большего объяснения, чем ее принятие.
Исправьте стимулы или перестаньте притворяться. Печатная марка хуже полной автоматизации, потому что она дает вам ответственность за человеческое решение без никакого суждения.
Где машина заслуживает своего места
Ни один из этих аргументов не говорит о том, чтобы держать искусственный интеллект в стороне от серьезной работы. Он говорит о том, чтобы поставить его на правильную сторону границы. Пусть он соберет файл: извлечет историю контракта, обобщит восемнадцать месяцев переписки, отметит три положения, которые отличаются от ваших стандартных условий, укажет похожие случаи и их сроки. Это тяжелая работа, и человек может действительно плохо справиться с ней под давлением времени.
А затем пусть человек примет решение, поставив свою подпись на нем.