Ваше персонал уже использует ИИ. Единственный вопрос — куда идут данные.

Сколько на самом деле используется инструментов ИИ?

Если вы спросите у руководителя отдела, сколько инструментов ИИ использует его команда, вы получите одно число. А если вы зададите этот вопрос анонимно членам команды, вы услышите другое, более высокое число. Эта разница и есть тень ИИ, и она не является маргинальным явлением. Для значительной части офисных работников использование ИИ стало нормой, поскольку им не предоставили санкционированный способ выполнения работы.

Что на самом деле копируется?

Не те простые вещи. Люди не открывают чат-бота для проверки орфографии меморандума. Они обращаются к нему, когда работа становится сложной, а срок срочным.

Так что в "коробку" попадает проект контракта, требующий резюмирования перед звонком в четыре часа, резюме кандидата и резюме интервьюера, превращенное в письмо о отказе, которое не вызовет проблем. Разозленный клиентский электронный адрес с еще видимым номером счета. Таблица маржинальности за последний квартал по клиентам, скопированная целиком, чтобы модель могла найти закономерность. Журналы производства, содержащие API-ключ на третьей строке. Пакет совета директоров, поскольку кто-то хотел иметь простую версию на английском к утру.

Каждый из этих примеров — это разумное решение сотрудника, стремящегося сделать свою работу хорошо. В совокупности они передают ваши коммерчески конфиденциальные материалы, данные клиентов и иногда живые учетные данные на инфраструктуру, о которой у вас нет контракта, условий хранения и записей.

Почему запрет не работает

Обычная реакция — блокировать домены и отправить твердое письмо. Это не работает и только усугубляет ситуацию.

Блокируя корпоративную сеть, активность перемещается на личные телефоны, где у вас нет никакой видимости. Работа все равно выполняется с помощью ИИ, просто за пределами вашего контроля. В то же время те, кто соблюдает политику, выполняют те же задачи медленнее, чем игнорирующие ее, что учит всех, какое поведение действительно поощряет компания. Запрет превращает управляемую проблему в невидимую и оплачивает это снижение производительности.

Риск кроется не в технике, а в контракте

Настоящий риск редко заключается в драматическом нарушении. Это бумага.

В потребительском варианте большинство чат-ботов могут использовать то, что вы вводите, для улучшения продукта; бизнес-варианты обычно этого не делают. Это разница между нормальными отношениями с поставщиком и непреднамеренной передачей личных данных обработчику, которого вы никогда не назначали, без соглашения об обработке данных, определенного периода хранения и понятия о юрисдикции, в которую они попали. Ваши собственные контракты с клиентами все чаще запрещают именно это, а многие теперь требуют от вас указания каждого субпроцессора, работающего с данными клиента.

Самый неприятный аспект — это учет. Когда крупный клиент спрашивает, передавалась ли его информация через систему ИИ третьего лица, ответ "да" в рамках установленных условий будет гораздо более вредным, чем "нет".

Предоставьте людям лучшее место для работы

Тень ИИ — это сигнал спроса. Ваши сотрудники уже сообщили вам своим поведением, что этот инструмент делает их быстрее. Задача состоит в том, чтобы удовлетворить этот спрос на ваших условиях.

Санкционированный вариант работает только в том случае, если он так же хорош, как то, что они используют сейчас, и не сложнее в доступе. Это означает полноценный бизнес- или корпоративный уровень с отключенной обучающей функцией, единой системой входа для тех, кто покидает компанию, намеренно настроенным периодом хранения и соглашением, которое вы можете показать клиенту. Для узкой группы действительно ограниченных материалов — медицинских записей, неразглашенных результатов, кода под НДА, юридического иммунитета — ответ — модель на вашем оборудовании, где данные никогда не покидают здание.

Первые шаги

Спрашивайте, а не проводите аудит. Анонимное опросное исследование, в котором вы спрашиваете, какие инструменты используют люди и для чего, расскажет вам больше за неделю, чем анализ журналов за квартал, и это не ставит никого на защиту.
Приобретите один инструмент правильно. Выберите лидера для вашего основного случая использования, возьмите бизнес-уровень, отключите обучение, установите единую систему входа и разверните его для всех, кто в нем нуждается.
Напишите одну страницу правил простым языком. Три категории — хорошо, спрашивайте сначала, никогда — с реальными примерами из вашей собственной деятельности, а не абстрактных классов данных.
Назначьте человека для средней категории. Если "спрашивайте сначала" не имеет адреса, это становится "делайте как хотите".
Обучите самых активных пользователей по часам. Они устанавливают нормы для всех остальных.
Проверьте результаты через 90 дней по фактическому поведению людей.

Цель не в том, чтобы полностью исключить использование ИИ из одобренного списка. Цель — обеспечить, чтобы ничего конфиденциального не покидало вашу организацию без контракта, который это поддерживает, и чтобы вы могли об этом заявить с доказательствами.

Эта часть принятия ИИ — самая сложная: опрос, условия поставщика, неудобный инвентарь того, что уже вышло. В "Геркулесе А" мы несем этот груз за наших клиентов, включая частные модели на месте для работы, которая никогда не должна касаться публичных услуг. Тяжелая работа — это цель.