Данные клиентов и искусственный интеллект: что вы можете законно включить в модель и как это доказать

Начните с цели

Данные клиентов собираются по определённой причине: для выполнения заказа, предоставления поддержки или выставления счёта. В общем случае закон позволяет использовать эти данные для указанной цели и для целей, совместимых с ней. Использование билетов поддержки для более быстрого ответа вашей команды поддержки обычно совместимо. Использование тех же билетов для обучения модели, которую вы планируете продавать другим компаниям, обычно не является совместимым.

Следовательно, перед тем как кто-либо загрузит что-либо, напишите одно предложение: мы используем эти данные для выполнения X в интересах Y. Если вы не можете написать это или оно звучит плохо, остановитесь на этом. Это предложение станет основой всего остального.

Знайте свою правовую основу

Каждое использование персональных данных должно иметь законное основание. Для проектов ИИ реалистичными вариантами обычно являются контракт (обработка необходима для обслуживания клиента), законные интересы (у вас есть подлинная коммерческая потребность, которая не перевешивает права клиента) или согласие.

Законные интересы — наиболее распространённая основа и та, которую чаще всего заявляют без соответствующей работы. Она требует письменного баланса: то, что вы получаете, те риски, которые несёт клиент, и почему они разумно ожидали такого использования. Этот документ пишется за полдня, и он будет первым, что запросит аудитор.

Некоторые данные не должны использоваться

Информация о здоровье, биометрические данные, религиозные или политические убеждения, сексуальная ориентация, членство в профсоюзе: это специальные категории, и порог для обработки которых гораздо выше. К ним также относится информация о детях и финансовые идентификаторы, такие как номера карт.

Практическое правило простое. Если проект не предназначен для работы с такими данными и вы не получили консультацию по этому вопросу, фильтруйте их до того, как они достигнут любой модели. Существуют инструменты для редактирования. Тестируйте их на реальных данных, потому что фильтр, который ловит 95% номеров карт, всё равно пропускает 5%.

Где данные обрабатываются, так же важно, как и что

Отправка данных клиентов поставщику ИИ делает этого поставщика вашим обработчиком. Вам нужен договор о обработке данных с ними, и вам нужно внимательно прочитать три пункта:

Обучение: использует ли поставщик ваши входные данные для улучшения своих собственных моделей? Уровни бизнеса обычно говорят нет. Получите это в письменной форме.
Сохранение: как долго они хранят ваши запросы и выходные данные, и можете ли вы сократить этот срок?
Местоположение: где обрабатывается данные? Передача за пределы ЕС требует правового механизма, такого как решение о признательности или стандартные контрактные положения.

Запуск моделей на собственной инфраструктуре устраняет большинство этих вопросов. Он не устраняет необходимость документировать то, что вы сделали.

Получение данных обратно проще, чем обучение

Существует два основных способа предоставления модели ваших данных. Вы можете обучить или отрегулировать её, так что данные становятся частью модели. Или вы можете хранить данные в своих собственных системах и позволять модели извлекать необходимую информацию по мере необходимости, что обычно называется извлечением.

Для данных клиентов извлечение почти всегда является более безопасным выбором. Когда клиент просит вас удалить его данные, вы удаляете запись и она исчезает из каждого будущего ответа. Получение данных обратно из обученной модели в действительности практически невозможно. Это делает право на забвение очень сложным для соблюдения, и регулирующие органы это знают.

Как доказать, что вы сделали всё правильно

Вы не можете доказать соблюдение, если только вы не ведёте учет. Храните следующие записи и поддерживайте их актуальность:

Регистр обработки, в котором перечислены ИИ-система, данные, которые она использует, цель и правовая основа.
Оценка воздействия на защиту данных (ОВДП). Новая технология в сочетании с большими объёмами персональных данных почти всегда требует ОВДП. Это самый убедительный документ, который вы можете предоставить аудитору.
Подписанные договоры с обработчиками с каждым поставщиком, который обрабатывает данные.
Журналы, показывающие, какие данные вошли в систему, когда и по чьему разрешению, а также доказательства того, что ваша система редактирования работала.
Назначенный владелец, который проверяет всё вышеперечисленное при каждом изменении системы.

Закон об ИИ ЕС добавляет свои собственные требования к документации, особенно для систем, используемых в таких рискованных областях, как набор персонала или кредитование. Если ваши записи уже охватывают эти пять пунктов, вы на пути к успеху.

Носите бремя с самого начала

Компании попадают в неприятности, когда экспериментальная система запускается первой, а документация реконструируется позже. Делайте всё наоборот. Напишите цель, выберите основание, отфильтруйте данные, подписывайте контракты, включайте журналы и затем строите. Это добавит несколько недель, но это означает, что ответ на вопрос "можете ли вы доказать это?" будет в виде папки, а не спешки.

Эта подготовка является значительной частью того, чем мы занимаемся в Hercules A. Независимо от того, работаете вы с нами или нет, сделайте это до того, как первый записанный данные попадут в систему.