Dữ liệu khách hàng và Trí tuệ Nhân tạo: Những gì bạn có thể hợp pháp đưa vào mô hình, và cách chứng minh nó

Bắt đầu với mục đích

Dữ liệu khách hàng được thu thập vì một lý do: để hoàn thành đơn đặt hàng, cung cấp hỗ trợ, gửi hóa đơn. Luật pháp thường cho phép bạn sử dụng dữ liệu này cho những mục đích đó và các mục đích tương thích. Sử dụng vé hỗ trợ để giúp đội hỗ trợ trả lời nhanh hơn thường là tương thích. Sử dụng cùng những vé để huấn luyện một mô hình bạn dự định bán cho các công ty khác thường không phải là điều tương thích.

Vì vậy, trước khi ai đó tải lên bất cứ thứ gì, hãy viết một câu: Chúng tôi đang sử dụng dữ liệu này để thực hiện X, vì lợi ích của Y. Nếu bạn không thể viết nó hoặc nó đọc rất tệ, dừng lại ở đó. Câu này trở thành điểm tựa cho mọi thứ khác.

Hiểu rõ cơ sở pháp lý

Mọi việc xử lý dữ liệu cá nhân đều cần một cơ sở hợp pháp. Đối với các dự án AI, các lựa chọn thực tế thường là hợp đồng (xử lý là cần thiết để phục vụ khách hàng), lợi ích chính đáng (bạn có một nhu cầu kinh doanh chân thành không làm vượt qua quyền của khách hàng) hoặc sự đồng ý.

Lợi ích chính đáng là cơ sở phổ biến nhất và thường được tuyên bố mà không có công việc đằng sau nó. Nó yêu cầu một bài kiểm tra cân bằng viết: những gì bạn đạt được, những rủi ro đối với khách hàng và tại sao họ sẽ mong đợi điều này. Tài liệu này mất khoảng nửa ngày để viết, và đó là điều đầu tiên một thanh tra sẽ yêu cầu xem.

Một số dữ liệu không nên đưa vào

Thông tin sức khỏe, dữ liệu sinh trắc học, niềm tin tôn giáo hoặc chính trị, xu hướng tình dục, thành viên công đoàn: những loại dữ liệu đặc biệt này có tiêu chuẩn xử lý cao hơn nhiều. Cùng một sự cẩn trọng áp dụng cho dữ liệu của trẻ em và các chỉ định tài chính như số thẻ tín dụng.

Quy tắc thực tế đơn giản. Trừ khi dự án của bạn tồn tại để xử lý loại dữ liệu này và bạn đã được tư vấn về nó, hãy lọc chúng ra trước khi chúng đến với bất kỳ mô hình nào. Công cụ xóa có sẵn cho điều này. Kiểm tra chúng chống lại dữ liệu thực của bạn, vì một bộ lọc chỉ bắt 95% số thẻ tín dụng vẫn để lại 5%.

Nơi dữ liệu được xử lý cũng quan trọng như loại dữ liệu

Gửi dữ liệu khách hàng cho một nhà cung cấp AI khiến nhà cung cấp đó trở thành người xử lý dữ liệu của bạn. Bạn cần một thỏa thuận xử lý dữ liệu với họ, và bạn cần đọc cẩn thận ba điều khoản sau:

Huấn luyện: Nhà cung cấp có sử dụng đầu vào của bạn để cải thiện mô hình riêng của họ? Các gói doanh nghiệp thường nói không. Làm rõ nó bằng văn bản.
Giữ lại: Họ giữ các yêu cầu và đầu ra của bạn trong bao lâu, và bạn có thể rút ngắn thời gian đó không?
Vị trí: Dữ liệu được xử lý ở đâu? Chuyển dữ liệu bên ngoài EU cần một cơ chế pháp lý, chẳng hạn như quyết định thích hợp hoặc điều khoản hợp đồng tiêu chuẩn.

Chạy mô hình trên cơ sở hạ tầng riêng của bạn loại bỏ hầu hết những câu hỏi này. Nó không loại bỏ sự cần thiết phải ghi lại những gì bạn đã làm.

Lấy dữ liệu lại dễ bảo vệ hơn huấn luyện

Có hai cách chính để trao dữ liệu cho một mô hình. Bạn có thể huấn luyện hoặc tinh chỉnh nó, khiến dữ liệu trở thành một phần của mô hình. Hoặc bạn giữ dữ liệu trong hệ thống riêng của mình và cho phép mô hình truy cập dữ liệu khi cần, thường được gọi là lấy dữ liệu.

Đối với dữ liệu khách hàng, lấy dữ liệu gần như luôn là lựa chọn an toàn hơn. Khi một khách hàng yêu cầu xóa dữ liệu của họ, bạn xóa bản ghi và nó biến mất khỏi mọi câu trả lời trong tương lai. Lấy dữ liệu lại dữ liệu từ một mô hình huấn luyện gần như là không thể thực hiện được trong thực tế. Điều này khiến quyền xóa dữ liệu rất khó thực hiện, và các cơ quan quản lý biết điều đó.

Làm thế nào để chứng minh bạn đã làm đúng

Bạn không thể chứng minh bằng chứng về sự tuân thủ là vô giá trị. Giữ lại những hồ sơ sau:

Một hồ sơ xử lý liệt kê hệ thống AI, dữ liệu nó sử dụng, mục đích và cơ sở pháp lý.
Đánh giá tác động bảo vệ dữ liệu. Công nghệ mới kết hợp với khối lượng lớn dữ liệu cá nhân gần như luôn kích hoạt một đánh giá này. Nó là tài liệu thuyết phục nhất bạn có thể trao cho thanh tra.
Thỏa thuận xử lý dữ liệu ký với mỗi nhà cung cấp chạm vào dữ liệu.
Nhật ký hiển thị dữ liệu nào nhập vào hệ thống, khi và theo quyền của ai, cùng bằng chứng về việc chạy bộ lọc của bạn.
Một chủ sở hữu được chỉ định xem xét tất cả những điều trên mỗi khi hệ thống thay đổi.

Luật AI của EU thêm các nghĩa vụ ghi chép riêng, đặc biệt là đối với các hệ thống được sử dụng trong các lĩnh vực có rủi ro cao như tuyển dụng hoặc tín dụng. Nếu hồ sơ của bạn đã bao phủ năm điểm này, bạn đã đi đúng hướng.

Mang trọng trách từ đầu

Các công ty gặp rắc rối khi tàu thử nghiệm rời cảng trước khi giấy tờ được xây dựng sau đó. Làm điều ngược lại. Viết mục đích, chọn cơ sở, lọc dữ liệu, ký hợp đồng, bật nhật ký và sau đó xây dựng. Nó thêm vài tuần tối đa, và có nghĩa là câu trả lời cho "bạn có thể chứng minh không?" là một tập tin, không phải một cuộc chạy đua.

Công việc nền tảng này là một phần lớn trong những gì chúng tôi làm tại Hercules A. Cho dù bạn làm việc với chúng tôi hay không, hãy thực hiện nó trước khi ghi lại bất kỳ dữ liệu nào.