당신의 직원들은 이미 AI를 사용하고 있다. 데이터가 어디로 가는지가 유일한 문제이다.
비승인 채팅봇 사용은 이미 대부분의 회사에서 일상적인 일이 되었다. 무엇이 회사를 떠나며, 왜 금지 조치가 실패하는지, 그리고 사람들에게 안전한 대안을 어떻게 제공할 수 있는지.
그림자 AI: 기업의 새로운 현실
부서장에게 그들의 팀이 사용하는 AI 도구의 수를 물어보면 특정 숫자를 얻을 수 있습니다. 팀원들에게 익명으로 물어보면 그 숫자는 더 커집니다. 이 간극은 그림자 AI, 즉 주변적이 아닌 기업의 새로운 현실입니다. 많은 사무직 근로자들에게 이는 단순히 업무를 처리하는 방법이 되었습니다. 왜냐하면 누구도 그들이 이를 할 수 있는 승인된 방법을 제공하지 않았기 때문입니다.
실제로 복사되는 것은 무엇인가?
부속적인 것이 아닙니다. 직원은 메모를 철자 검사하기 위해 채팅봇을 열지 않습니다. 그들은 작업이 어렵고 마감일이 다가왔을 때 채팅봇을 엽니다.
그래서 상자에 복사되는 것은 4시의 회의 전에 요약해야 하는 공급 계약 초안, 후보자의 이력서와 면접관의 날카로운 메모로 만든 거부 편지, 여전히 계좌 번호가 포함된 분노한 고객 이메일, 지난 분기의 마진 데이터를 찾기 위해 모델이 패턴을 인식할 수 있도록 전체 스프레드시트, 우연히 API 키가 세 줄 아래에 있는 생산 로그, 아침까지 평범한 영어로 된 이사회 자료입니다.
이 모든 것은 직원이 좋은 일을 하려고 합니다는 합리적인 결정의 결과입니다. 함께하면 귀사의 기밀 정보, 고객의 개인 데이터, 가끔씩은 실시간 자격 증명 등이 계약 없이, 보존 기간 없이, 그리고 어디에 착륙했는지도 모르는 인프라로 이동됩니다.
금지령의 실패
일반적인 대응은 도메인을 차단하고 강력한 이메일을 보내는 것입니다. 그러나 이는 효과가 없을 뿐만 아니라 특정 방식으로 상황을 악화시킵니다.
기업 네트워크를 차단하면 활동이 개인 휴대폰으로 이동합니다. AI로 업무를 처리하는 것은 여전히 가능하지만, 귀사가 볼 수 없는 곳에서 이루어집니다. 동시에 정책을 준수하는 사람들을 더 느리게 작업하도록 만들며, 이는 회사가 실제로 보상하는 행동에 대한 교훈을 모든 사람에게 줍니다. 금지는 관리할 수 있는 문제를 보이지 않는 문제로 바꾸고 생산성을 대가로 지불합니다.
노출은 기술적보다 계약적으로 먼저 발생한다
실제 위험은 극적인 유출이 아닙니다. 그것은 서류입니다.
대부분의 채팅봇의 소비자 등급은 당신이 입력한 것을 제품 개선을 위해 사용할 수 있습니다. 그러나 기업 등급은 일반적으로 그렇지 않습니다. 이 구분은 일반적인 공급업체 관계와 개인 데이터를 처리자로 승인하지 않은 프로세서에 무작위로 전송하고, 데이터 처리 협약이나 정의된 보존 기간이 없으며, 데이터가 어디에 착륙했는지도 모르는 상황을 의미합니다. 귀사의 클라이언트 계약은 점점 더 이러한 것을 금지하고 있으며, 많은 경우 이제 귀사가 데이터 처리에 관여하는 모든 하위 프로세서를 명시하도록 요구합니다.
최악의 부분은 기록입니다. 주요 클라이언트가 그들의 정보가 제3자 AI 시스템을 통해 처리되었는지 묻는다면, "모릅니다"라는 답변은 "예"라는 답변보다 훨씬 더 해롭습니다.
사람들이 더 나은 곳으로 이동할 수 있도록 하라
그림자 AI는 수요 신호입니다. 직원은 이 도구가 그들을 더 빠르게 만든다는 것을 행동으로 보여줍니다. 귀사의 임무는 그 요구를 귀하의 조건에 맞춰 충족시키는 것입니다.
승인된 옵션은 그것이 현재 사용하는 것과 동일하게 좋고 접근하기 쉬워야 합니다. 이는 비즈니스 또는 엔터프라이즈 등급을 선택하고, 교육 기능을 끄고, 단일 로그인(SSO)을 설정하여 이탈자가 실제로 액세스를 상실하도록 하며, 의도적으로 보존 기간을 구성하고, 클라이언트에게 보여줄 수 있는 계약서를 작성하는 것을 의미합니다. 민감한 정보가 절대 외부로 유출되지 않는 경우, 답은 귀사가 통제하는 하드웨어에서 실행되는 모델입니다. 데이터가 건물 밖으로 나가지 않도록 합니다.
첫 달
- 설문조사를 실시하세요, 감사보다는. 익명으로 도구를 사용하고 그 이유를 묻는 설문조사는 로그 분석보다 한 주 안에 더 많은 정보를 제공합니다. 또한 누군가를 방어적으로 만들지 않습니다.
- 하나의 도구를 제대로 구매하세요. 귀하의 주요 사용 사례에 대한 리더를 선택하고, 비즈니스 등급을 선택하고, 교육 기능을 끄고, SSO를 설정하고, 모든 사람이 필요로 하는 사람들에게 배포하세요.
- 간단한 규칙 한 페이지를 평신도 언어로 작성하세요. 세 범주 - 허용, 먼저 문의, 절대 금지 - 와 귀사의 실제 비즈니스 사례에서 가져온 구체적인 예시를 포함하세요.
- 중범주의 사람을 지정하세요. "먼저 문의"가 없으면 "그냥 해도 된다"가 됩니다.
- 가장 많은 사용자를 대상으로 1시간 교육 세션을 진행하세요. 그들은 다른 모든 사람의 규범을 설정합니다.
- 90일 후에 실제 행동에 대해 검토하세요.
목표는 승인되지 않은 목록에 AI 사용이 전혀 없는 것이 아닙니다. 목표는 기밀 정보가 계약 없이 외부로 유출되지 않도록 하고, 이를 증명할 수 있는 것입니다.
AI 채택의 이 부분은 아무도 자원하지 않습니다: 설문조사, 공급업체 약관, 이미 외부로 나간 것이 무엇인지 파악하기 위한 재고 조사. Hercules A는 이러한 무게를 고객을 위해, 특히 개인 데이터가 포함된 온프레미스 모델을 사용하는 사적인 고객을 위해 지고 있습니다. 무거운 작업은 그만두어야 할 점입니다.