あなたのスタッフはすでにAIを使用しています。データがどこに行くのかが唯一の問題です。
未承認のチャットボット使用はすでに多くの企業で日常化している。何が建物を出ていくのか、なぜ禁止が失敗するのか、そして人々に安全な代替案を提供する方法。
影のAI：その現実と対策
部署長にAIツールをチームでどれだけ使っているか尋ねると、ある数字が返ってきます。匿名でチームに聞くと、もっと大きな数字になります。このギャップが「影のAI」であり、ニッチな行動ではありません。多くのオフィスワーカーにとって、これは今や仕事を進めるための一般的な方法なのです。誰も彼らに承認された方法を提供していなかったからです。
実際に貼り付けられるものとは？
些細なことではありません。従業員はメモのスペルチェックのためにチャットボットを開きません。彼らは締め切りが迫り、仕事が難しいときにチャットボットを開くのです。
そのため、箱に入れるのは、4時の電話前に要約する必要がある契約書のドラフト、候補者の履歴書と面接官の率直なメモ（拒否手紙に変換され、問題を引き起こさないように）、怒った顧客からのメール（まだ口座番号が含まれているもの）、過去四半期のクライアント別利益率のスプレッドシート（モデルがパターンを探せるように全体コピー）、生産ログ（APIキーが3行下に偶然あるもの）、朝までに簡単な英語版が必要な取締役会資料などです。
これらのそれぞれは、良い仕事をしようと努力する従業員による合理的な判断です。それらが集まると、機密情報、顧客の個人データ、時折生データの資格情報が、契約のないインフラに持ち出されます。保持期間も記録もありません。
禁止令の失敗
一般的な対応は、ドメインをブロックし、厳しくメールを送ることです。しかし、これは効果がなく、特定の点で状況を悪化させます。
企業ネットワークをブロックすると、活動は個人の携帯電話に移り、あなたには全く見えなくなります。AIを使って仕事は進み続け、あなたの管理下から外れます。同時に、ポリシーに従う人々は、無視する人々よりも同じタスクを遅く行うため、会社が実際に報いる行動が教わります。禁止令は管理可能な問題を目に見えないものに変え、生産性でその代償を払います。
露出は契約前に技術あり
実際のリスクは、劇的な侵害ではなく、書類処理です。
ほとんどのチャットボットの消費者向けプランでは、あなたが入力した内容を製品改善のために使用することがありますが、ビジネス向けプランでは一般的にそうではありません。この区別は、通常の取引関係と、未ログの個人データをプロセッサに無許可で転送し、データ処理契約や保持期間も定義せず、どの管轄区域にデータが着地したかも分からない、という状況の違いです。あなた自身のクライアント契約では、このような行為がますます禁止されており、多くの場合、データに触れるすべてのサブプロセッサを明記することを要求しています。
最悪なのは記録です。重要なクライアントから、その情報が第三者のAIシステムを経由したかどうかを尋ねられたとき、「わかりません」という答えは、「はい」という答えよりもはるかに有害です。
人々により良い場所を提供する
影のAIは需要信号です。従業員は行動を通して、このツールが彼らを速くしていると伝えています。その需要を満たすのはあなたの仕事です。
承認されたオプションは、それを使用する現在の方法と同じくらい良く、かつアクセスしやすくなければなりません。つまり、ビジネスまたはエンタープライズ向けプラン（トレーニング機能を無効化し、シングルサインオンを設定して離職者にアクセスを失わせ、意図的に保持期間を設定）、クライアントに提示できる契約書のあるモデルです。機密情報（患者記録、未公開の結果、NDA下にあるコード、法的特権）など、厳しく制限されたデータについては、あなたが制御するハードウェア上でモデルを実行し、データが建物の外に出ないようにします。
最初の1ヶ月
- 調査ではなく、質問をしてください。匿名のアンケートで人々がどのようなツールを使い、何のために使っているかを知ることは、ログ分析よりも1週間でより多くの情報を得られます。また、誰かを防御的にさせることもありません。
- 1つのツールを正しく購入してください。主な使用ケースのリーダーを選び、ビジネス向けプランを選択し、トレーニング機能を無効化し、シングルサインオンを有効にし、全員が必要な人にロールアウトします。
- 明確で簡単なルールを1ページ書きます。3つのカテゴリ（許可済み、事前質問、絶対禁止）と、あなた自身のビジネスから具体例を含むものです。抽象的なデータクラスではなく、現実の例を使用します。
- 中間のカテゴリに人を割り当てます。「事前質問」に宛先がない場合、「それどころかやる」になります。
- 最も頻繁に使用するユーザーに1時間トレーニングを行います。彼らは他の全員の規範を設定します。
- 90日後に、人々が実際に何をしているかに対して見直します。
目標はAIの使用をゼロにすることではありません。機密情報が契約書なしで組織を離れることを防ぎ、その証拠を示すことができるようにすることが目標です。
これは誰も志願しないAI採用の部分です：調査、ベンダー条件、すでに外部に出たものの在庫確認などです。Herculesa Aは、クライアントのプライベートなオンプレミスモデルを含む、これらのタスクを処理しています。重労働であることは確かです。