Montrez-moi où il est mentionné cela : recherche interne qui répond avec des reçus
Comment construire un assistant interne qui répond aux questions à partir de vos propres documents et fournit des liens vers la source exacte, et ce qui permet réellement son fonctionnement.
La citation est le produit
Un assistant qui répond sans source a déplacé votre travail, pas supprimé celui-ci. Vous devez toujours vérifier, et la vérification signifie trouver le document vous-même, ce qui était l'objectif que vous essayiez d'éviter. Avec un lien vers la clause, la page et la version, la vérification prend quatre secondes et vous passez à autre chose.
Il y a une deuxième raison, encore plus importante avec le temps. Une réponse non citée est non auditable. Lorsque c'est faux, vous ne pouvez pas dire si le document source était erroné, obsolète, ou correctement lu et mal résumé. Chacun de ces cas a une solution différente et un propriétaire différent. Les citations transforment une plainte vague sur l'IA en un ticket spécifique et résoluble.
Ce qui se cache derrière, sans le jargon
Trois éléments. Une copie de vos documents, divisée en passages. Un pas de récupération qui extrait la poignée de passages les plus susceptibles de contenir la réponse. Un modèle qui écrit la réponse en utilisant uniquement ces passages et les nomme.
Le modèle n'est pas formé sur vos données et ne les mémorise pas. Il lit ce que la récupération lui remet, comme un nouvel analyste lirait le fichier que vous placez sur son bureau. Changer un document aujourd'hui et la réponse de demain changera en conséquence. Retirer l'accès d'une personne limitera ses réponses en conséquence.
L'industrie appelle cela la génération assistée par récupération. Ce qu'il faut retenir du terme, c'est le côté commercial, pas technique : la partie coûteuse du projet n'est pas le modèle. C'est vos documents.
Le travail est dans les documents
La plupart de ces projets réussissent ou échouent dans le corpus, avant qu'un seul prompt ne soit écrit. Le travail récurrent ressemble à ceci :
- Choisir un corpus délimité. Un département, un but. "Toute SharePoint" n'est pas un corpus, c'est une décharge.
- Configurer les permissions en premier, au niveau de la récupération. Si une personne ne peut pas ouvrir le fichier, l'assistant ne doit pas le citer. Réinstaller cela est douloureux et, jusqu'à ce que vous le fassiez, le système est une fuite.
- Résoudre les doublons. Six modèles de contrat identiques produiront six réponses identiques, et l'assistant n'a aucun moyen de savoir lequel RH utilise réellement. Marquer la version autorisée.
- Traiter les formats qui résistent : les PDF numérisés ont besoin de reconnaissance optique de caractères (OCR), les feuilles de calcul et les diapositives perdent leur sens lorsqu'elles sont aplaties en texte, et les fils d'emails sont principalement du bruit.
- Attribuer à chaque document un propriétaire et une date de révision. Un assistant avec des citations rend le contenu obsolète visible, parfois de manière inconfortable.
Où cela ne sera pas utile
Les questions qui nécessitent un comptage ou une comparaison dans l'ensemble de l'archive. "Combien de contrats renouvelent au troisième trimestre" est une question de base de données déguisée en question de recherche, et la récupération y répondra avec confiance et faussement. De même pour "quel est notre total d'exposition à ce fournisseur". Transférer ces questions vers des rapports.
Il ne peut pas non plus répondre à ce que personne n'a écrit. Si la règle de tarification vit dans la tête d'une seule personne, la réponse honnête est qu'il n'y a aucune source. Un système qui dit qu'il ne sait pas fonctionne correctement, et vous devez concevoir pour cette réponse plutôt que de la pénaliser.
Mesurer le troisième nombre
Prenez cinquante à cent questions réelles des personnes qui utiliseront l'outil. Pas inventées. Ensuite, mesurez trois pourcentages : les réponses avec une citation correcte, les refus pour manque de source, et les réponses confiantes mais fausses.
Le troisième nombre est le seul qui décide si le système est utilisé. Une seule réponse fabriquée avec un lien qui ne soutient pas cette réponse coûtera plus de confiance que vingt réponses utiles n'en gagneront. Faites en sorte qu'il soit aussi bas que possible, même si cela signifie que l'assistant refuse plus souvent que vous ne le souhaiteriez au départ.
Commencez avec une étagère, pas la bibliothèque
Choisissez une équipe avec un ensemble de documents clair et une question qu'elle pose chaque semaine. Huit semaines suffisent pour avoir quelque chose de réel entre leurs mains, y compris le travail de permissions. N'élargissez que lorsque ce groupe s'opposerait à perdre cela.
Nous construisons ces outils pour les petites entreprises, et le schéma est le même : l'outil étroit qui cite ses sources est utilisé quotidiennement, tandis que l'ambitieux qui répond à tout est tranquillement abandonné d'ici mars.