Chatbot de Document IA pour ProjektMagazin.de
Nous avons construit un chatbot de document alimenté par l'IA pour ProjektMagazin qui transforme les minutes de recherche manuelle en secondes de conversation intelligente, donnant aux utilisateurs un accès instantané à des milliers de ressources de gestion de projet.
À propos de ProjektMagazin
Ce que nous avons construit
Système de Classification Intelligent des Questions
Nous avons mis en œuvre un système de routage intelligent qui analyse automatiquement chaque question entrante pour déterminer la meilleure façon de la gérer.
- Lorsque les utilisateurs posent des questions conversationnelles simples comme "Pourquoi es-tu ici?" ou "Que peux-tu faire?", notre système les reconnaît comme des requêtes génériques et les achemine directement vers un générateur de réponses léger.
- Pour les questions spécifiques à un document, le système active notre pipeline de récupération complet.
Cette classification intelligente permet d'économiser sur les coûts d'API en évitant les recherches inutiles dans la base de données de documents pour les questions qui n'en ont pas besoin.
Le résultat:
Le client obtient maintenant des temps de réponse plus rapides tout en gardant des coûts opérationnels prévisibles et durables, même lorsque l'utilisation augmente.
2. Indexation avancée de documents avec des métadonnées enrichies
L'équipe de Droptica a construit un système d'indexation complet qui se connecte directement à la base de données Drupal de ProjektMagazin via des API JSON. Contrairement à une simple extraction de texte, notre système capture des métadonnées riches avec chaque document:
- Assignations de catégorie et de taxonomie pour un filtrage précis.
- Informations et identifiants de l'auteur pour l'attribution de la source.
- Propriétés personnalisées spécifiques à la structure de contenu de ProjektMagazin.
Cette approche riche en métadonnées permet au chatbot de fournir non seulement des réponses précises, mais aussi un contexte approprié et une attribution de source. Les utilisateurs peuvent voir exactement de quels documents et catégories proviennent leurs réponses, renforçant la confiance et la transparence.
Le résultat:
Nous avons conçu l'architecture d'indexation pour qu'elle soit entièrement extensible. Le client peut facilement ajouter de nouveaux types de contenu - que ce soit des articles, des termes de taxonomie, ou des types d'entités entièrement nouveaux - sans nécessiter de modifications à l'échelle du système. Chaque type de contenu a son propre point d'accès et son pipeline d'indexation, rendant l'expansion simple et maintenable.
Évaluation de documents en deux étapes pour une précision supérieure
Nous avons mis en œuvre un processus de récupération en deux étapes innovant qui améliore considérablement la qualité des réponses :
- Étape 1 : Récupération Large
Notre recherche vectorielle récupère environ 20 morceaux de documents candidats qui pourraient contenir des informations pertinentes.
- Étape 2 : Évaluation Propulsée par LLM
Chaque morceau de document candidat est ensuite évalué par le LLM pour sa pertinence réelle à la question spécifique. Le système note chaque morceau et ne sélectionne que les 12 informations les plus pertinentes pour générer la réponse.
Le résultat :
Cette approche garantit que les utilisateurs reçoivent des réponses basées sur un contenu vraiment pertinent, et non pas seulement sur un texte sémantiquement similaire. Le client a signalé des améliorations significatives de l'exactitude des réponses et de la satisfaction des utilisateurs après la mise en œuvre de l'évaluation des documents.
6. Mesures de sécurité intégrées du chatbot de document IA
Nous avons mis en œuvre une protection robuste contre l'injection de prompts pour nous prémunir contre les tentatives malveillantes de manipulation du chatbot. Nos mesures de sécurité comprennent :
- Validation des entrées pour détecter et bloquer les tentatives d'injection.
- Isolement des prompts du système pour prévenir les modifications non autorisées des instructions.
- Filtrage des réponses pour garantir que les résultats restent dans les limites autorisées.
- Surveillance continue pour identifier de nouveaux modèles d'attaque.
Le résultat :
Les tests ont confirmé que les mesures de sécurité mises en place bloquaient efficacement les tentatives courantes d'injection de prompts et garantissaient que les réponses du chatbot restaient dans les limites prévues.
7. Outils standard de l'industrie pour la surveillance et l'amélioration
Nous avons construit le chatbot en utilisant des outils et des cadres standard de l'industrie qui offrent des capacités de surveillance robustes et une flexibilité pour une amélioration continue. Cette approche nous a donné :
- Une observabilité complète grâce à LangSmith pour suivre toutes les interactions et les coûts LLM.
- La collecte de feedback utilisateur intégrée directement dans l'interface pour recueillir des évaluations de qualité sur les réponses du chatbot.
- Une architecture flexible permettant une intégration facile de nouvelles fonctionnalités et capacités.
- Un suivi de niveau production pour identifier les problèmes et les opportunités d'optimisation.
- Une indépendance du cadre nous permettant d'adapter et d'évoluer le système au fur et à mesure que la technologie de l'IA progresse.
Le résultat :
Cette infrastructure d'outillage assure que le chatbot peut être constamment surveillé, amélioré et adapté aux meilleures pratiques émergentes sans être enfermé dans une plateforme propriétaire. Les retours des utilisateurs sur la qualité des réponses fournissent des informations précieuses pour l'affinement continu du système.
Impact commercial et améliorations opérationnelles
Le client signale une grande satisfaction des utilisateurs et a déjà identifié les améliorations visuelles de l'interface utilisateur comme la prochaine phase d'améliorations, un signe clair que la fonctionnalité principale répond à tous leurs besoins.
Choix technologiques
Nous avons sélectionné notre pile technologique en fonction de la fiabilité de production, de la scalabilité et de la maintenabilité à long terme.
Découvrez plus d’informations sur les aspects techniques de ce projet sur notre blog
Dans nos articles, nous expliquons notamment comment nous avons garanti l’actualité des connaissances du chatbot, comment nous avons choisi les outils et frameworks pour créer un pipeline RAG stable, ainsi que les techniques utilisées pour réduire les temps de réponse et améliorer la précision des résultats générés.
