Construire un chatbot d'entreprise qui n'hallucine pas: les enseignements de 300 000 conversations

À noter: cet article repose sur une entreprise et un projet réels. Certains détails ont été adaptés ou anonymisés pour protéger des informations confidentielles; tous les chiffres ont été ajustés pour rester dans des ordres de grandeur réalistes sans refléter les données réelles. J’ai aussi ajouté quelques réflexions venues après mon départ du projet.

Avant de lancer mon entreprise actuelle, j’ai dirigé pendant quelque temps l’équipe chargée de l’IA conversationnelle et de l’automatisation des services chez un grand assureur suisse. L’équipe a construit et exploité le chatbot destiné aux clients de l’entreprise: celui qui gérait plus de 25 000 conversations par mois en 2025, traitait des milliers d’opérations en libre-service et réduisait nettement les demandes de suivi liées aux sinistres.

Quand l’équipe a lancé la version fondée sur l’IA générative, l’entreprise est devenue l’un des premiers assureurs cotés au monde à mettre une IA alimentée par des LLM directement au contact de ses clients. Les médias s’y sont intéressés. Les concurrents encore davantage. Et nous avons appris beaucoup de choses à nos dépens.

Ce guide porte sur ces enseignements. Pas sur la technologie: vous pouvez passer vos journées à chercher des architectures RAG sur Google. Il parle des décisions, des défis organisationnels et de ce qui a failli mal tourner.

Le parcours: de l’arbre de décision à l’intelligence

Le chatbot a vu le jour en 2016 sous la forme d’un arbre de décision fondé sur des règles. Vous connaissez le genre: « Cliquez sur 1 pour les sinistres, sur 2 pour les questions relatives à votre police. » Il reconnaissait peut-être 50 mots-clés et orientait les gens vers des réponses préécrites. L’intelligence était encore bien loin.

Fin 2022, il était clair que l’ancienne approche avait atteint ses limites. Les clients en attendaient davantage. Ils avaient commencé à utiliser ChatGPT et, tout à coup, le chatbot de chaque entreprise semblait archaïque en comparaison.

Début 2023, l’équipe a reconstruit le chatbot de zéro avec l’IA générative. Quatre semaines entre la décision et le lancement. Cette rapidité n’a été possible que parce que l’entreprise avait consacré des années aux fondations: conception conversationnelle, règles pour la voix de la marque, équipe interdisciplinaire qui fonctionnait vraiment. Sans ces années de préparation, lancer une IA générative en quatre semaines aurait été irresponsable.

Après la relance, tout s’est accéléré. Intégration de la voix dans le centre d’appels. Réponses aux e-mails assistées par l’IA qui ont réduit de moitié le temps de traitement. Déclaration automatisée des sinistres et vérification de la couverture. Ce qui avait commencé comme un chatbot est devenu un écosystème: des dizaines de cas d’usage actifs de l’IA dans l’ensemble des communications avec les clients.

Cinq décisions qui ont compté

Avec le recul, cinq décisions d’architecture ont déterminé tout ce qui a suivi. Prenez les bonnes décisions et le reste relève de l’exécution. Prenez les mauvaises et aucun travail d’ingénierie ne réparera les dégâts.

1. Comment empêcher le bot d’inventer?

C’est la première question que pose chaque dirigeant, et il a raison. Un chatbot d’assurance qui invente les détails d’une police est pire que l’absence de chatbot.

Notre réponse a été le RAG, ou Retrieval-Augmented Generation, c’est-à-dire la génération augmentée par récupération. En clair: le chatbot ne répond pas à partir de ses connaissances générales. Il récupère d’abord des documents précis et vérifiés, puis génère une réponse fondée uniquement sur ces documents.

La base de connaissances provenait de deux sources: une extraction automatique quotidienne du site de l’entreprise, afin que les informations sur les produits restent à jour, et des contenus sélectionnés à la main que nous appelions « contenus personnalisés », soit des documents rédigés avec soin pour être facilement exploités par les modèles d’IA.

Chaque réponse comportait une citation: « D’après [document source]. » Si le chatbot ne trouvait aucune source pertinente, il le disait au lieu d’inventer.

Cela paraît simple. Ça ne l’était pas. La qualité du RAG dépend entièrement de ce que vous récupérez. Des documents médiocres produisent des réponses médiocres, même avec un système de récupération parfait. Nous avons passé des mois à réécrire des polices d’assurance et de la documentation produit pour les rendre lisibles par machine: langage simple, structure claire, aucune ambiguïté noyée dans le jargon juridique. Ce nettoyage documentaire s’est révélé être un effet secondaire très précieux du projet.

2. Comment gérer la protection des données?

Dans un secteur réglementé, c’est un prérequis. Et ça ralentit tout. Mais il n’y a pas d’autre option.

Les éléments clés de notre approche:

• Aucun entraînement sur les données de conversation. Les conversations avec les clients n’ont jamais servi à entraîner ou affiner les modèles.
• Modèles hébergés dans l’UE. Toute l’inférence des modèles d’IA s’exécutait sur des serveurs situés dans l’UE.
• Masquage des données. Les données personnelles étaient masquées avant d’atteindre le modèle de langage.
• Déploiement séparé. Notre instance tournait sur une infrastructure dédiée, non partagée avec d’autres clients du fournisseur.
• Journaux à accès contrôlé. Les journaux de conversation existaient, car ils étaient nécessaires au suivi de la qualité, mais leur accès était strictement contrôlé.

Chacune de ces exigences ajoutait des coûts et de la complexité. Aucune n’était négociable.

3. Construire ou acheter?

Nous avons choisi de construire en nous appuyant sur des frameworks existants: créer une plateforme de chatbot comme fondation, puis y ajouter une logique personnalisée importante.

Les deux options ont un prix.

Construire vous donne l’avantage d’être parmi les premiers, développe en profondeur les connaissances de l’organisation et apporte de la flexibilité. Cela exige aussi des ressources, crée un risque si vous misez sur la mauvaise technologie et mobilise certains de vos meilleurs ingénieurs.

Acheter vous permet d’arriver plus vite sur le marché avec un coût initial plus faible. Mais tout le monde peut acheter la même chose. Et vous développez bien moins de compétences en interne.

Nous avons choisi de construire parce que nous voulions profiter de l’avantage du premier entrant alors que les produits n’existaient pas encore. Et nous avions besoin d’un degré de personnalisation que de futurs produits prêts à l’emploi n’auraient probablement pas pu offrir non plus. Nous avons tout construit nous-mêmes: la plateforme de chatbot qui gérait l’infrastructure conversationnelle, la base de connaissances, la couche d’intégration et les règles de comportement.

La bonne réponse dépend de la maturité de votre organisation. Si vous n’avez encore rien construit avec l’IA, commencer par acheter pour apprendre est une décision intelligente. Si vous avez déjà une équipe technique qui comprend le domaine, construire vous donne un avantage durable.

4. Comment donner au bot la voix de votre marque?

C’est là que l’art rejoint l’ingénierie. Un chatbot qui sonne comme un robot détruit la confiance. S’il paraît trop humain, il crée le malaise de la vallée de l’étrange. Trouver la bonne voix est plus difficile que ne l’imaginent la plupart des entreprises.

Nous avons beaucoup investi dans la conception des prompts liés à la personnalité. Le chatbot avait un nom, une personnalité définie et des règles détaillées couvrant:

• Le vouvoiement ou le tutoiement (en Suisse alémanique, c’est une vraie question culturelle)
• Le degré d’empathie: quelle place accorder à la reconnaissance des émotions avant de passer à la réponse
• L’humour: quand il est approprié et quand il ne l’est absolument pas
• Le vocabulaire propre aux produits: reprendre la terminologie que les clients voient sur le site

Trouver la bonne voix de marque demande un effort continu. Il faut l’ajuster en permanence à partir de conversations réelles, des retours des clients et de l’évolution de leurs attentes.

5. Quand le bot passe-t-il la main à un humain?

C’est la question de l’escalade. Si vous vous trompez, soit vous frustrez les clients qui ont besoin d’un humain parce que le bot refuse de les lâcher, soit vous gaspillez le temps des conseillers humains avec des questions que le bot aurait pu traiter parce qu’il passe la main trop vite.

Nous avons créé une détection pour trois déclencheurs:

• Frustration. L’analyse du sentiment signalait qu’un client commençait à s’énerver: reformulations répétées de la même question, langage négatif, plaintes explicites.
• Complexité. La question dépassait les limites des connaissances du bot ou mêlait plusieurs problèmes interdépendants.
• Limites réglementaires. Certains sujets, comme les conseils juridiques, les décisions relatives à un sinistre précis ou tout engagement personnel, exigeaient l’intervention d’un humain. Point final.

Lorsqu’une escalade se produisait, le bot expliquait clairement comment obtenir l’aide d’un conseiller humain. Pas de « Veuillez expliquer à nouveau votre problème. »

L’iceberg

Voici ce que je dis à tous ceux qui construisent un système d’IA destiné aux clients:

Ce dont les gens parlent se trouve à la surface, dans la partie visible de l’iceberg. Maturité technologique. Prévention des hallucinations. Prompt engineering. Architecture RAG. Qualité des données. Ce sont de vrais défis, et ils accaparent toute l’attention dans les conférences et les argumentaires des fournisseurs.

Ce qui détermine vraiment la réussite ou l’échec se trouve sous la ligne de flottaison. Et c’est plus difficile à voir:

• Construire un argumentaire économique pour une initiative exploratoire. Si votre entreprise ne peut pas investir sans un tableau qui garantit le ROI, la plupart des projets d’IA meurent pendant la planification. Votre organisation tolère-t-elle les expérimentations qui ne rapporteront peut-être pas tout de suite?

• Collaboration transversale. Notre chatbot était rattaché à la relation client. Le centre d’appels dépendait des opérations. Les conseillers commerciaux étaient rattachés aux ventes. Les équipes de développement, de données et d’IA dépendaient de l’informatique. Faire travailler tous ces groupes ensemble était plus difficile que de construire l’IA elle-même.

• Patience de l’organisation. Les projets s’arrêtent-ils au déploiement ou bénéficient-ils des investissements continus nécessaires pour itérer, s’améliorer et prouver leur valeur sur plusieurs mois ou plusieurs années?

• Une conduite du changement qui n’en a pas l’air. Les gens résistent quand on leur ordonne d’adopter de nouveaux outils. Ils ne résistent pas à ce qui leur simplifie la vie. J’y reviens plus bas.

La technologie représente peut-être 30 % du défi. Le travail organisationnel et culturel constitue les 70 % restants.

« Bots and Beer »

Pendant la première année qui a suivi le lancement de ChatGPT, moins de 10 % des employés avaient probablement essayé des outils d’IA de manière vraiment utile. Dix pour cent. Dans une entreprise qui faisait publiquement la promotion de son chatbot IA.

L’équipe n’a pas réagi en tentant d’imposer un programme de formation. Elle a plutôt organisé des sessions informelles que nous appelions « Bots and Beer »: des rencontres décontractées après le travail, avec des démonstrations en direct, des expérimentations pratiques et de vraies bières. Pas de slides sur « l’avenir de l’IA ». Juste des collègues qui montraient à d’autres collègues ce qu’ils avaient construit, ce qui fonctionnait et ce qui avait échoué de manière spectaculaire.

C’était de la conduite du changement qui n’en avait pas l’air. Et ça a bien mieux fonctionné que n’importe quel programme formel. Convainquez quelques ambassadeurs dans toute l’organisation et le reste suivra.

Cela correspond exactement à ce que j’appelle le principe du pull plutôt que du push. N’imposez pas l’adoption de l’IA. Ne déployez pas des outils depuis le sommet. Rendez-les utiles, visibles et agréables à utiliser, puis laissez les gens venir d’eux-mêmes.

La mine d’or que personne n’exploite

La plupart des entreprises qui construisent des chatbots passent complètement à côté d’un point: les conversations elles-mêmes sont un actif stratégique.

Disposez-vous de transcriptions détaillées de chaque appel traité par votre service client? Assez détaillées pour analyser les changements de sentiment au fil de la conversation? Suivez-vous systématiquement chaque sujet abordé? Détectez-vous de manière fiable les occasions de vente dans les échanges avec le service client?

Probablement pas. Les conversations humaines coûtent cher à consigner, analyser et exploiter à grande échelle.

Un chatbot, lui, capture tout. Chaque conversation et chaque sujet. Il suit les changements de sentiment et les questions qui révèlent des lacunes dans votre produit, votre documentation ou vos processus. À grande échelle.

Cette mine contient au moins trois filons d’or:

Analyse du sentiment. Suivre la frustration, la confusion et la satisfaction sur des milliers d’interactions. Pas chaque conversation isolée: les tendances. Quelles gammes de produits génèrent le plus de confusion? Quels processus provoquent le plus de frustration? Où les clients sont-ils systématiquement satisfaits?

Analyse des sujets. Que demandent vraiment les clients, par rapport à ce que l’entreprise pense qu’ils demandent? L’écart surprend toujours. Des tendances saisonnières apparaissent. De nouvelles préoccupations émergent avant d’atteindre les canaux de feedback formels.

Signaux de vente. Un client qui pose une question sur l’assurance-vie dans un chat de service est un prospect déjà intéressé. Mais le détecter exige des conseillers attentifs et pleinement disponibles, ou une IA qui le signale automatiquement et l’oriente vers la bonne équipe. Les prospects issus des chats sont déjà intéressés et cet intérêt retombe vite; la rapidité compte.

Le potentiel transversal lui donne toute sa puissance. Un changement d’adresse transmis par le chatbot peut signaler un déménagement récent, et donc un nouveau bien à assurer. Un sentiment négatif dans une conversation sur un sinistre devrait être signalé lors du prochain échange avec un conseiller. Une hausse soudaine des questions sur un produit donne au marketing un signal de demande en temps réel.

Utilisé ainsi, le chatbot devient un capteur pour toute l’entreprise. La plupart des organisations n’ont pas encore branché le système nerveux qui leur permettrait d’exploiter ces données.

Les leçons sans détour

J’ai promis d’être transparent, alors voici ce que je dirais à celui que j’étais à l’époque.

La courbe d’apprentissage est plus raide que vous ne le pensez

La plupart des employés, même dans une entreprise publiquement engagée en faveur de l’IA, n’en sont qu’au début de leur parcours d’apprentissage. Vous ne pouvez pas sauter d’étapes. Les gens ont besoin de temps, de pratique et de sécurité psychologique, c’est-à-dire la permission d’expérimenter et d’échouer, avant de vraiment s’investir dans les outils d’IA.

Ce qui aide le plus? Les équipes interdisciplinaires. Pas « l’équipe IA construit, puis livre le résultat aux métiers sans travailler avec eux ». Une équipe réunissant des spécialistes du métier, des designers et des ingénieurs qui travaillent ensemble sur le même problème. Ce point n’est pas négociable.

Les projets d’IA sont des projets de transformation déguisés en projets technologiques

Les effets secondaires les plus précieux de notre initiative autour du chatbot n’avaient rien à voir avec le chatbot lui-même:

• La construction de la base de connaissances nous a obligés à nettoyer des années de documentation produit peu claire
• L’automatisation des déclarations de sinistre nous a obligés à simplifier le processus sous-jacent
• Le déploiement dans le centre d’appels nous a obligés à remettre d’abord nos données en ordre

Chaque projet d’IA est aussi un projet d’amélioration des processus et de qualité des données. Si vous n’êtes pas prêt pour ça, vous n’êtes pas prêt pour l’IA.

Il vous faut le soutien d’en haut et l’énergie d’en bas

Ni l’approche descendante ni l’approche ascendante ne suffisent seules. Le soutien de la direction vous donne le budget et la protection politique. L’enthousiasme de la base vous apporte l’adoption et des retours francs. Il vous faut les deux.

Commencez par la plus petite chose qui apporte de la valeur. Un bot de FAQ. Ajoutez ensuite des fonctionnalités en libre-service. Puis la déclaration de sinistres. Puis la voix. Puis les e-mails. Chaque étape développe les compétences, la crédibilité et les capacités de l’organisation. L’entreprise est passée d’un bot de FAQ à plus de 80 cas d’usage actifs de l’IA en trois ans environ, mais une étape après l’autre.

La discussion avec le conseil d’administration

À un moment donné, quelqu’un doit proposer de « mettre une IA expérimentale devant les clients » à un conseil d’administration ou une équipe de direction peu encline au risque. Voici ce qui a fonctionné pour nous: présenter le projet comme une décision liée à l’expérience client plutôt que comme une expérimentation technologique. La question n’était pas « devrions-nous utiliser l’IA? », mais « devrions-nous laisser passer cette occasion rare d’offrir à nos clients une meilleure expérience que celle qu’ils obtiennent partout ailleurs? »

Une idée m’est restée: seules les entreprises bien gérées peuvent bien utiliser l’IA. Si vos processus sont chaotiques, vos données en désordre et vos équipes incapables de collaborer, l’IA amplifiera ces problèmes au lieu de les résoudre.

La suite

Le chatbot n’était que le début. La prochaine étape est la voix: gérer des appels téléphoniques avec une IA qui comprend les accents et sait gérer les interruptions. Elle doit aussi composer avec les difficultés propres à l’oral, comme dicter un nom polonais ou un IBAN suisse. L’entreprise traitait déjà des centaines de milliers d’appels par an dans son centre de services et en confiait progressivement une part croissante à un triage assisté par l’IA.

Ensuite: une couche d’intelligence unifiée pour tous les canaux. Chat, téléphone, e-mail, application, conseil en personne: tout nourrit une compréhension commune de chaque client. Le chatbot, le bot vocal, le système d’e-mail, le tableau de bord du conseiller: tout est connecté. Chaque point de contact apprend de tous les autres.

C’est une vision, pas un produit. Mais les entreprises qui y parviendront les premières auront un avantage décisif. Et tout commence par ce premier chatbot simple qui répond aux questions des clients sans inventer.

Ce que vous pouvez faire lundi

Si vous envisagez de construire un système d’IA destiné aux clients, ne commencez pas par la technologie. Commencez par ces questions:

1. Quelle est la plus petite chose utile? Pas « construire une plateforme IA pour le service client ». Quelque chose comme « répondre automatiquement aux 20 questions les plus fréquentes ». Commencez là.

2. Avez-vous les connaissances nécessaires? La qualité du RAG dépend de ce que vous récupérez. Votre documentation produit est-elle claire, structurée et lisible par machine? Si ce n’est pas le cas, voilà votre véritable première étape.

3. Qui compose votre équipe interdisciplinaire? Vous avez besoin de spécialistes du métier qui comprennent les clients, de designers qui comprennent la conversation et d’ingénieurs qui comprennent la technologie. Tous doivent travailler ensemble, et non les uns après les autres.

4. Quelle est votre tolérance à l’itération? La première version sera médiocre. La cinquième sera bonne. La vingtième sera impressionnante. Si votre organisation abandonne les projets après la première version, elle n’est pas encore prête.

Vous n’avez pas besoin d’un programme de transformation sur trois ans. Il vous faut une équipe concentrée sur un objectif, un cas d’usage clair et la patience d’itérer. La technologie est prête. Reste à savoir si votre organisation l’est aussi.