IA et fact-checking : produire des notes clients fiables

Les grands modèles de langage ont transformé la productivité des équipes de veille et de conseil. Un analyste qui passait six heures à rédiger une note de synthèse en passe désormais deux, et le résultat est souvent plus structuré que ce qu'il aurait produit seul. Mais cette accélération a un revers documenté : les LLM produisent des affirmations fausses avec la même assurance que des affirmations vraies. Dans un cabinet de conseil où la crédibilité est le principal actif, une note client contenant une date erronée, un rôle mal attribué ou une statistique inventée peut causer des dommages durables.

Cet article explore la mécanique des hallucinations, les zones de risque spécifiques à la veille stratégique, et le protocole de vérification à mettre en place pour que l'IA reste un accélérateur sans devenir une source de risque réputationnel.

Comprendre les hallucinations : pourquoi les LLM inventent

Un LLM ne « ment » pas au sens où il chercherait à tromper. Il prédit le token suivant le plus probable étant donné le contexte. Lorsque la réponse correcte ne figure pas dans ses données d'entraînement, ou que les données sont ambiguës, il génère une réponse plausible plutôt que d'admettre l'ignorance. Cette propriété est utile pour la créativité et la synthèse ; elle est dangereuse pour la factualité.

En veille stratégique, les hallucinations se manifestent selon trois patterns récurrents.

Les confusions de rôles et de personnes. Un LLM peut attribuer à Jean-Yves Le Drian la déclaration faite par son successeur, fusionner les attributions de deux dirigeants portant des noms similaires, ou inventer une nomination qui n'a pas eu lieu mais qui est cohérente avec la trajectoire probable d'un acteur. Ces erreurs sont particulièrement insidieuses parce qu'elles s'inscrivent dans un récit cohérent.

Les dates et chiffres approximatifs. Le modèle sait qu'un accord a été signé, mais pas exactement quand. Il produit une date vraisemblable. Il connaît l'ordre de grandeur d'un chiffre d'affaires mais pas le chiffre exact : il en génère un qui s'inscrit dans la plage attendue. Dans une note client, une date décalée de six mois ou un chiffre surestimé de 20 % peut complètement modifier l'interprétation.

Les citations fantômes. C'est la forme la plus documentée et la plus dommageable : le LLM génère une citation plausible attribuée à une source réelle (un rapport, un dirigeant, un régulateur) qui n'existe pas ou n'a jamais été produite. La citation est crédible stylistiquement, la source est réputée, mais le texte est inventé.

Les zones de risque prioritaires à vérifier

Tous les éléments d'une note ne portent pas le même risque. Un protocole de vérification efficace hiérarchise.

Zone rouge, vérification systématique :

• Chiffres précis (pourcentages, montants, volumes, effectifs)
• Dates d'événements, de signatures, de publications officielles
• Titres, fonctions et rattachements hiérarchiques de personnes citées
• Citations directes attribuées à une source nommée
• Références à des documents officiels (rapports, textes réglementaires, décisions)

Zone orange, vérification sur les points décisionnels :

• Chronologies d'événements sur plusieurs années
• Causalités entre événements (« c'est la loi X qui a conduit l'entreprise Y à... »)
• Comparaisons de positionnement entre acteurs
• Tendances chiffrées présentées comme établies

Zone verte, relecture suffisante :

• Structure argumentative et mise en forme
• Reformulations de passages sources clairement identifiés
• Tonalité et registre éditorial

Un analyste qui applique ce tri peut vérifier une note de 6 pages en 20 à 30 minutes plutôt qu'en deux heures, sans sacrifier la fiabilité sur les points qui comptent.

Le protocole de vérification en pratique

La vérification n'est pas une relecture : c'est un processus distinct, avec des étapes et des règles propres.

Étape 1 : identification des affirmations vérifiables. Parcourir la note et marquer chaque affirmation factuelle : date, chiffre, rôle, citation, référence à un document. C'est l'étape la plus longue mais elle délimite le périmètre du travail suivant.

Étape 2 : sourcing de chaque affirmation. Pour chaque élément marqué, identifier la source primaire qui le confirme. Règle stricte : une source secondaire (un article qui cite un rapport) n'est pas suffisante si le chiffre ou la date est central à l'argument. La source primaire peut être un communiqué officiel, un document réglementaire, un fichier de presse de l'organisation concernée.

Étape 3 : réconciliation des divergences. Quand la vérification révèle un écart, date décalée, chiffre différent, titre inexact, corriger l'affirmation et noter la source exacte en référence. Ne pas tenter de « moyenner » deux sources contradictoires : escalader l'ambiguïté plutôt que la masquer.

Étape 4 : validation finale par l'auteur responsable. La note signée par le cabinet engage sa réputation. La validation finale appartient à un consultant senior ou associé, même quand la rédaction a été assistée par IA.

Étiquetage des contenus générés : enjeux et pratiques

La question de l'étiquetage est autant éthique que réglementaire. Doit-on indiquer au client qu'une note a été produite avec assistance IA ?

Le contexte réglementaire. L'AI Act européen, entré en vigueur progressivement depuis 2024, impose des exigences de transparence sur certains systèmes d'IA. Pour les notes de conseil B2B, les obligations directes restent limitées, mais la notion de « bonne foi professionnelle » des cabinets s'applique. Tromper un client sur la provenance d'un livrable peut constituer un manquement au devoir de conseil.

Ce que les pratiques de marché montrent. Parmi les cabinets qui ont adopté l'IA dans leur workflow, trois postures coexistent. La première, non-divulgation totale, est de moins en moins tenable à mesure que les clients s'informent sur les outils. La deuxième, divulgation au niveau de la méthode de travail (dans les conditions générales ou lors du premier brief), est devenue la norme courante. La troisième, étiquetage note par note, est pratiquée par les cabinets qui en ont fait un argument de différenciation sur la rigueur.

La recommandation pragmatique. Mentionner l'usage de l'IA au niveau de la méthode de travail, sans forcément étiqueter chaque document. Être transparent sur le protocole de vérification mis en place. Ne jamais laisser penser que l'IA « pense à la place » du consultant : elle accélère, structure, reformule. L'analyse et la validation restent humaines.

Un cas particulier : les citations et les données. Si une note inclut une citation directe tirée d'un document, cette citation doit être vérifiée et sa source indiquée, que la rédaction ait été assistée ou non par IA. L'étiquetage IA ne dispense pas de citer ses sources.

Ce que l'AI Act change concrètement pour les cabinets

L'AI Act classe les systèmes d'IA par niveau de risque. Les outils de veille et de synthèse documentaire utilisés par les cabinets de conseil tombent dans la catégorie « risque limité » pour la majorité des usages. Les obligations directes sont légères : pas d'audit d'algorithme, pas d'enregistrement dans une base nationale.

Mais deux obligations méritent attention.

La traçabilité des décisions. Lorsqu'une recommandation s'appuie directement sur une analyse produite par IA, le cabinet doit être en mesure de documenter le raisonnement. « L'IA l'a dit » n'est pas une justification recevable dans un contexte d'audit ou de litige.

Le risque de biais dans les sources. Un LLM entraîné sur un corpus anglophone aura des biais de couverture géographique et linguistique. Pour une veille portant sur des marchés peu couverts en anglais, Europe centrale, Afrique subsaharienne, Asie du Sud-Est, ce biais peut introduire des angles morts significatifs. Les cabinets opérant sur ces géographies doivent en tenir compte dans leur protocole.

Comment Sentinel Briefing traite la fiabilité

Sentinel Briefing est conçu autour d'un principe simple : l'IA filtre et structure, le consultant valide. Le système conserve les sources primaires associées à chaque signal, permettant à l'analyste de remonter directement au document d'origine pour vérification.

Les notes produites sont étiquetées « Assisté par IA, sources vérifiées par l'équipe » dans les exports, avec la liste des sources primaires en annexe. Ce choix éditorial permet aux cabinets utilisateurs de diffuser leurs livrables avec la transparence qui protège leur réputation, sans alourdir leur processus de production.

La fiabilité n'est pas une option dans le conseil. Elle est la condition de tout le reste.