IA e fact-checking: produrre note clienti affidabili

I grandi modelli linguistici hanno trasformato la produttività dei team di monitoraggio e di consulenza. Un analista che impiegava sei ore a redigere una nota di sintesi ora ne impiega due, e il risultato è spesso più strutturato di quanto avrebbe prodotto da solo. Ma questa accelerazione ha un rovescio documentato: gli LLM producono affermazioni false con la stessa sicurezza delle affermazioni vere. In una società di consulenza in cui la credibilità è l'asset principale, una nota cliente contenente una data errata, un ruolo attribuito male o una statistica inventata può causare danni durevoli.

Questo articolo esplora la meccanica delle allucinazioni, le zone di rischio specifiche dell'intelligence strategica, e il protocollo di verifica da mettere in atto affinché l'IA resti un acceleratore senza diventare una fonte di rischio reputazionale.

Comprendere le allucinazioni: perché gli LLM inventano

Un LLM non «mente» nel senso che cercherebbe di ingannare. Predice il token successivo più probabile dato il contesto. Quando la risposta corretta non figura nei suoi dati di addestramento, o i dati sono ambigui, genera una risposta plausibile anziché ammettere l'ignoranza. Questa proprietà è utile per la creatività e la sintesi; è pericolosa per la fattualità.

Nell'intelligence strategica, le allucinazioni si manifestano secondo tre pattern ricorrenti.

Le confusioni di ruoli e di persone. Un LLM può attribuire a Jean-Yves Le Drian la dichiarazione fatta dal suo successore, fondere le attribuzioni di due dirigenti con nomi simili, o inventare una nomina che non ha avuto luogo ma che è coerente con la traiettoria probabile di un attore. Questi errori sono particolarmente insidiosi perché si inseriscono in un racconto coerente.

Le date e le cifre approssimative. Il modello sa che un accordo è stato firmato, ma non esattamente quando. Produce una data verosimile. Conosce l'ordine di grandezza di un fatturato ma non la cifra esatta: ne genera una che rientra nell'intervallo atteso. In una nota cliente, una data spostata di sei mesi o una cifra sovrastimata del 20% può modificare completamente l'interpretazione.

Le citazioni fantasma. È la forma più documentata e più dannosa: l'LLM genera una citazione plausibile attribuita a una fonte reale (un report, un dirigente, un regolatore) che non esiste o non è mai stata prodotta. La citazione è credibile stilisticamente, la fonte è autorevole, ma il testo è inventato.

Le zone di rischio prioritarie da verificare

Non tutti gli elementi di una nota comportano lo stesso rischio. Un protocollo di verifica efficace stabilisce una gerarchia.

Zona rossa, verifica sistematica:

• Cifre precise (percentuali, importi, volumi, organici)
• Date di eventi, di firme, di pubblicazioni ufficiali
• Titoli, funzioni e collocazioni gerarchiche delle persone citate
• Citazioni dirette attribuite a una fonte nominata
• Riferimenti a documenti ufficiali (report, testi normativi, decisioni)

Zona arancione, verifica sui punti decisionali:

• Cronologie di eventi su più anni
• Nessi causali tra eventi («è la legge X che ha portato l'azienda Y a...»)
• Confronti di posizionamento tra attori
• Tendenze quantificate presentate come acquisite

Zona verde, rilettura sufficiente:

• Struttura argomentativa e impaginazione
• Riformulazioni di passaggi di fonti chiaramente identificate
• Tono e registro editoriale

Un analista che applica questa selezione può verificare una nota di 6 pagine in 20-30 minuti anziché in due ore, senza sacrificare l'affidabilità sui punti che contano.

Il protocollo di verifica nella pratica

La verifica non è una rilettura: è un processo distinto, con fasi e regole proprie.

Fase 1: individuazione delle affermazioni verificabili. Scorrere la nota e contrassegnare ogni affermazione fattuale: data, cifra, ruolo, citazione, riferimento a un documento. È la fase più lunga ma delimita il perimetro del lavoro successivo.

Fase 2: sourcing di ogni affermazione. Per ciascun elemento contrassegnato, individuare la fonte primaria che lo conferma. Regola rigorosa: una fonte secondaria (un articolo che cita un report) non è sufficiente se la cifra o la data è centrale nell'argomentazione. La fonte primaria può essere un comunicato ufficiale, un documento normativo, un fascicolo stampa dell'organizzazione interessata.

Fase 3: riconciliazione delle divergenze. Quando la verifica rivela uno scarto, data spostata, cifra diversa, titolo inesatto, correggere l'affermazione e annotare la fonte esatta come riferimento. Non tentare di «mediare» due fonti contraddittorie: far emergere l'ambiguità anziché mascherarla.

Fase 4: validazione finale da parte dell'autore responsabile. La nota firmata dallo studio impegna la sua reputazione. La validazione finale spetta a un consulente senior o a un partner, anche quando la redazione è stata assistita dall'IA.

Etichettatura dei contenuti generati: sfide e pratiche

La questione dell'etichettatura è tanto etica quanto normativa. Bisogna indicare al cliente che una nota è stata prodotta con l'assistenza dell'IA?

Il contesto normativo. L'AI Act europeo, entrato in vigore progressivamente dal 2024, impone requisiti di trasparenza su alcuni sistemi di IA. Per le note di consulenza B2B, gli obblighi diretti restano limitati, ma la nozione di «buona fede professionale» degli studi si applica. Ingannare un cliente sulla provenienza di un deliverable può costituire una violazione del dovere di consulenza.

Ciò che mostrano le pratiche di mercato. Tra gli studi che hanno adottato l'IA nel proprio workflow, coesistono tre posture. La prima, la non divulgazione totale, è sempre meno sostenibile man mano che i clienti si informano sugli strumenti. La seconda, la divulgazione a livello del metodo di lavoro (nelle condizioni generali o durante il primo brief), è diventata la norma corrente. La terza, l'etichettatura nota per nota, è praticata dagli studi che ne hanno fatto un argomento di differenziazione sul rigore.

La raccomandazione pragmatica. Menzionare l'uso dell'IA a livello del metodo di lavoro, senza necessariamente etichettare ogni documento. Essere trasparenti sul protocollo di verifica adottato. Non lasciare mai intendere che l'IA «pensi al posto» del consulente: essa accelera, struttura, riformula. L'analisi e la validazione restano umane.

Un caso particolare: le citazioni e i dati. Se una nota include una citazione diretta tratta da un documento, questa citazione deve essere verificata e la sua fonte indicata, che la redazione sia stata assistita o meno dall'IA. L'etichettatura IA non esonera dal citare le proprie fonti.

Cosa cambia concretamente l'AI Act per gli studi

L'AI Act classifica i sistemi di IA per livello di rischio. Gli strumenti di monitoraggio e di sintesi documentale utilizzati dalle società di consulenza rientrano nella categoria «rischio limitato» per la maggior parte degli usi. Gli obblighi diretti sono leggeri: nessun audit dell'algoritmo, nessuna registrazione in una banca dati nazionale.

Ma due obblighi meritano attenzione.

La tracciabilità delle decisioni. Quando una raccomandazione si basa direttamente su un'analisi prodotta dall'IA, lo studio deve essere in grado di documentare il ragionamento. «Lo ha detto l'IA» non è una giustificazione accettabile in un contesto di audit o di contenzioso.

Il rischio di bias nelle fonti. Un LLM addestrato su un corpus anglofono avrà bias di copertura geografica e linguistica. Per un monitoraggio riguardante mercati poco coperti in inglese, Europa centrale, Africa subsahariana, Sud-est asiatico, questo bias può introdurre angoli ciechi significativi. Gli studi che operano su queste geografie devono tenerne conto nel proprio protocollo.

Come Sentinel Briefing tratta l'affidabilità

Sentinel Briefing è concepito attorno a un principio semplice: l'IA filtra e struttura, il consulente valida. Il sistema conserva le fonti primarie associate a ogni segnale, permettendo all'analista di risalire direttamente al documento d'origine per la verifica.

Le note prodotte sono etichettate «Assistito da IA, fonti verificate dal team» negli export, con l'elenco delle fonti primarie in allegato. Questa scelta editoriale permette agli studi utilizzatori di diffondere i propri deliverable con la trasparenza che protegge la loro reputazione, senza appesantire il processo di produzione.

L'affidabilità non è un'opzione nella consulenza. È la condizione di tutto il resto.