Prima del modello viene la conoscenza: l’affidabilità dell’IA professionale

Da dove arrivano le informazioni utilizzate da un’AI professionale?

Quando parliamo di Intelligenza Artificiale, una delle prime cose che tendiamo a citare è il modello utilizzato:

“Io uso Claude”, “io uso GPT”, “io Gemini”…

È comprensibile. Il modello conta: incide sulle capacità linguistiche, sul ragionamento, sulla comprensione del contesto e, più in generale, sulla qualità dell’interazione.

Ma quando l’Intelligenza Artificiale entra in un ambito professionale — fiscale, contabile, giuridico o aziendale — c’è una domanda che, probabilmente, dovrebbe venire ancora prima:

da dove proviene la conoscenza utilizzata per costruire la risposta?

Perché conoscere il nome del modello ci dice molto sulle sue capacità.

Ma non ci dice necessariamente quali informazioni abbia utilizzato per rispondere, da quali fonti provengano, quanto siano aggiornate e se siano realmente pertinenti al caso che stiamo analizzando.

Un modello non è una banca dati

Durante l’addestramento, un modello linguistico apprende regolarità e relazioni presenti nei dati con cui è stato costruito.

Una parte della conoscenza viene quindi incorporata nei parametri del modello.

In letteratura viene spesso definita conoscenza parametrica.

Questo meccanismo consente ai modelli di rispondere a una quantità straordinaria di domande senza interrogare necessariamente una fonte esterna.

Ma presenta alcuni limiti.

La ricerca che ha portato allo sviluppo dei sistemi Retrieval-Augmented Generation, o RAG, parte anche da questo problema: un modello può conservare molta conoscenza nei propri parametri, ma aggiornare quelle informazioni e ricostruirne con precisione la provenienza non è altrettanto semplice.

Da qui l’idea di affiancare alla conoscenza del modello una memoria esterna interrogabile.

Studi successivi hanno inoltre mostrato che la capacità dei modelli di recuperare ciò che hanno appreso non è uniforme: tendono a comportarsi meglio sulle informazioni più frequenti e rappresentate nei dati di addestramento e possono mostrare maggiori difficoltà quando la conoscenza richiesta è più specifica o meno comune.

Questo non significa che la conoscenza contenuta nei modelli sia inutile o inaffidabile.

Significa qualcosa di diverso:

non dovrebbe essere automaticamente confusa con una banca dati aggiornata, versionata e interrogabile per provenienza.

La risposta può arrivare da più luoghi

Un sistema AI professionale può utilizzare almeno quattro grandi categorie di conoscenza:

1. Conoscenza parametrica
È quella appresa dal modello durante l’addestramento.

2. Contesto fornito direttamente
Documenti, istruzioni o informazioni inserite nella conversazione o nel prompt.

3. Conoscenza recuperata da una base esterna al modello
È il caso dei sistemi RAG, che cercano documenti pertinenti all’interno di una base conoscitiva e li forniscono al modello prima della generazione.

4. Strumenti e fonti esterne
Motori di ricerca, banche dati, API, software gestionali o altri sistemi interrogati durante l’esecuzione della richiesta.

Questa distinzione non è soltanto teorica.

Oggi queste architetture sono utilizzate trasversalmente nell’ecosistema AI: dai modelli proprietari di OpenAI, Anthropic, Google o Microsoft fino ai modelli open-weight e agli ecosistemi di Meta, Mistral, Qwen, DeepSeek e Hugging Face.

Le implementazioni possono essere molto diverse, ma il principio è comune:

il modello non deve necessariamente rispondere utilizzando soltanto ciò che ha appreso durante l’addestramento. Può ricevere conoscenza aggiuntiva al momento della richiesta.

Anche il Rapporto tecnico dell’Ufficio Intelligenza Artificiale di AGCOM del 2026 descrive il RAG come un collegamento tra il modello e una base di conoscenza: il sistema ricerca i frammenti considerati più rilevanti e li utilizza come contesto per costruire la risposta.

AGCOM evidenzia come questo approccio possa ridurre drasticamente il rischio di allucinazioni.

Ma esiste una scelta progettuale ulteriore:

decidere fino a dove consentire al sistema di cercare la conoscenza.

Nella progettazione di Guido IA abbiamo scelto di fermarci alla fase RAG.

Il sistema non prosegue autonomamente verso il web, motori di ricerca o altre fonti esterne per cercare informazioni con cui integrare la risposta.

Il nostro impegno è diverso: costruire e popolare la base RAG con contenuti lavorati a monte affinché il patrimonio conoscitivo possa essere controllato, organizzato, aggiornato e reso quanto più affidabile possibile per l’utilizzo professionale.

Il lavoro, quindi, non inizia quando l’utente pone la domanda.

Inizia prima.

Significa selezionare le fonti, acquisirle, organizzarle, metadatare i contenuti, mantenerli aggiornati, gestire il versionamento e, quando necessario, conservare anche le diverse vigenze dei testi normativi.

La scelta di fermarsi al RAG permette quindi di delimitare il perimetro della conoscenza che il sistema può utilizzare.

Invece di chiedere al modello di cercare autonomamente informazioni all’esterno, si lavora a monte sulla qualità del patrimonio documentale che gli viene messo a disposizione.

Ma questo non rende automaticamente corretta ogni risposta.

Anche disponendo di una base conoscitiva accuratamente costruita, resta infatti un secondo problema:

il sistema deve riuscire a recuperare la conoscenza giusta tra quella disponibile.

Ed è qui che entriamo in un altro passaggio fondamentale.

Avere una banca dati non significa avere già una base conoscitiva per l’AI

C’è poi un’altra distinzione importante.

Possedere una grande banca dati non significa automaticamente disporre di una base conoscitiva già adatta a un sistema di Intelligenza Artificiale.

Il caso degli editori professionali è particolarmente interessante.

Un editore può partire da un patrimonio informativo enorme, autorevole, costruito e aggiornato nel corso di molti anni. È certamente un vantaggio.

Ma quelle informazioni possono essere state organizzate per essere consultate da una persona attraverso categorie, indici, motori di ricerca e collegamenti editoriali.

Un sistema AI deve invece poterle recuperare, mettere in relazione e contestualizzare in funzione della domanda che riceve.

Questo richiede un ulteriore lavoro sui dati.

Non basta quindi “avere i documenti”.

Occorre decidere come suddividerli, quali metadati associare, come rappresentare le relazioni tra le fonti, come gestire aggiornamenti e versioni, come distinguere le diverse vigenze e come evitare che informazioni formalmente pertinenti ma non applicabili al caso finiscano nel contesto fornito al modello.

In altre parole, un grande patrimonio editoriale può costituire un ottimo punto di partenza, ma non coincide automaticamente con una knowledge base progettata per l’AI.

È anche per questo che la qualità di un sistema professionale non può essere valutata semplicemente chiedendo:

“Quanti documenti avete nella banca dati?”

La domanda più interessante è:

“Come avete lavorato quei documenti affinché il sistema possa recuperare quelli corretti quando servono?”

Perché, ancora una volta, il valore non sta soltanto nella quantità di conoscenza disponibile.

Sta anche nel modo in cui quella conoscenza è stata strutturata, governata e resa utilizzabile dal sistema.

Avere la fonte giusta non basta

Immaginiamo di disporre della migliore banca documentale possibile.

Le fonti sono autorevoli.

I documenti sono aggiornati.

Tutto ciò che serve per rispondere è presente.

Possiamo concludere che la risposta sarà corretta?

Non necessariamente.

Tra il documento e la risposta si svolgono diversi passaggi.

Una rappresentazione semplificata potrebbe essere questa:

fonte → acquisizione → metadati → segmentazione → indicizzazione → retrieval → ranking → contesto → modello → risposta

Ognuno di questi passaggi può influire sul risultato.

Un documento corretto può non essere recuperato.

Può essere recuperato un frammento poco pertinente.

Possono essere recuperate contemporaneamente informazioni contrastanti.

Un documento importante può trovarsi nel contesto ma non essere utilizzato efficacemente dal modello.

Oppure il modello può ricevere la fonte corretta e interpretarla in modo errato.

La ricerca scientifica ha documentato diversi di questi fenomeni.

Ad esempio, alcuni test sui contesti lunghi hanno mostrato che la posizione dell’informazione può influire sulla capacità del modello di utilizzarla: avere un’informazione all’interno del contesto non significa necessariamente che venga sfruttata con la stessa efficacia in ogni situazione.

Altri studi hanno inserito nei documenti recuperati informazioni pertinenti ma conflittuali o scorrette, mostrando come il modello possa essere influenzato dal rumore presente nel materiale ricevuto.

È stato osservato anche un ulteriore fenomeno: documenti recuperati ma non realmente utili possono “distrarre” il modello e peggiorare la qualità della risposta.

Quindi:

documento presente
non significa necessariamente
documento recuperato;

documento recuperato
non significa necessariamente
documento pertinente;

e documento pertinente
non significa automaticamente
risposta corretta.

Nel diritto c’è un problema in più: il tempo

Nel fiscale e nel giuridico questa filiera presenta una complessità ulteriore.

La stessa fonte può essere corretta o sbagliata a seconda del periodo di riferimento.

Pensiamo a una disposizione modificata più volte.

Se chiediamo come dovesse essere applicata nel 2022, non è sufficiente recuperare il testo della norma.

Bisogna recuperare la versione applicabile nel 2022.

Il problema è perfettamente visibile consultando Normattiva.

La banca dati ufficiale consente di distinguere il testo originario, il testo vigente a una determinata data e la versione multivigente, attraverso la quale è possibile ricostruire l’evoluzione dell’atto nel tempo.

Questo semplice esempio permette di comprendere perché una base conoscitiva professionale non possa essere pensata soltanto come un archivio di documenti.

Occorre governare anche informazioni come:

• data di entrata in vigore;
• periodo di efficacia;
• cessazione;
• modifiche successive;
• relazioni con altri atti;
• tipologia e gerarchia della fonte;
• eventuali documenti interpretativi;
• collegamenti fra disposizioni.

La conoscenza normativa è quindi, almeno in parte, una conoscenza relazionale e temporale.

Il caso Guido IA: incorporare anche le diverse vigenze

È esattamente uno dei problemi che abbiamo dovuto affrontare durante la progettazione della base conoscitiva di Guido IA.

Per i testi normativi non abbiamo scelto di incorporare soltanto la formulazione attualmente vigente.

Nella base conoscitiva sono state incluse le diverse vigenze dei testi, con l’obiettivo di rendere possibile il recupero della versione pertinente rispetto al periodo cui si riferisce il quesito.

La differenza può sembrare tecnica, ma cambia il problema che stiamo cercando di risolvere.

Non chiediamo soltanto:

“Qual è la norma?”

Dobbiamo poter chiedere:

“Qual era la norma applicabile in quel momento?”

Questa scelta progettuale affronta una specifica fonte di errore: l’utilizzo di una versione temporalmente non pertinente.

Ma è importante chiarire anche ciò che questa scelta non dimostra.

Avere tutte le vigenze disponibili non garantisce automaticamente che ogni risposta sia corretta.

Il sistema deve ancora comprendere il periodo rilevante nella domanda, recuperare la versione giusta, selezionare le altre fonti eventualmente necessarie, costruire un contesto coerente e permettere al modello di interpretarlo correttamente.

È un buon esempio del principio centrale di questo articolo:

l’affidabilità non dipende da un singolo componente.

Dipende dal comportamento della catena nel suo complesso.

Il RAG migliora il problema, ma non lo chiude

Una delle semplificazioni più diffuse consiste nel pensare:

LLM + banca dati = risposta affidabile.

La ricerca suggerisce una realtà più articolata.

Uno studio pubblicato nel 2024 ha analizzato quasi 18.000 risposte prodotte da diversi modelli in configurazioni RAG.

Anche in presenza di contenuti recuperati dalla base conoscitiva, sono state rilevate risposte contenenti affermazioni non supportate o in contraddizione con le informazioni fornite.

È un risultato importante perché mostra che recuperare una fonte e utilizzarla correttamente sono due passaggi differenti.

Lo stesso problema emerge anche nella documentazione tecnica dei sistemi RAG: se il retrieval restituisce contenuti irrilevanti, incompleti o poco pertinenti, il modello può comunque produrre una risposta inaccurata nonostante disponga di una base documentale.

Il RAG resta quindi uno strumento molto importante per rendere la conoscenza aggiornabile, controllabile e potenzialmente verificabile.

Ma sposta parte del problema.

Non dobbiamo più domandarci soltanto:

“Il modello può inventare una risposta?”

Dobbiamo chiederci anche:

“Il sistema ha recuperato la conoscenza corretta?”

Questo sarà il tema specifico del prossimo approfondimento della serie.

La tracciabilità diventa una proprietà della conoscenza

Un altro elemento importante è la possibilità di ricostruire il percorso della fonte.

Il NIST utilizza il concetto di provenance per indicare la registrazione dell’origine di un dato e delle trasformazioni che ha subito, attribuendo al versionamento un ruolo importante nella tracciabilità e nella possibilità di ricostruire versioni precedenti.

Il concetto nasce in un ambito più ampio della sola AI generativa, ma è particolarmente utile per comprenderne le applicazioni professionali.

Una risposta diventa più verificabile se possiamo ricostruire:

quale fonte → quale versione → quale frammento → quale passaggio della risposta.

Non sempre sarà possibile ottenere una tracciabilità perfetta.

Ma la direzione è rilevante: spostare la fiducia da una proprietà semplicemente dichiarata a qualcosa che possa, almeno in parte, essere controllato.

Anche il Comitato sull’Intelligenza Artificiale di AGCOM, parlando delle attività di vigilanza, richiama un processo che comprende raccolta della documentazione, analisi tecnica, testing e simulazioni.

E l’AI Act europeo, pur prevedendo obblighi differenti a seconda del sistema e del soggetto coinvolto, attribuisce un peso significativo alla documentazione tecnica, alla governance dei dati e alla comprensione delle capacità e dei limiti dei sistemi.

Non significa che esista una procedura universale capace di certificare la correttezza di qualsiasi AI professionale.

Significa però che documentazione, provenienza, valutazione e tracciabilità stanno diventando elementi centrali nel modo in cui questi sistemi vengono progettati, valutati e governati.

Serve sempre una base documentale?

No.

Ed è importante dirlo.

Un modello può possedere conoscenze sufficienti per rispondere correttamente a molte domande.

In alcuni casi il retrieval può essere superfluo.

In altri, se il patrimonio documentale è sufficientemente limitato, può essere possibile fornire direttamente al modello tutto il contesto necessario senza costruire una vera architettura RAG.

Anche la ricerca mostra che il vantaggio del retrieval non è uniforme: tende a diventare particolarmente importante quando la conoscenza richiesta è specialistica, meno frequente, aggiornata o non sufficientemente rappresentata nel modello.

Sarebbe quindi scorretto concludere che:

“un’AI professionale è affidabile soltanto se usa un RAG”.

La domanda corretta è diversa:

qual è la fonte di conoscenza più appropriata per quel compito e come ne viene controllato l’utilizzo?

Le domande che un professionista dovrebbe poter fare

Prima di valutare una risposta AI, può essere utile porsi alcune domande.

Da dove arriva l’informazione?
Dal modello, da una banca dati, da Internet o da altre fonti?

Qual è l’origine della fonte?
È primaria, istituzionale, editoriale, aziendale o derivata?

Quanto è aggiornata?

Nel caso di fonti normative, quale versione è stata utilizzata?

Come vengono gestite le diverse vigenze?

Come vengono trattate fonti contrastanti?

Come viene scelta la documentazione da fornire al modello?

Il sistema può mostrare le fonti effettivamente utilizzate?

Cosa accade quando non trova informazioni sufficienti?

Il sistema è in grado di astenersi oppure prova comunque a produrre una risposta?

Non esiste una singola risposta corretta a tutte queste domande.

Ma già il fatto di poterle formulare cambia il modo in cui valutiamo un sistema AI.

Prima del modello viene la conoscenza

Il titolo di questo approfondimento non vuole sostenere che il modello sia secondario.

Un modello più capace può comprendere meglio una domanda, interpretare documenti complessi, ragionare sulle informazioni recuperate e produrre una risposta migliore.

Il punto è un altro.

Il modello non è l’intero sistema.

Prima di valutare quanto sia evoluta un’AI professionale, dobbiamo comprendere quale conoscenza possa utilizzare, da dove provenga, come venga aggiornata, come venga recuperata e se sia possibile risalire alle evidenze sulle quali è stata costruita la risposta.

Nel fiscale e nel giuridico questo significa anche chiedersi non soltanto quale fonte sia stata utilizzata, ma quale versione della fonte fosse applicabile nel momento rilevante.

La domanda da cui partire potrebbe quindi essere molto semplice:

“Da dove sai ciò che mi stai dicendo?”

È probabilmente una delle prime domande che dovremmo imparare a fare a un’Intelligenza Artificiale utilizzata professionalmente.

Perché la fiducia non dovrebbe dipendere soltanto dal nome del modello.

Dovrebbe poter essere costruita, anche attraverso la qualità dei contenuti al suo interno.

Di Luca Bagiacchi

TAG affidabilità IAbase conoscitivaGuido IAGuido IA PROIAIA professionaleintelligenza artificialeRAGvigenza normativa