Come funziona il RAG (spiegato semplice)
Quando un agente conversazionale risponde consultando i contenuti caricati dall'organizzazione (documenti, pagine web, domande frequenti), si parla di RAG: prima di scrivere la risposta, l'agente cerca le informazioni pertinenti tra quelle a sua disposizione, invece di rispondere soltanto sulla base di ciò che il modello linguistico ha appreso in fase di addestramento generale.
Perché un agente ha bisogno di una base di conoscenza
Un modello linguistico, da solo, non conosce i prodotti, le procedure o le politiche di un'organizzazione specifica: sa scrivere in modo fluente, ma non sa, ad esempio, quali siano gli orari di un servizio o le condizioni di un contratto. Collegando all'agente una base di conoscenza, cioè l'insieme organizzato dei contenuti dell'organizzazione gestito nella sezione Conoscenza della console, l'agente può cercare al suo interno le informazioni corrette prima di rispondere, invece di formulare una risposta plausibile ma non verificata.
È lo stesso principio di un collaboratore preparato ma appena entrato in azienda: prima di rispondere a una domanda specifica, consulta la documentazione interna piuttosto che affidarsi solo alla propria cultura generale.
I tre passaggi: Recupero, Contesto, Generazione
Ogni volta che un utente scrive un messaggio a un agente con una base di conoscenza collegata, la piattaforma esegue tre passaggi in sequenza:
- Recupero: la piattaforma cerca, tra tutti i contenuti della base di conoscenza collegata, quelli più pertinenti alla domanda ricevuta.
- Contesto: i contenuti trovati vengono affiancati alla domanda dell'utente e forniti all'agente come materiale di riferimento.
- Generazione: l'agente scrive la risposta basandosi su quel materiale, anziché solo sulla propria conoscenza generale.
Prima del recupero, se la conversazione è già avviata, la domanda viene riformulata in forma autonoma, così che un seguito come «e gli orari?» diventi una richiesta completa. Dopo il recupero un controllo di pertinenza verifica che i contenuti trovati siano davvero utili a rispondere, e se non lo sono abbastanza ripete una volta la ricerca con parole diverse (vedere Parametri avanzati del RAG).
Tutto questo avviene in pochi secondi, in modo trasparente per chi sta scrivendo: le fonti utilizzate compaiono nella risposta, e per gli amministratori la scheda Dettagli del pannello laterale della chat riporta le operazioni di recupero eseguite (vedere Conversare con un agente).
Le fonti citate
Quando una risposta si basa su contenuti della base di conoscenza, il testo riporta le citazioni con il nome della fonte e, sotto la risposta, l'elenco delle fonti consultate, ciascuna con un indice di pertinenza. Questo permette a chi legge la risposta di risalire al documento o alla pagina di origine.
Alcuni contenuti possono essere esclusi volutamente dall'elenco delle fonti mostrate (ad esempio note interne o listini riservati) pur continuando a contribuire alla risposta: vedere Visibilità nelle citazioni.
Quando la conoscenza non basta
Se la ricerca non trova contenuti sufficientemente pertinenti alla domanda, all'agente non viene fornito alcun contenuto della base di conoscenza, e l'agente risponde seguendo le proprie istruzioni. Per questo conviene indicare nelle istruzioni dell'agente come comportarsi con le domande che non riguardano il suo ambito, ad esempio dichiarando di non poter rispondere e suggerendo un contatto (vedere Istruzioni dell'agente).
Per gli agenti con il passaggio a operatore attivo e la condizione Domanda fuori ambito abilitata, l'organizzazione può disporre anche di un controllo di ambito automatico: quando la domanda risulta estranea all'ambito dell'agente, l'agente risponde con il messaggio Nessuna informazione utile, personalizzabile nel blocco Messaggi di rifiuto, e la conversazione viene proposta a un operatore. Il controllo non è attivo per impostazione predefinita: vedere Passaggio a operatore.
Approfondimento
Questa pagina descrive il funzionamento generale. Il recupero segue lo stesso flusso per tutti gli agenti e non richiede regolazioni sull'agente: sulla base di conoscenza si sceglie come suddividere i contenuti in frammenti, mentre sull'agente si indicano le basi da consultare ed eventuali istruzioni per la riformulazione della domanda. Per i dettagli vedere Parametri avanzati del RAG.