Guardrail
Pagina Impostazioni > Guardrail, nel gruppo Conformità. Il permesso di consultazione dei guardrail, incluso nei ruoli di amministratore e di operatore, consente di vedere le policy; il permesso di gestione, incluso nel ruolo di amministratore, consente di crearle, modificarle e sceglierle per gli agenti.
I guardrail sono controlli applicati alle conversazioni degli agenti. Verificano la domanda dell'utente, la risposta dell'agente o entrambe e, quando un controllo scatta, bloccano la risposta, rispondono con un messaggio di rifiuto oppure passano la conversazione a un operatore. Le regole si scrivono una sola volta come policy dell'organizzazione e si applicano agli agenti che le usano; le policy obbligatorie valgono per tutti gli agenti.
Prerequisiti
- Permesso di consultazione dei guardrail, per vedere la libreria e la sezione Guardrail degli agenti.
- Permesso di gestione dei guardrail, per creare, pubblicare e provare le policy e per sceglierle su un agente.
- Per l'esito Operatore, il passaggio a operatore attivo sull'agente (vedere Passaggio a operatore).
La libreria delle policy
La sezione Policy dell'organizzazione elenca le regole disponibili. Per ogni policy la riga riporta il nome, con un lucchetto se la policy è obbligatoria, la descrizione, dove agisce, l'esito in caso di violazione, lo stato e il numero di agenti che la usano rispetto a quelli a cui può essere applicata. Il menu della riga, visibile a chi ha il permesso di gestione, contiene Modifica, Pubblica (per le policy non attive), Ritira (per le policy attive) ed Elimina. Selezionando una policy, il suo dettaglio si apre sotto l'elenco.
La regola sui dati personali
La prima riga della libreria è Dati personali (PII), contrassegnata da un lucchetto. Rappresenta la pseudonimizzazione dei dati personali, applicata prima dell'invio al modello e annullata nella risposta, e riporta il numero di tipi di dato e la versione, con esito Sostituisce su domanda e risposta. La regola non si modifica da questa pagina: selezionandola si apre Protezione dati.
Creare o modificare una policy
- Selezionare Nuova policy, oppure Modifica nel menu di una policy esistente.
- Compilare Nome, obbligatorio, e Descrizione.
- In Dove agisce, scegliere Ingresso (la domanda dell'utente), Uscita (la risposta dell'agente) oppure Entrambi.
- In In caso di violazione, scegliere l'esito (vedere la tabella seguente).
- Nella sezione Criterio, attivare i controlli che la policy deve eseguire.
- Con l'esito Rifiuta con messaggio, compilare Messaggio di rifiuto, il testo con cui l'agente risponde quando la regola scatta.
- Se la policy deve valere per tutti gli agenti, attivare Obbligatoria per tutti gli agenti.
- Selezionare Salva.
- Per applicare la policy alle conversazioni, selezionare Pubblica nel menu della riga.
| Esito | Effetto |
|---|---|
| Blocca | L'agente risponde con il messaggio di rifiuto predefinito di Askme AI |
| Rifiuta con messaggio | L'agente risponde con il testo indicato in Messaggio di rifiuto |
| Operatore | La conversazione viene passata a un operatore, se l'agente lo prevede |
I controlli disponibili
I controlli proposti nella sezione Criterio dipendono da Dove agisce: alcuni si applicano solo alla domanda o solo alla risposta, mentre con Entrambi compaiono tutti.
| Controllo | Che cosa verifica |
|---|---|
| Dati personali | La presenza di dati personali come indirizzi email, numeri di telefono o codici fiscali |
| Tentativi di manipolazione | Le frasi che provano a scavalcare le istruzioni dell'agente |
| Lingua ammessa | Che il testo sia in una delle Lingue ammesse, indicate come codici separati da virgola, per esempio it, en. Senza almeno una lingua il controllo non scatta |
| Tono e linguaggio | Il tono e il linguaggio del testo |
| Aderenza alle fonti | Che la risposta sia fondata sulle fonti consultate; vale solo per le risposte che hanno fonti |
| Lunghezza della risposta | Che la risposta rispetti la Lunghezza minima e la Lunghezza massima, espresse in caratteri. Senza almeno una lunghezza il controllo non scatta |
I controlli Lingua ammessa, Tono e linguaggio e Aderenza alle fonti ricorrono a un modello per la valutazione. Un controllo non disponibile per l'organizzazione è segnalato accanto al suo interruttore e non viene eseguito; se nessuno dei controlli scelti è disponibile, la console avvisa che la policy si salva e si pubblica ma non ha effetto sulle conversazioni.
Policy obbligatorie
Con Obbligatoria per tutti gli agenti attivo, la policy vale per ogni agente dell'organizzazione e gli agenti non possono toglierla. Nella libreria e nella sezione Guardrail degli agenti le policy obbligatorie sono contrassegnate da un lucchetto.
Stati e versioni
| Stato | Significato |
|---|---|
| Bozza | Policy salvata ma non ancora pubblicata |
| Attiva | Policy pubblicata, applicata agli agenti che la usano oppure a tutti gli agenti se obbligatoria |
| Ritirata | Policy non più applicata; può essere pubblicata di nuovo con Pubblica |
Le modifiche valgono dal turno di conversazione successivo alla pubblicazione. Il pulsante Versioni del dettaglio mostra la cronologia della policy, con numero di versione, nota della modifica e data. In fondo al dettaglio sono indicati gli agenti che usano la policy e la data dell'ultima modifica.
Il comando Elimina rimuove la policy subito, senza chiedere conferma.
Provare una policy
La sezione Test rapido del dettaglio esegue la policy su una frase come avverrebbe durante una conversazione. È disponibile per le policy già salvate e per chi ha il permesso di gestione.
- Aprire il dettaglio della policy.
- Scrivere il testo da verificare in Frase di prova.
- Selezionare Prova.
L'esito è "La frase passa: nessun controllo scatta." oppure "Bloccata da", seguito dal controllo che è scattato e dall'esito previsto. Sotto l'esito compaiono il risultato di ciascun controllo, il messaggio di rifiuto quando previsto e l'elenco dei controlli non eseguiti perché non disponibili per l'organizzazione.
Applicare le policy a un agente
Nella pagina dell'agente, la sezione Guardrail mostra le policy che si applicano all'agente e ne riporta il numero nell'intestazione. La sezione compare solo a chi ha il permesso di consultazione dei guardrail.
L'elenco presenta per prima la riga Dati personali (PII), quando la protezione dei dati personali è attiva, seguita dalle policy della libreria, con il campo Cerca fra le policy. Le policy selezionate si applicano all'agente; le policy obbligatorie risultano sempre selezionate, con il lucchetto e l'indicazione "Obbligatoria: non si può togliere.". La scelta si salva insieme alle altre modifiche dell'agente, e solo le policy Attive hanno effetto sulle conversazioni. Il pulsante Gestisci le policy apre la libreria in Impostazioni > Guardrail.
Chi non ha il permesso di gestione dei guardrail vede l'elenco in sola lettura, con un messaggio che lo segnala. Per l'operatore, che non vede il gruppo Impostazioni nel menu laterale, il pulsante Gestisci le policy è anche il modo più diretto per consultare la libreria.
Effetti da conoscere
Una policy che agisce in Uscita o su Entrambi controlla la risposta prima di mostrarla: negli agenti che la usano la risposta non compare più parola per parola man mano che viene generata, ma arriva completa al termine del controllo.
L'esito Operatore non ha effetto su un agente con il passaggio a operatore disattivato. Perché produca il passaggio, nella sezione Passaggio a operatore dell'agente devono essere attivi il passaggio stesso e la condizione Una policy chiede l’operatore (vedere Passaggio a operatore).
Chi può fare cosa
| Operazione | Permesso richiesto | Ruoli di sistema che lo includono |
|---|---|---|
| Consultare la libreria e la sezione Guardrail degli agenti | Consultazione dei guardrail | Amministratore, Operatore |
| Creare, modificare, pubblicare, ritirare, eliminare e provare le policy | Gestione dei guardrail | Amministratore |
| Scegliere le policy di un agente | Gestione dei guardrail | Amministratore |
Problemi comuni
| Problema | Causa probabile | Soluzione |
|---|---|---|
| Una policy non ha effetto sulle conversazioni | La policy è in Bozza o Ritirata, non è selezionata sull'agente, oppure i suoi controlli non sono disponibili | Pubblicare la policy, selezionarla nella sezione Guardrail dell'agente e verificare le segnalazioni accanto ai controlli |
| Un controllo è segnalato come non eseguito | Il controllo non è disponibile per l'organizzazione | Rivolgersi al team Askme |
| Lingua ammessa o Lunghezza della risposta non scattano mai | Non sono indicate lingue ammesse o lunghezze | Compilare Lingue ammesse, Lunghezza minima o Lunghezza massima |
| L'esito Operatore non passa la conversazione | Passaggio a operatore disattivato, oppure condizione Una policy chiede l’operatore non attiva | Attivare entrambi nella sezione Passaggio a operatore dell'agente |
| Le policy scelte per un agente non vengono salvate | Il ruolo non include il permesso di gestione dei guardrail | Far eseguire la modifica a un utente con il permesso |
| Le risposte di un agente non compaiono più parola per parola | L'agente usa una policy che agisce sulla risposta | Comportamento previsto |