Allucinazione AI (allucinazione LLM)
Definizione rapida
Un'allucinazione AI è una risposta di un modello linguistico che suona fluente e sicura ma è falsa, inventata o non supportata dalle sue fonti. Nel servizio clienti, si manifesta tipicamente come un prezzo, una politica o un ritardo errati.
In questa pagina
Perché i modelli linguistici allucinano
Un modello linguistico genera la continuazione più probabile di un testo; non ha una nozione intrinseca di verità. Quando le informazioni corrette mancano dai suoi dati di addestramento o dai passaggi che gli sono stati forniti, produce comunque qualcosa che sembra una risposta. La ricerca del 2025 (Kalai e colleghi) sostiene che l'addestramento e la valutazione peggiorano la situazione premiando una supposizione sicura rispetto a un onesto “non lo so”.
La letteratura distingue due tipi. Le allucinazioni intrinseche contraddicono la fonte fornita al modello — interpreta male la tua politica di reso. Le allucinazioni estrinseche aggiungono affermazioni che nessuna fonte supporta — inventa una garanzia di 60 giorni che non hai mai offerto.
Cosa costa nel servizio clienti
Un'allucinazione in una chat di supporto non è un errore astratto. Un cliente a cui viene detto che i resi sono gratuiti, che un prodotto è impermeabile o che un pacco arriverà domani agirà di conseguenza e potrebbe ritenere l'azienda responsabile. I tribunali e le autorità dei consumatori tendono generalmente a considerare il chatbot di un'azienda come portavoce dell'azienda.
Il rischio è maggiore sugli impegni: prezzi, disponibilità, date di consegna, garanzie, rimborsi, informazioni legali o sanitarie. Queste sono esattamente le domande che i clienti pongono di più.
Come ridurre le allucinazioni
Nessun metodo le rimuove completamente, ma diversi le riducono drasticamente. Fondare le risposte sul tuo contenuto con la generazione aumentata da recupero (RAG) e mantenere quel contenuto aggiornato. Utilizzare strumenti per leggere dati in tempo reale — disponibilità, ordini — invece di lasciare che il modello li ricordi. Istruire il modello a dire quando le fonti non contengono la risposta e rendere questo un risultato accettabile. Richiedere prove prima di qualsiasi impegno. Passare la conversazione a una persona quando la domanda è sensibile o l'agente non è sicuro.
Poi misurare: rivedere le conversazioni, specialmente quelle con feedback negativi, e aggiungere le informazioni mancanti alla base di conoscenza piuttosto che correggere il prompt per ogni caso.
Come gestisce AI SmartTalk
Gli assistenti AI SmartTalk rispondono dal contenuto indicizzato e dal catalogo dell'azienda, e leggono prodotti e ordini tramite strumenti piuttosto che dalla memoria del modello. Le loro regole integrate richiedono prove recuperate prima di dichiarare impegni come garanzie, spedizioni, rimborsi o disponibilità, e vietano di affermare che un passaggio di consegna o un ticket sia avvenuto a meno che lo strumento non abbia effettivamente avuto successo. Feedback negativo e domande a cui l'assistente non ha potuto rispondere vengono segnalati al team affinché la base di conoscenza possa essere completata.
Domande frequenti
Le allucinazioni AI possono essere eliminate?
Non con i modelli linguistici attuali. Possono essere rese rare e a basso impatto fondando le risposte su fonti verificate, utilizzando strumenti per dati in tempo reale, consentendo all'assistente di dire che non sa, e escalando i casi sensibili a persone.
RAG ferma le allucinazioni?
Le riduce notevolmente, ma il modello può comunque interpretare male un passaggio o rispondere quando i passaggi recuperati sono fuori tema. La qualità del recupero e istruzioni chiare sono importanti quanto la tecnica stessa.
Perché l'AI sembra così sicura quando è in errore?
Fluenza e accuratezza sono prodotte dallo stesso meccanismo: prevedere un testo probabile. Il tono del modello non dice nulla sulla correttezza dei fatti, ed è per questo che sono necessarie fonti e controlli.
Chi è responsabile quando un chatbot fornisce informazioni errate?
In pratica, i clienti e i regolatori tendono a considerare l'azienda che gestisce il chatbot responsabile per ciò che dice. Queste sono informazioni generali, non consigli legali; controlla le norme che si applicano nel tuo paese.