Γεννήτρια ενισχυμένης ανάκτησης (RAG)
Γρήγορος ορισμός
Η γεννήτρια ενισχυμένης ανάκτησης (RAG) είναι μια τεχνική στην οποία ένα σύστημα AI πρώτα ανακτά σχετικές παραγράφους από μια αξιόπιστη πηγή, όπως μια βάση γνώσεων ή έναν κατάλογο προϊόντων, και στη συνέχεια τις δίνει σε ένα γλωσσικό μοντέλο ώστε η απάντησή του να βασίζεται σε αυτές τις παραγράφους και όχι μόνο στη μνήμη του.
Σε αυτή τη σελίδα
Γιατί υπάρχει το RAG
Ένα γλωσσικό μοντέλο μαθαίνει από μια σταθερή εικόνα κειμένου. Δεν γνωρίζει την πολιτική επιστροφών σας, τις τρέχουσες τιμές σας ή το προϊόν που προσθέσατε το πρωί, και όταν ρωτηθεί ούτως ή άλλως μπορεί να παράγει μια πειστική αλλά λανθασμένη απάντηση. Η εκπαίδευση ενός μοντέλου κάθε φορά που αλλάζει το περιεχόμενό σας θα ήταν αργή και δαπανηρή.
Το RAG το λύνει αυτό διατηρώντας τη γνώση έξω από το μοντέλο. Το περιεχόμενό σας παραμένει σε μια αναζητήσιμη αποθήκη που μπορείτε να ενημερώσετε ανά πάσα στιγμή; το μοντέλο ζητείται μόνο να διαβάσει τα σχετικά αποσπάσματα και να διατυπώσει μια απάντηση. Η προσέγγιση περιγράφηκε από τον Lewis και τους συνεργάτες του στο Facebook AI Research το 2020.
Πώς λειτουργεί, βήμα προς βήμα
Αρχικά, το περιεχόμενο προετοιμάζεται: έγγραφα, ιστοσελίδες ή αρχεία προϊόντων χωρίζονται σε παραγράφους και κάθε παράγραφος μετατρέπεται σε μια ενσωμάτωσή — μια λίστα αριθμών που αποτυπώνει τη σημασία της. Αυτές οι ενσωματώσεις αποθηκεύονται σε έναν δείκτη διανυσμάτων, συχνά παράλληλα με έναν κλασικό δείκτη λέξεων-κλειδιών.
Όταν φτάσει μια ερώτηση, μετατρέπεται με τον ίδιο τρόπο και ανακτώνται οι κοντινότερες παράγραφοι, μερικές φορές σε συνδυασμό με αναζήτηση λέξεων-κλειδιών ή φίλτρα όπως γλώσσα ή κατηγορία. Οι καλύτερες παράγραφοι εισάγονται στην προτροπή του μοντέλου με μια οδηγία να απαντήσει από αυτές. Πολλά συστήματα επιστρέφουν επίσης τις πηγές, ώστε ο αναγνώστης να μπορεί να ελέγξει από πού προήλθε η απάντηση.
Όρια που πρέπει να γνωρίζετε
Το RAG είναι τόσο καλό όσο αυτό που ανακτά. Αν η σωστή παράγραφος λείπει, είναι παλιά ή έχει χωριστεί κακώς, το μοντέλο απαντά από το λάθος απόσπασμα ή επιστρέφει στη μνήμη του. Οι δομημένες ερωτήσεις — "η φθηνότερη ζακέτα σε απόθεμα σε μέγεθος M" — εξυπηρετούνται κακώς μόνο από την αναζήτηση ομοιότητας και χρειάζονται φίλτρα σε πραγματικά δεδομένα. Και το μοντέλο μπορεί ακόμα να διαβάσει λανθασμένα μια παράγραφο, οπότε οι απαντήσεις σε ευαίσθητα θέματα θα πρέπει να ελέγχονται ή να κλιμακώνονται.
Γι' αυτό τα παραγωγικά συστήματα συνδυάζουν το RAG με δομημένη αναζήτηση, κανόνες φρεσκάδας που συγχρονίζουν το περιεχόμενο όταν αλλάζει και σαφείς οδηγίες για να δηλώσουν πότε οι πηγές δεν περιέχουν την απάντηση.
RAG στην εξυπηρέτηση πελατών
Για έναν βοηθό υποστήριξης ή ηλεκτρονικού εμπορίου, το RAG είναι αυτό που επιτρέπει στον πράκτορα να απαντά από τις Συχνές Ερωτήσεις σας, τις πολιτικές σας και τον κατάλογό σας στη γλώσσα του πελάτη, και να δείχνει τη σελίδα που χρησιμοποίησε. Στο AI SmartTalk, η γνώση από την οποία απαντά ένας βοηθός — ιστοσελίδες, έγγραφα, καταχωρίσεις FAQ και συγχρονισμένα προϊόντα — κατατάσσεται με αυτόν τον τρόπο, και οι ερωτήσεις προϊόντων χρησιμοποιούν επίσης φίλτρα σε τιμή, επιλογές και απόθεμα.
Συχνές ερωτήσεις
Είναι το RAG το ίδιο με την προσαρμογή;
Όχι. Η προσαρμογή αλλάζει τα βάρη του μοντέλου εκπαιδεύοντάς το σε παραδείγματα; το RAG αφήνει το μοντέλο αμετάβλητο και του δίνει τις σωστές πληροφορίες κατά την ώρα της ερώτησης. Το RAG είναι συνήθως η καλύτερη επιλογή για γεγονότα που αλλάζουν, όπως τιμές, απόθεμα ή πολιτικές.
Σταματά το RAG τις ψευδαισθήσεις AI;
Το μειώνει πολύ, επειδή το μοντέλο απαντά από πραγματικές παραγράφους, αλλά δεν τις αφαιρεί. Καλή ανάκτηση, μια οδηγία να παραδέχεται όταν οι πηγές είναι σιωπηλές και μια μεταφορά σε έναν άνθρωπο για ευαίσθητες περιπτώσεις είναι ακόμα απαραίτητες.
Τι είναι μια βάση δεδομένων διανυσμάτων;
Μια αποθήκη που κατατάσσει ενσωματώσεις ώστε οι παράγραφοι που είναι πιο κοντά στη σημασία μιας ερώτησης να μπορούν να βρεθούν γρήγορα. Είναι η συνήθης στρώση ανάκτησης ενός συστήματος RAG, συχνά σε συνδυασμό με αναζήτηση λέξεων-κλειδιών.
Μπορεί το RAG να λειτουργήσει με έναν κατάλογο προϊόντων;
Ναι, αλλά τα προϊόντα χρειάζονται περισσότερα από την αναζήτηση ομοιότητας: ένας βοηθός θα πρέπει να φιλτράρει σε δομημένα πεδία όπως τιμή, μέγεθος ή απόθεμα, και στη συνέχεια να χρησιμοποιήσει το RAG για περιγραφές και οδηγούς αγοράς.