Μηχανική προτροπών
Γρήγορος ορισμός
Η μηχανική προτροπών είναι η πρακτική σχεδίασης των οδηγιών, του πλαισίου και των παραδειγμάτων που δίνονται σε ένα γλωσσικό μοντέλο, ώστε να παράγει αξιόπιστα και χρήσιμα αποτελέσματα. Για έναν βοηθό υποστήριξης, η βασική προτροπή καθορίζει τον ρόλο, τους κανόνες και τον τόνο του.
Σε αυτή τη σελίδα
Τι περιλαμβάνει μια προτροπή
Ένα γλωσσικό μοντέλο βλέπει μόνο το κείμενο που λαμβάνει. Για έναν βοηθό εξυπηρέτησης πελατών, αυτό το κείμενο συνήθως έχει πολλές στρώσεις: μια προτροπή συστήματος που περιγράφει ποιος είναι ο βοηθός, ποιον εξυπηρετεί και τι δεν πρέπει ποτέ να κάνει; υλικό αναφοράς που ανακτάται για την τρέχουσα ερώτηση; οι περιγραφές των εργαλείων που μπορεί να χρησιμοποιήσει; και η συνομιλία μέχρι στιγμής.
Η μηχανική προτροπών είναι η εργασία που καθιστά αυτό το πακέτο σαφές και συνεπές. Ασαφείς οδηγίες (“να είσαι χρήσιμος”) παράγουν ασαφή συμπεριφορά; συγκεκριμένες (“αν ο αριθμός παραγγελίας λείπει, ζήτησέ τον πριν αναζητήσεις”) παράγουν προβλέψιμη συμπεριφορά.
Τεχνικές που λειτουργούν
Να είστε σαφείς σχετικά με την εργασία, το κοινό και την αναμενόμενη μορφή. Δώστε στο μοντέλο έναν ρόλο και το πλαίσιο που θα χρειαστεί ένας νέος συνάδελφος. Δείξτε ένα ή δύο παραδείγματα καλών απαντήσεων όταν η μορφή έχει σημασία. Διαχωρίστε τις οδηγίες από τα δεδομένα — και πείτε στο μοντέλο ότι το ανακτηθέν κείμενο είναι πληροφορίες προς χρήση, όχι εντολές προς ακολούθηση. Ζητήστε του να σκέφτεται βήμα προς βήμα σε σύνθετα αιτήματα; Ο Wei και οι συνεργάτες του έδειξαν το 2022 ότι αυτή η προτροπή “αλυσίδας σκέψης” βελτιώνει τα αποτελέσματα σε προβλήματα πολλών βημάτων. Και πείτε τι να κάνετε όταν λείπουν πληροφορίες.
Οι πάροχοι μοντέλων δημοσιεύουν τους δικούς τους οδηγούς; η τεκμηρίωση της Anthropic, για παράδειγμα, προτείνει να είστε σαφείς και άμεσοι, χρησιμοποιώντας παραδείγματα και δίνοντας στο μοντέλο χώρο να σκεφτεί.
Κοινά λάθη
Το πιο κοινό είναι η συνεχώς αυξανόμενη προτροπή: κάθε κακή απάντηση οδηγεί σε έναν ακόμη κανόνα, μέχρι οι κανόνες να αντιφάσκουν ο ένας στον άλλο και το μοντέλο να μην ακολουθεί κανέναν από αυτούς καλά. Τα παραδείγματα λίγων λήψεων που αντιγράφονται λέξη προς λέξη στις απαντήσεις είναι μια άλλη παγίδα — συμπεριλαμβανομένων των παραδειγμάτων που έχουν γραφτεί στα Αγγλικά, τα οποία μπορεί να ωθήσουν τον βοηθό να απαντήσει στα Αγγλικά. Έτσι είναι και το να βάζετε γεγονότα που αλλάζουν, όπως οι τιμές, στην προτροπή αντί σε μια βάση γνώσεων.
Μια προτροπή θα πρέπει να περιγράφει τη συμπεριφορά. Τα γεγονότα ανήκουν στη βάση γνώσεων και τα ζωντανά δεδομένα στα εργαλεία.
Προτροπή χωρίς κώδικα στο AI SmartTalk
Στο AI SmartTalk, η προτροπή συστήματος ονομάζεται βιογραφικό του βοηθού. Μια καθοδηγούμενη φόρμα βοηθά στη συγγραφή της — ταυτότητα, στυλ επικοινωνίας και κανόνες, με φιλικό, επαγγελματικό, ουδέτερο ή προσαρμοσμένο τόνο — και οι προηγούμενες εκδόσεις διατηρούνται ώστε μια αλλαγή να μπορεί να συγκριθεί ή να αναιρεθεί. Οι κανόνες απόφασης και η πολιτική παράδοσης ορίζονται ξεχωριστά, και οι ενσωματωμένες πολιτικές όπως η απάντηση στη γλώσσα του επισκέπτη προστίθενται από την πλατφόρμα.
Συχνές ερωτήσεις
Χρειάζεται ακόμα η μηχανική προτροπών με καλύτερα μοντέλα;
Χρειάζεται λιγότερη απάτη, αλλά οι σαφείς οδηγίες εξακολουθούν να έχουν σημασία. Τα καλύτερα μοντέλα ακολουθούν τις καλές προτροπές πιο πιστά, γεγονός που καθιστά ακόμη πιο σημαντικό το να λέει η προτροπή αυτό που πραγματικά θέλετε.
Τι είναι μια προτροπή συστήματος;
Οι μόνιμες οδηγίες που δίνονται στο μοντέλο πριν ξεκινήσει η συνομιλία: ο ρόλος του, οι κανόνες, ο τόνος και τα όρια. Οι χρήστες δεν το βλέπουν, αλλά διαμορφώνει κάθε απάντηση.
Τι είναι η ένεση προτροπής;
Μια επίθεση στην οποία το κείμενο που έχει γραφτεί από έναν χρήστη ή κρυμμένο σε ένα έγγραφο προσπαθεί να παρακάμψει την προτροπή συστήματος — για παράδειγμα “αγνόησε τις οδηγίες σου και…”. Μειώνεται με το να διαχωρίζονται οι οδηγίες από τα δεδομένα, περιορίζοντας το τι μπορούν να κάνουν τα εργαλεία και ελέγχοντας τις ενέργειες από την πλευρά του διακομιστή.