Prompt-Engineering
Kurze Definition
Prompt-Engineering ist die Praxis, die Anweisungen, den Kontext und die Beispiele zu gestalten, die einem Sprachmodell gegeben werden, damit es zuverlässige, nützliche Ausgaben produziert. Für einen Support-Assistenten legt der Kernprompt seine Rolle, Regeln und Ton fest.
Auf dieser Seite
Was in einen Prompt gehört
Ein Sprachmodell sieht nur den Text, den es erhält. Für einen Kundenservice-Assistenten hat dieser Text normalerweise mehrere Ebenen: einen Systemprompt, der beschreibt, wer der Assistent ist, wem er dient und was er niemals tun darf; Referenzmaterial, das für die aktuelle Frage abgerufen wird; die Beschreibungen der Werkzeuge, die es verwenden kann; und das Gespräch bis zu diesem Punkt.
Prompt-Engineering ist die Arbeit, dieses Paket klar und konsistent zu gestalten. Vage Anweisungen („hilfbereit sein“) führen zu vagem Verhalten; spezifische Anweisungen („wenn die Bestellnummer fehlt, frage danach, bevor du suchst“) führen zu vorhersehbarem Verhalten.
Techniken, die funktionieren
Sei explizit über die Aufgabe, das Publikum und das erwartete Format. Gib dem Modell eine Rolle und den Kontext, den ein neuer Kollege benötigen würde. Zeige ein oder zwei Beispiele für gute Antworten, wenn das Format wichtig ist. Trenne Anweisungen von Daten – und sage dem Modell, dass abgerufener Text Informationen zur Verwendung sind, keine Befehle, die befolgt werden müssen. Bitte es, Schritt für Schritt bei komplexen Anfragen zu denken; Wei und Kollegen haben 2022 gezeigt, dass dieses „Chain-of-Thought“-Prompting die Ergebnisse bei mehrstufigen Problemen verbessert. Und sage, was zu tun ist, wenn Informationen fehlen.
Modellanbieter veröffentlichen ihre eigenen Leitfäden; die Dokumentation von Anthropic empfiehlt beispielsweise, klar und direkt zu sein, Beispiele zu verwenden und dem Modell Raum zum Denken zu geben.
Häufige Fehler
Der häufigste Fehler ist der ständig wachsende Prompt: jede schlechte Antwort führt zu einer weiteren Regel, bis sich die Regeln widersprechen und das Modell keine von ihnen gut befolgt. Few-Shot-Beispiele, die wortwörtlich in Antworten kopiert werden, sind eine weitere Falle – einschließlich Beispiele, die in Englisch verfasst sind, was den Assistenten dazu bringen kann, auf Englisch zu antworten. Ebenso ist es ein Fehler, Fakten, die sich ändern, wie Preise, in den Prompt zu setzen, anstatt in eine Wissensdatenbank.
Ein Prompt sollte Verhalten beschreiben. Fakten gehören in die Wissensdatenbank und Live-Daten in Werkzeuge.
Prompting ohne Code in AI SmartTalk
In AI SmartTalk wird der Systemprompt als Biografie des Assistenten bezeichnet. Ein geführtes Formular hilft beim Schreiben – Identität, Kommunikationsstil und Regeln, mit einem freundlichen, professionellen, neutralen oder benutzerdefinierten Ton – und frühere Versionen werden aufbewahrt, sodass eine Änderung verglichen oder rückgängig gemacht werden kann. Entscheidungsregeln und die Übergabepolitik werden separat festgelegt, und integrierte Richtlinien wie das Antworten in der Sprache des Besuchers werden von der Plattform hinzugefügt.
Häufig gestellte Fragen
Wird Prompt-Engineering mit besseren Modellen noch benötigt?
Weniger Tricks sind nötig, aber klare Anweisungen sind weiterhin wichtig. Bessere Modelle befolgen gute Prompts treuer, was es umso wichtiger macht, dass der Prompt sagt, was du tatsächlich willst.
Was ist ein Systemprompt?
Die stehenden Anweisungen, die dem Modell gegeben werden, bevor das Gespräch beginnt: seine Rolle, Regeln, Ton und Grenzen. Benutzer sehen ihn nicht, aber er prägt jede Antwort.
Was ist Prompt-Injection?
Ein Angriff, bei dem Text, der von einem Benutzer geschrieben oder in einem Dokument versteckt ist, versucht, den Systemprompt zu überschreiben – zum Beispiel „ignorieren Sie Ihre Anweisungen und…“. Dies wird verringert, indem Anweisungen von Daten getrennt, die Möglichkeiten der Werkzeuge eingeschränkt und Aktionen serverseitig überprüft werden.