Prompt mérnökség

Egy nyelvi modell csak azt a szöveget látja, amit kap. Egy ügyfélszolgálati asszisztens számára ez a szöveg általában több rétegből áll: egy rendszerprompt, amely leírja, hogy ki az asszisztens, kinek szolgál, és mit soha nem szabad tennie; a jelenlegi kérdéshez kapcsolódó referenciaanyag; az eszközök leírásai, amelyeket használhat; és a beszélgetés eddigi része.

A prompt mérnökség feladata, hogy ezt a csomagot világossá és következetessé tegye. A homályos utasítások („légy segítőkész”) homályos viselkedést eredményeznek; a specifikusak („ha a rendelési szám hiányzik, kérdezd meg, mielőtt keresnél”) kiszámítható viselkedést produkálnak.

Legyél egyértelmű a feladatról, a közönségről és a várt formátumról. Adj a modellnek szerepet, és a kontextusban olyan információt, amire egy új kollégának szüksége lenne. Mutass be egy vagy két jó válasz példát, amikor a formátum fontos. Válaszd el az utasításokat az adatoktól — és mondd el a modellnek, hogy a lekért szöveg információ, amit használni kell, nem utasítás, amit követni kell. Kérd meg, hogy lépésről lépésre gondolkodjon bonyolult kéréseknél; Wei és kollégái 2022-ben megmutatták, hogy ez a „gondolatmenet” promptolás javítja az eredményeket a több lépésből álló problémák esetén. És mondd el, mit tegyen, amikor információ hiányzik.

A modell szolgáltatói saját útmutatóikat teszik közzé; például az Anthropic dokumentációja azt javasolja, hogy legyél világos és közvetlen, használj példákat, és adj a modellnek teret a gondolkodásra.

A leggyakoribb hiba a folyamatosan növekvő prompt: minden rossz válasz egy újabb szabályhoz vezet, amíg a szabályok ellentmondanak egymásnak, és a modell egyiküket sem követi jól. A szó szerint átvett példák a válaszokba egy másik csapda — beleértve az angolul írt példákat is, amelyek arra ösztönözhetik az asszisztenst, hogy angolul válaszoljon. Ugyanígy a változó tények, mint például az árak, a promptba kerülése a tudásbázis helyett.

Az AI SmartTalkban a rendszerpromptot az asszisztens életrajzának nevezik. Egy irányított űrlap segít megírni — identitás, kommunikációs stílus és szabályok, barátságos, professzionális, semleges vagy egyedi hangvétellel — és a korábbi verziókat megőrzik, így egy változtatás összehasonlítható vagy visszavonható. A döntési szabályokat és a kézbesítési politikát külön állítják be, és a platform által beépített politikák, mint például a látogató nyelvén való válaszadás, hozzáadódnak.