AI-retningslinjer
Rask definisjon
AI-retningslinjer er de tekniske og policykontrollene som holder et AI-system innenfor grensene operatørene har til hensikt. De definerer hva det dekker, hvilke data det ser, hvilke handlinger det kan ta og hva det må nekte.
På denne siden
Hvorfor er rekkverk nødvendig
En språkmodell vil prøve å svare på hva som helst, i hvilken som helst tone, for hvem som helst. For en forretningsassistent er det en risiko: den kan vandre bort fra temaet, love en refusjon den ikke har myndighet til å gi, avsløre en annen kundes data, følge instruksjoner plantet på en nettside, eller produsere støtende innhold når den blir provosert.
OWASP Top 10 for LLM-applikasjoner lister opp de viktigste risikoene, inkludert promptinjeksjon, avsløring av sensitiv informasjon, overdreven myndighet (en agent som får gjøre mer enn den burde) og feilinformasjon. NISTs Generative AI Profile (AI 600-1) rammer inn de samme problemene fra et risikostyringsperspektiv.
De viktigste typene rekkverk
Inndata-kontroller filtrerer hva som når modellen: moderering av abusive meldinger, spamgrenser, deteksjon av sensitiv data. Instruksjonsnivåkontroller definerer omfang og atferd: assistentens rolle, emner å avslå, forpliktelser den ikke kan gjøre uten bevis. Verktøynivåkontroller begrenser hva agenten kan gjøre: skrivebeskyttet tilgang, handlinger begrenset til den innloggede kundens egne poster, bekreftelse før noe irreversibelt. Utdata-kontroller sjekker svaret før det sendes.
De sterkeste rekkverkene håndheves i kode, ikke i prompten. "Vis kun kunden deres egne bestillinger" er pålitelig når bestillingsverktøyet selv filtrerer etter den verifiserte kunden; det er skjør når det bare er en setning i instruksjonene.
Rekkverk som feiler stille
To feilmåter er vanlige. Overblokkering: en assistent så begrenset at den nekter rimelige spørsmål, noe som driver kundene bort like sikkert som et feil svar. Bare prompt-regler: begrensninger skrevet i systemprompten som en bestemt bruker kan snakke modellen ut av.
Rekkverk trenger også overvåking. Moderasjonslogger, avviste forespørsel og eskaleringer viser om grensene er på rett sted.
Rekkverk i AI SmartTalk
AI SmartTalk kombinerer flere lag. Innebygde retningslinjer holder assistenten til sin rolle, avslår off-topic forespørsel og påstått myndighet, behandler hentet tekst som data snarere enn instruksjoner, og krever bevis før forpliktelser. Bestillingsverktøy returnerer kun den innloggede kundens egne bestillinger, etter en e-postverifiseringskode. Valgfri moderering med avslappede, moderate eller strenge forhåndsinnstillinger filtrerer abusive meldinger og holder en revisjonslogg, og spamgrenser og -forbud beskytter kanalene. Når assistenten skal stoppe, overleverer den samtalen til teamet.
Ofte stilte spørsmål
Er rekkverk det samme som innholdsmoderering?
Moderering er ett rekkverk blant andre. Det filtrerer skadelig innhold; rekkverk dekker også omfang, datatilgang, tillatte handlinger og eskalering.
Kan rekkverk stoppe promptinjeksjon?
De reduserer virkningen snarere enn å forhindre hvert forsøk. Å skille instruksjoner fra data, begrense verktøytillatelser og verifisere handlinger i kode betyr at en vellykket injeksjon kan gjøre lite skade.
Gjør rekkverk en AI-assistent mindre nyttig?
Dårlig justerte gjør det. Gode rekkverk er smale: de blokkerer det som er genuint risikabelt og lar assistenten være fri til å hjelpe med alt annet.