AI guardrails
Hurtig definition
AI guardrails er de tekniske og politiske kontroller, der holder et AI-system inden for de grænser, dets operatører har til hensigt. De definerer, hvad det dækker, hvilke data det ser, hvilke handlinger det kan tage, og hvad det skal nægte.
På denne side
Hvorfor er sikkerhedsskinner nødvendige
En sprogmodel vil forsøge at svare på alt, i enhver tone, for alle. For en forretningsassistent er det en risiko: den kan afvige fra emnet, love en refundering, den ikke har myndighed til at give, afsløre en anden kundes data, følge instruktioner indsat på en webside, eller producere stødende indhold, når den provokeres.
OWASP Top 10 for LLM-applikationer opregner de vigtigste risici, herunder prompt-injektion, afsløring af følsomme oplysninger, overdreven myndighed (en agent, der får lov til at gøre mere, end den burde) og misinformation. NIST's Generative AI Profile (AI 600-1) rammer de samme problemer fra et risikostyringsperspektiv.
De vigtigste typer af sikkerhedsskinner
Inputkontroller filtrerer, hvad der når modellen: moderering af abusive beskeder, spamgrænser, detektion af følsomme data. Instruktionsniveau kontroller definerer omfang og adfærd: assistentens rolle, emner den skal afslå, forpligtelser den ikke må påtage sig uden bevis. Værktøjsniveau kontroller begrænser, hvad agenten kan gøre: skrivebeskyttet adgang, handlinger begrænset til den indloggede kundes egne optegnelser, bekræftelse før noget uigenkaldeligt. Outputkontroller tjekker svaret, før det sendes.
De stærkeste sikkerhedsskinner håndhæves i koden, ikke i prompten. “Vis kun kunden deres egne ordrer” er pålideligt, når ordreværktøjet selv filtrerer efter den verificerede kunde; det er skrøbeligt, når det kun er en sætning i instruktionerne.
Sikkerhedsskinner, der fejler stille
To fejlsituationer er almindelige. Overblokering: en assistent så begrænset, at den nægter rimelige spørgsmål, hvilket driver kunder væk lige så sikkert som et forkert svar. Kun prompt-regler: grænser skrevet i systemprompten, som en beslutsom bruger kan tale modellen ud af.
Sikkerhedsskinner har også brug for overvågning. Modereringslogs, nægtede anmodninger og eskaleringer viser, om grænserne er på det rigtige sted.
Sikkerhedsskinner i AI SmartTalk
AI SmartTalk kombinerer flere lag. Indbyggede politikker holder assistenten til sin rolle, afslår emner uden for konteksten og påstået myndighed, behandler hentet tekst som data frem for instruktioner, og kræver bevis før forpligtelser. Ordreværktøjer returnerer kun den indloggede kundes egne ordrer, efter en e-mail-verifikationskode. Valgfri moderering med afslappede, moderate eller strenge forudindstillinger filtrerer abusive beskeder og holder en revisionslog, og spamgrænser og -forbud beskytter kanalerne. Når assistenten skal stoppe, overgiver den samtalen til teamet.
Ofte stillede spørgsmål
Er sikkerhedsskinner det samme som indholdsmoderation?
Moderation er en sikkerhedsskinne blandt andre. Den filtrerer skadelig indhold; sikkerhedsskinner dækker også omfang, dataadgang, tilladte handlinger og eskalering.
Kan sikkerhedsskinner stoppe prompt-injektion?
De reducerer dens indvirkning snarere end at forhindre hvert forsøg. At adskille instruktioner fra data, begrænse værktøjsrettigheder og verificere handlinger i koden betyder, at en succesfuld injektion kan gøre lidt skade.
Gør sikkerhedsskinner en AI-assistent mindre nyttig?
Dårligt justerede gør. Gode sikkerhedsskinner er snævre: de blokerer det, der er reelt risikabelt, og lader assistenten være fri til at hjælpe med alt andet.