AI-veiligheidsmaatregelen

Een taalmodel zal proberen alles te beantwoorden, in elke toon, voor iedereen. Voor een zakelijke assistent is dat een risico: het kan van onderwerp veranderen, een terugbetaling beloven waar het geen autoriteit voor heeft, gegevens van een andere klant onthullen, instructies volgen die op een webpagina zijn geplaatst, of aanstootgevende inhoud produceren wanneer het wordt uitgelokt.

De OWASP Top 10 voor LLM-toepassingen somt de belangrijkste risico's op, waaronder promptinjectie, openbaarmaking van gevoelige informatie, overmatige autonomie (een agent die meer mag doen dan hij zou moeten) en desinformatie. NIST's Generative AI Profile (AI 600-1) kadert dezelfde kwesties vanuit een risicobeheerperspectief.

Invoercorrecties filteren wat het model bereikt: moderatie van beledigende berichten, spamlimieten, detectie van gevoelige gegevens. Instructieniveau-controles definiëren de reikwijdte en het gedrag: de rol van de assistent, onderwerpen om te weigeren, verplichtingen die het niet mag aangaan zonder bewijs. Toolniveau-controles beperken wat de agent kan doen: alleen-lezen toegang, acties beperkt tot de eigen gegevens van de ingelogde klant, bevestiging voordat iets onomkeerbaars gebeurt. Uitvoercontroles controleren het antwoord voordat het wordt verzonden.

De sterkste vangrails worden in code afgedwongen, niet in de prompt. “Toon de klant alleen hun eigen bestellingen” is betrouwbaar wanneer de bestelltool zelf filtert op de geverifieerde klant; het is kwetsbaar wanneer het slechts een zin in de instructies is.

Twee veelvoorkomende faalmodi zijn. Overblokkeren: een assistent die zo beperkt is dat hij redelijke vragen weigert, wat klanten net zo zeker wegdrijft als een verkeerd antwoord. Alleen promptregels: limieten die in de systeemprompt zijn geschreven en waar een vastberaden gebruiker het model uit kan praten.

Vangrails hebben ook monitoring nodig. Moderatielogs, geweigerde verzoeken en escalaties tonen of de limieten op de juiste plaats zijn.

AI SmartTalk combineert verschillende lagen. Ingebouwde beleidsregels houden de assistent bij zijn rol, weigeren off-topic verzoeken en geclaimde autoriteit, behandelen opgehaalde tekst als gegevens in plaats van instructies, en vereisen bewijs voordat verplichtingen worden aangegaan. Besteltools retourneren alleen de eigen bestellingen van de ingelogde klant, na een e-mailverificatiecode. Optionele moderatie met ontspannen, gematigde of strikte presets filtert beledigende berichten en houdt een auditlog bij, en spamlimieten en -verboden beschermen de kanalen. Wanneer de assistent moet stoppen, geeft hij het gesprek over aan het team.