Garde-fous de l'IA (AI guardrails)

Un modèle de langage essaiera de répondre à tout, sur n'importe quel ton, pour n'importe qui. Pour un assistant d'entreprise, c'est un risque : il peut sortir de son sujet, promettre un remboursement qu'il n'a pas le pouvoir d'accorder, dévoiler les données d'un autre client, suivre des instructions cachées dans une page web ou produire un contenu choquant si on le pousse.

Le Top 10 de l'OWASP pour les applications à base de LLM recense les principaux risques, dont l'injection de prompt, la divulgation d'informations sensibles, l'autonomie excessive (un agent autorisé à faire plus qu'il ne devrait) et la désinformation. Le profil IA générative du NIST (AI 600-1) aborde les mêmes questions sous l'angle de la gestion des risques.

Les contrôles en entrée filtrent ce qui atteint le modèle : modération des messages abusifs, limites anti-spam, détection de données sensibles. Les contrôles au niveau des consignes définissent le périmètre et le comportement : rôle de l'assistant, sujets à décliner, engagements interdits sans preuve. Les contrôles au niveau des outils limitent ce que l'agent peut faire : accès en lecture seule, actions restreintes aux dossiers du client connecté, confirmation avant toute action irréversible. Les contrôles en sortie vérifient la réponse avant son envoi.

Les garde-fous les plus solides sont appliqués dans le code, pas dans le prompt. « Ne montrer au client que ses propres commandes » est fiable quand l'outil de commande filtre lui-même sur le client vérifié ; c'est fragile quand ce n'est qu'une phrase dans les consignes.

Deux écueils reviennent souvent. Le blocage excessif : un assistant si bridé qu'il refuse des questions raisonnables, ce qui fait fuir les clients aussi sûrement qu'une mauvaise réponse. Les règles uniquement dans le prompt : des limites écrites dans le prompt système, dont un utilisateur obstiné peut détourner le modèle.

Les garde-fous doivent aussi être surveillés. Journaux de modération, demandes refusées et transferts montrent si les limites sont au bon endroit.

AI SmartTalk combine plusieurs couches. Des règles intégrées cantonnent l'assistant à son rôle, lui font décliner les demandes hors sujet et les prétendues autorités, traiter le texte retrouvé comme une donnée et non comme une consigne, et exiger une preuve avant tout engagement. Les outils de commande ne renvoient que les commandes du client connecté, après vérification par un code envoyé par e-mail. Une modération facultative, avec des réglages souple, modéré ou strict, filtre les messages abusifs et conserve un journal, et des limites anti-spam et des bannissements protègent les canaux. Quand l'assistant doit s'arrêter, il passe la conversation à l'équipe.