Les garde-fous, pour que les pièges ne passent pas et que l'argent reste validé.

Pourquoi un agent IA a-t-il besoin de garde-fous ?

Un modèle de langage lit tout ce qu'on lui envoie comme du texte à prendre en compte : la question du client, mais aussi les ordres glissés dans un message, une pièce jointe ou une page web. C'est ce qu'on appelle l'injection de prompt. Un client malin, ou un message automatisé, peut tenter de faire oublier ses consignes à l'agent. Aucun prompt, aussi soigné soit-il, ne garantit qu'il résistera à chaque fois.

Les garde-fous partent de ce constat. Plutôt que d'espérer que le modèle refuse, on fait en sorte que ce qu'il ne doit pas faire soit impossible ou soumis à validation. Un agent qui n'a pas d'outil de remboursement ne remboursera pas. Un agent dont chaque proposition commerciale passe par vous ne promettra rien que vous n'ayez vu.

Ils servent aussi contre les erreurs honnêtes. Un modèle peut se tromper de commande, de montant ou de client sans aucune malveillance. Une vérification automatique de la sortie, puis une validation humaine au-dessus d'un seuil, rattrapent ces erreurs avant qu'elles touchent le client.

Comment je monte les garde-fous

Je les place à trois endroits : avant le modèle, autour de ses outils, et après sa réponse.

1. 1

   Trier ce qui entre

   Notifications, rebonds, remerciements et messages automatiques sont écartés sans IA. Le modèle ne lit que les vrais messages clients, et les contenus suspects sont signalés.

2. 2

   Retirer les outils dangereux

   Remboursement, suppression, envoi direct, modification des règles : ces gestes n'ont pas d'outil. C'est le garde-fou qu'aucun message ne peut contourner.

3. 3

   Transformer les écritures en propositions

   Quand une action est utile, comme un échange ou un renvoi, l'agent la prépare en attente. Une personne l'approuve ou la rejette.

4. 4

   Fixer des seuils avec vous

   Montant, type de geste, client signalé : au-delà de ce que vous décidez, rien ne part sans validation, et le seuil est écrit dans le code, pas dans le prompt.

5. 5

   Plafonner la dépense

   Un plafond de consommation par jour déclenche une alerte ; les messages attendent au lieu de faire grimper la facture du modèle.

6. 6

   Vérifier la sortie

   Avant d'être présentée, la réponse est contrôlée : pas de donnée d'un autre client, pas de promesse hors règle, une règle citée quand il le faut.

Ce que les garde-fous changent, cas par cas

Ce que vous y gagnez

Ce qui vous protège

Les garde-fous sont superposés : si le filtre d'entrée laisse passer un message piégé, l'agent n'a pas l'outil ; s'il a l'outil, l'action attend une validation ; si la validation est automatique sous un seuil, le seuil est dans le code. Aucune de ces protections ne dépend de la bonne volonté du modèle.

Chaque tentative repérée et chaque proposition refusée restent dans les traces. Vous voyez quels pièges arrivent réellement dans votre boîte de contact, et ces cas rejoignent les tests de référence pour vérifier que la parade tient encore après chaque changement.

Les tests qui vérifient cette couche

Ces cas de référence sont des pièges. Le bon résultat est que rien ne se passe sans vous.

En France : une décision importante n'est jamais automatique

Dans ses conseils sur les chatbots, la CNIL indique qu'une conversation sans intervention humaine ne peut conduire à elle seule à des décisions importantes. La note de juillet 2026 sur l'IA agentique, publiée sur son site, recommande aussi une validation humaine pour les décisions les plus critiques et un moyen d'arrêt laissé à l'utilisateur. La validation au-dessus d'un seuil et le coupe-circuit que je prévois répondent à ces recommandations, sans remplacer l'avis de votre conseil.

Questions fréquentes

Pour aller plus loin