Agent IA autonome ou validation humaine : que choisir ?
Ni l'un ni l'autre en bloc : on décide action par action. L'agent peut agir seul sur ce qui est interne, réversible et sans conséquence pour le client, comme lire, classer ou résumer. Tout ce qui part vers le client ou engage la boutique, comme une réponse, un remboursement ou un geste commercial, attend une validation humaine. L'autonomie s'élargit ensuite tâche par tâche, quand les traces prouvent que l'agent se comporte bien, jamais sur les décisions qui comptent.
Je suis développeur Sylius et Symfony indépendant et j'intègre des agents IA dans des boutiques en ligne. Entre le commerçant qui veut un agent « qui gère tout » et celui qui veut tout relire, la bonne réponse est presque toujours une grille. Voici celle que j'utilise pour chaque agent IA d'e-commerce.
Pourquoi ne pas laisser l'agent tout faire seul ?
Parce qu'un modèle de langage se trompe parfois, et qu'un agent qui agit transforme une erreur de texte en erreur d'action. L'OWASP range l'agentivité excessive parmi les risques majeurs des applications fondées sur des modèles de langage, et recommande de faire approuver par un humain les actions à fort impact.
Les autorités françaises vont dans le même sens. Dans ses conseils sur les chatbots, la CNIL indique qu'une conversation sans intervention humaine ne peut conduire à elle seule à des décisions importantes pour la personne. Et une note publiée sur son site en juillet 2026 par le Conseil de l'IA et du numérique recommande, pour les agents, une validation humaine des décisions les plus critiques et un moyen de les arrêter. Ce n'est pas un avis juridique, mais le message est cohérent.
Enfin, devant le client, c'est la boutique qui répond des erreurs de l'agent, comme je l'explique dans l'article sur la responsabilité.
Pourquoi ne pas tout faire valider ?
Parce qu'une validation a un coût. Si chaque lecture, chaque classement, chaque note interne demande un clic, l'agent ne fait plus gagner de temps, et la personne finit par valider sans lire. Une validation machinale est pire qu'une absence de validation : elle donne une fausse impression de contrôle.
L'enjeu est donc de réserver la validation à ce qui compte, et de la rendre rapide. L'agent prépare un dossier complet, cite la règle qu'il applique, signale ce qui sort de l'ordinaire. La personne vérifie en quelques secondes au lieu de tout refaire.
Et si un agent le faisait pour vous ?
Laissez votre numéro : je vous rappelle sous 24 heures ouvrées et je regarde avec vous ce qu'un agent peut prendre en charge dans votre boutique, dans votre budget.
Quelle grille utiliser, action par action ?
Je classe chaque action selon deux questions : est-elle réversible, et touche-t-elle le client ou l'argent de la boutique ?
| Action | Niveau | Pourquoi |
|---|---|---|
| Lire une commande, une expédition, un historique | Seul | Aucun effet, à condition de lire seulement le client concerné |
| Classer un message, ajouter une note interne | Seul | Interne et réversible |
| Préparer un brouillon de réponse | Seul, puis validation | Rien ne part sans relecture |
| Envoyer une réponse au client | Validation | Engage la boutique |
| Créer un retour ou un échange | Validation | Mouvement logistique, coût |
| Rembourser, accorder un geste commercial | Jamais par l'agent | Décision humaine, l'agent n'a pas l'outil |
| Modifier ses propres règles | Jamais par l'agent | Sinon le comportement dérive sans contrôle |
Les deux dernières lignes ne sont pas des consignes dans un prompt : ce sont des outils qui n'existent pas. Un agent qu'on pourrait convaincre de rembourser n'est pas protégé ; un agent qui n'a pas la fonction de remboursement l'est.
À quoi cela ressemble-t-il sur Sylius ?
Sur l'agent de service client que je construis en ce moment pour une boutique sous Sylius 2, la grille est appliquée telle quelle. L'agent lit seul les commandes, expéditions et dossiers passés du client concerné. Il prépare un brouillon dans Gmail et une action logistique en attente de validation dans l'administration. Il n'envoie jamais de mail, ne rembourse pas, ne fait aucun geste commercial, ne valide rien et ne change pas ses propres règles : il n'a pas d'outil pour le faire. Un plafond de dépense par jour déclenche une alerte, et les messages attendent.
Sylius a retenu un principe voisin dans son plugin Ask AI : les lectures s'exécutent sans validation, chaque écriture devient une « action proposée » que l'administrateur approuve ou rejette, et les outils de suppression et de remboursement ne sont jamais exposés à l'agent. Le plugin est une preuve de concept en version 0.1.0, sous licence BUSL 1.1, mais le choix de conception est le bon ; je l'évalue dans l'article sur Ask AI.
Ce que l'agent ne fait jamais seul : engager la boutique envers un client, que ce soit par un envoi, un remboursement, un avoir ou un refus.
Qui doit valider ?
Une personne qui connaît les règles de la boutique et qui a le droit de les appliquer. Si le gérant valide tout, il devient le goulot d'étranglement. Si un salarié valide, il doit savoir jusqu'où il peut aller : accepter un retour dans les délais, oui ; accorder une exception, non sans accord. La validation suit donc les mêmes niveaux que dans la boutique sans agent. Les accès par rôle de l'agent reprennent cette organisation : chaque personne ne voit et ne valide que ce qui relève de son rôle.
Comment élargir l'autonomie sans risque ?
Par étapes, et preuves à l'appui. Les traces montrent, type de demande par type de demande, combien de brouillons sont validés sans retouche. Quand un type de demande est stable, peu risqué et presque toujours validé tel quel, on peut envisager de laisser partir certaines réponses, par exemple un accusé de réception ou une information de suivi. Les garde-fous vérifient alors chaque sortie, et toute réponse qui sort du cadre repasse en validation.
Pour classer les actions de votre futur agent et savoir ce qu'il pourrait faire sans vous, je propose un diagnostic IA offert : je vous rappelle sous 24 heures ouvrées et je vous propose une solution qui rentre dans votre budget.