Agent IA qui se trompe : qui est responsable ?

Devant le client, c'est votre boutique qui répond des erreurs de son agent IA. L'agent n'est pas une personne : c'est un outil que vous mettez à la disposition de vos clients, et le client a contracté avec vous, pas avec le modèle. Ses droits légaux, comme la rétractation ou la garantie de conformité, restent entiers quoi que l'agent ait affirmé. Ce qui se joue ensuite avec votre développeur ou le fournisseur du modèle dépend de vos contrats. Cet article n'est pas un avis juridique.

Je suis développeur Sylius et Symfony indépendant et je construis des agents IA pour des boutiques en ligne. La question de la responsabilité arrive souvent après la première frayeur : un chatbot qui a promis un remboursement, ou une date de livraison inventée. Voici comment je la traite, techniquement, dans chaque projet d'agent IA pour l'e-commerce.

Pourquoi l'erreur de l'agent est-elle celle de la boutique ?

Parce que, du point de vue du client, il n'y a qu'un interlocuteur : la boutique. Le client a lu une réponse sur votre site ou reçu un mail de votre adresse. Il n'a aucune raison de distinguer ce qu'a écrit un salarié de ce qu'a produit un modèle de langage.

Le droit de la consommation renforce ce point. En France, le droit de rétractation pour un achat à distance dure au moins 14 jours, et il est prolongé de 12 mois si le vendeur n'a pas correctement informé le consommateur, selon Service-Public.fr. Un agent qui donnerait une information erronée sur ce délai ne réduirait pas les droits du client ; il pourrait au contraire placer la boutique en défaut d'information. Le sujet est développé dans l'article sur l'agent et le droit de rétractation.

On cite souvent une décision canadienne de 2024 impliquant Air Canada, où le tribunal aurait refusé de traiter le chatbot comme une entité distincte de l'entreprise. Je n'ai pas pu lire la décision à sa source, et elle n'a de toute façon aucune valeur en droit français. Elle illustre seulement une idée de bon sens : une entreprise ne se défausse pas sur son propre outil.

Quelles erreurs coûtent le plus cher ?

Toutes les erreurs ne se valent pas. Voici celles que je traite en priorité, avec la couche qui les empêche.

La première ligne relève des garde-fous, la deuxième de vos documents et de vos données, la dernière des accès par rôle. Pour les prix et disponibilités inventés, voyez aussi l'article sur les hallucinations de prix.

Et le développeur, et le fournisseur du modèle ?

Entre professionnels, la répartition des responsabilités dépend des contrats : le devis et les conditions de votre développeur, les conditions commerciales du fournisseur du modèle. Je ne peux pas vous dire comment un juge trancherait votre cas ; un avocat le peut. Ce que je peux faire, c'est réduire la probabilité que la question se pose.

Un texte européen mérite d'être connu, même s'il ne parle pas de responsabilité en cas d'erreur : l'article 50 du règlement européen sur l'IA impose au fournisseur d'un système qui dialogue avec des personnes de les informer qu'elles parlent à une IA. Il s'applique depuis le 2 août 2026, selon la Commission européenne. Un commerçant qui fait développer son propre agent peut être considéré comme fournisseur ; c'est à analyser au cas par cas, et je le détaille dans l'article sur l'information des clients.

Comment réduire le risque à la source ?

La règle que j'applique est simple : ce qui engage la boutique ne part jamais sans un humain. Sur l'agent de service client que je construis en ce moment pour une boutique sous Sylius 2, l'agent prépare un brouillon dans Gmail et une action logistique en attente de validation dans l'administration. Il n'envoie jamais de mail, ne rembourse pas, ne fait aucun geste commercial et ne valide rien. Ces interdits ne sont pas des consignes dans un prompt : il n'a pas d'outil pour le faire. Même manipulé par un message habile, il ne peut produire qu'une proposition, qu'une personne voit et peut refuser.

Ce que l'agent ne fait jamais seul : prendre un engagement au nom de la boutique, que ce soit un remboursement, un avoir, une date garantie ou une exception à vos règles.

Le deuxième levier est la traçabilité. Chaque passage de cet agent sera tracé : ce qu'il a lu, ce qu'il a proposé, les règles citées et leur version, le modèle utilisé. Le jour où un client conteste, vous savez exactement ce qui s'est passé, et qui a validé quoi.

Le troisième levier est de faire citer la règle. Quand l'agent écrit « règle retours, article 3 » à côté de sa proposition, la personne qui valide vérifie en quelques secondes au lieu de faire confiance. C'est ce qui évite la validation machinale, dont je parle dans l'article sur l'autonomie de l'agent.

Que faire quand l'erreur est faite ?

D'abord, la traiter comme n'importe quelle erreur de service client : reconnaître, corriger, et décider si la boutique honore ce qui a été annoncé. Ensuite, retrouver la cause dans les traces : un document obsolète, une règle mal écrite, un outil trop permissif. Enfin, ajouter ce cas aux tests de l'agent pour qu'il ne se reproduise pas après une mise à jour.

Si le désaccord persiste, rappelez-vous que tout professionnel qui vend à des consommateurs doit leur garantir le recours gratuit à un médiateur de la consommation et afficher ses coordonnées, comme le rappelle Entreprendre.Service-Public.fr. Le manquement est passible d'une amende administrative.

Pour savoir ce que votre agent actuel ou futur pourrait engager à votre place, je propose un diagnostic IA offert : je vous rappelle sous 24 heures ouvrées, je passe votre boutique au crible des 8 couches et je vous propose les garde-fous qui rentrent dans votre budget.