GPT maison pour le service client : ses limites

Un GPT maison rédige bien, mais il ne voit pas votre boutique : il répond sans connaître la commande du client. Sa mémoire se résume souvent à un fichier ou un tableur que personne ne peut vérifier, et ses règles finissent par dériver. Pour passer du brouillon de texte au vrai traitement des demandes, il faut un agent branché sur les données de la boutique, avec des règles versionnées qu'il ne peut pas réécrire, et une validation humaine.

Je suis développeur Sylius et Symfony indépendant et j'intègre des agents IA dans des boutiques en ligne. Beaucoup de commerçants ont essayé seuls avant de m'appeler, et c'est une très bonne chose : ils savent ce qu'ils veulent. Cet article part d'un cas réel, celui d'un commerçant pour qui je construis en ce moment un agent IA sur Sylius, et qui avait d'abord monté son propre assistant dans ChatGPT.

Qu'est-ce qu'un GPT maison fait bien ?

Il faut lui rendre justice. Un GPT personnalisé rédige des réponses polies, dans le ton de la boutique, à partir de quelques consignes. Il reformule un mail agacé, propose une réponse type, traduit un message. Pour un commerçant seul, c'est déjà un gain réel sur la rédaction.

Surtout, le monter oblige à écrire ses règles : délais de retour, conditions d'échange, cas particuliers. Ce travail est précieux, et il se réutilise presque entièrement dans un vrai agent. Mais l'assistant que ce commerçant avait monté échouait pour trois raisons, que je retrouve dans presque tous les GPT maison.

Première limite : il ne voit pas vos commandes

Le GPT maison n'a aucun accès aux données de la boutique. Quand un client écrit « mon colis n'est pas arrivé », il ne sait pas de quelle commande il s'agit, si elle est expédiée, avec quel transporteur, ni si le client a déjà écrit la semaine dernière. Le commerçant doit ouvrir l'administration, copier les informations, les coller dans la conversation. Le temps gagné sur la rédaction est perdu sur la recherche.

Un agent fait cette recherche lui-même, par des outils branchés sur la boutique. Sur Sylius, il lit la commande, ses expéditions, l'état du paiement, le client et ses dossiers passés, au moment où il traite le message.

Deuxième limite : un tableur ne fait pas une mémoire

Pour pallier ce manque, l'assistant de ce commerçant avait pour mémoire un tableur coloré. C'est une solution fréquente, et elle a des défauts de nature. Un tableur tenu à côté de la boutique diverge d'elle dès qu'une commande change d'état. Le sens d'une couleur n'est écrit nulle part, donc difficile à vérifier. Et un fichier unique regroupe des informations sur de nombreux clients, que le modèle n'a aucune raison de voir pour répondre à un seul.

Un agent n'a pas besoin de cette mémoire parallèle : la vérité est dans la boutique, et il la lit à chaque passage. Ce qu'il doit retenir de ses propres actions va dans des traces structurées, consultables par une personne.

Troisième limite : il réécrit ses propres règles

C'est la limite la plus insidieuse. L'assistant de ce commerçant réécrivait lui-même ses règles. Un assistant qui modifie ses propres instructions voit son comportement dériver sans que personne ne l'ait décidé : une règle assouplie, une exception généralisée. Et il devient impossible de savoir quelle version des règles a produit telle réponse.

Dans un agent sérieux, le prompt système et les règles sont versionnés et modifiés par une personne, jamais par l'agent. Chaque proposition cite la règle appliquée et sa version.

Que fait un vrai agent à sa place ?

Voici ce que fait l'agent que je construis pour ce commerçant, sur une boutique sous Sylius 2. Il lit chaque nouveau message de la boîte de contact. Il trie sans IA les notifications, remerciements et rebonds, qui n'ont pas besoin d'un modèle. Il retrouve le client par le code, sur son adresse e-mail exacte, et ne reçoit que les données de ce client. Il lit ses commandes, ses expéditions et ses dossiers passés, puis applique les règles écrites du commerçant en citant la règle. Il prépare un brouillon dans Gmail et une action logistique en attente de validation dans l'administration.

Ce que l'agent ne fait jamais seul : envoyer un mail, rembourser, faire un geste commercial, valider quoi que ce soit, changer ses propres règles ou chercher des informations sur un client hors de la boutique. Ces interdits sont dans le code : il n'a pas d'outil pour le faire. Si un client glisse une instruction dans son message, le pire résultat est une proposition qu'une personne refuse, ce qui répond au risque d'injection de prompt décrit par l'OWASP.

Chaque passage sera tracé : ce que l'agent a lu, ce qu'il a proposé, les règles citées, la version des règles, le modèle et le coût. Un plafond de dépense par jour déclenche une alerte, et les messages attendent. Avant chaque changement, entre 40 et 60 cas réels anonymisés seront rejoués pour vérifier que l'agent répond toujours juste ; la méthode est dans l'article sur les tests après un changement de modèle.

Et les données clients collées dans ChatGPT ?

Un GPT maison pose aussi une question de données : chaque mail collé dans la conversation transmet des informations personnelles, sans trace de ce qui a été envoyé. Un agent branché sur l'API d'un fournisseur permet de choisir ce fournisseur et ses conditions. OpenAI indique par exemple que les données envoyées à son API ne servent pas à entraîner ses modèles, sauf adhésion, sur sa page consacrée aux données de l'API. Le sujet est développé dans l'article sur ChatGPT, les e-mails clients et le RGPD.

Si votre GPT maison montre ses limites, le travail n'est pas perdu : vos règles et vos réponses types sont la base de l'agent. Pour voir comment le faire évoluer, je propose un diagnostic IA offert : je vous rappelle sous 24 heures ouvrées, je regarde votre assistant et vos messages, et je vous propose la suite qui rentre dans votre budget.