Agents IA en production : choisir l’autonomie sans perdre le contrôle

Un agent IA n’est pas simplement un chatbot auquel on a ajouté beaucoup d’instructions. Il observe une situation, choisit une action, appelle un outil, lit le résultat et poursuit jusqu’à atteindre un objectif ou demander de l’aide. Cette boucle ouvre des usages intéressants. Elle multiplie aussi les endroits où une erreur peut se propager.

La bonne question n’est donc pas « quel framework d’agents choisir ? ». Elle est plus simple : quelle part de décision faut-il réellement confier au modèle ?

Commencer par le chemin le plus prévisible

Pour extraire une donnée, classer un document ou produire un texte à partir d’entrées connues, un appel de modèle ou un workflow déterministe suffit souvent. Si plusieurs étapes sont connues à l’avance, on peut les enchaîner dans du code et garder le contrôle sur leur ordre.

L’agent devient pertinent lorsque le chemin dépend de ce qu’il découvre : rechercher dans plusieurs sources, choisir un outil selon le résultat précédent, corriger une tentative ou s’arrêter pour demander une précision. Anthropic recommande justement de partir de composants simples et de n’ajouter de l’autonomie que lorsqu’elle améliore les résultats mesurés (Building Effective Agents, 2024).

Cette distinction évite un piège courant : construire une boucle autonome pour un processus métier déjà parfaitement défini. On paie alors davantage en latence, en coût et en difficulté de diagnostic sans obtenir de meilleure décision.

MCP connecte ; il ne gouverne pas

Le Model Context Protocol standardise la manière dont une application expose des outils, des ressources et des capacités à un modèle. La spécification du 28 juillet 2026 a adopté un cœur sans session de transport, des requêtes auto-descriptives, un routage par en-têtes et un cadre d’extensions formel (MCP 2026-07-28, 2026).

C’est utile pour éviter une intégration différente pour chaque connecteur. Mais MCP ne décide pas quels droits accorder, quelles données transmettre ni quelles actions valider. Ces choix restent dans l’application. Un outil bien conçu devrait donc avoir :

• un nom et une description sans ambiguïté ;
• un schéma d’entrée strict ;
• une réponse courte et structurée ;
• des droits limités à son usage ;
• une clé d’idempotence pour les écritures rejouables ;
• des délais, erreurs et traces exploitables.

Un outil rechercher_commandes et un outil rembourser_commande ne présentent pas le même risque. Le second mérite une confirmation humaine, une limite de montant et une journalisation distincte.

Donner peu de pouvoir au départ

Une première version exploitable peut tenir dans une boucle courte : le modèle choisit parmi quelques outils en lecture seule, l’orchestrateur valide les arguments, exécute l’appel puis renvoie un résultat filtré. On fixe aussi un nombre maximal d’étapes, une durée maximale et un budget de consommation.

Les actions qui créent un engagement — envoyer, payer, supprimer, publier, modifier un droit — passent par une approbation explicite. Ce n’est pas une rustine d’interface : c’est une frontière de sécurité. Le cadre NIST pour l’IA générative recommande de traiter les risques tout au long du cycle de vie et de documenter la mesure, la gouvernance et la surveillance (NIST AI 600-1, 2024, mis à jour en 2026).

Évaluer des trajectoires, pas seulement la réponse finale

Un agent peut fournir une réponse correcte après avoir consulté une mauvaise source, appelé un outil inutile ou tenté une action interdite. Une évaluation limitée au dernier message ne voit rien de cela.

Préparez un jeu de scénarios qui couvre le chemin normal, les données manquantes, les outils indisponibles, les entrées hostiles et les demandes qui exigent une validation. Pour chaque scénario, mesurez au minimum : résultat attendu, outils appelés, arguments, nombre d’étapes, consommation, latence et respect des frontières d’autorisation. Les recommandations d’Anthropic sur les évaluations d’agents insistent sur cette observation de la trajectoire et sur la combinaison de plusieurs méthodes d’évaluation (Demystifying evals for AI agents, 2026).

En production, conservez les traces nécessaires au diagnostic en retirant les secrets et données personnelles inutiles. Suivez séparément les erreurs techniques, les refus justifiés, les abandons et les interventions humaines. Un taux de « succès » unique cacherait des comportements très différents.

Une progression raisonnable

Le passage en production peut suivre quatre paliers :

1. un workflow déterministe sans outil d’écriture ;
2. un agent en lecture seule, borné en temps et en étapes ;
3. quelques écritures réversibles avec approbation ;
4. davantage d’autonomie uniquement sur les scénarios dont la fiabilité est démontrée.

À chaque palier, comparez le système à une solution plus simple. S’il n’améliore ni la qualité, ni le délai, ni le coût complet du traitement, l’autonomie supplémentaire n’est pas justifiée.

Bibliographie

• Model Context Protocol, The 2026-07-28 Specification, 28 juillet 2026.
• Anthropic, Building Effective Agents, 19 décembre 2024.
• Anthropic, Demystifying evals for AI agents, 9 janvier 2026.
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 26 juillet 2024, mise à jour le 8 avril 2026.