Garde-fous
Un agent sans limites est un stagiaire sans encadrement.
Brillant par moments, catastrophique sans prévenir. Entre un agent utile et un agent dangereux, la différence tient moins au modèle qu'à son encadrement : ce qu'il a le droit de faire, ce qu'il doit faire valider, ce que l'on mesure.
Ces règles font partie de l'architecture dès le départ, au même titre que les fonctionnalités.
La discipline que nous nous imposons déjà. L'IA qui écrit notre code travaille sous le même principe : liberté sur l'exécution, contrôle humain sur tout ce qui engage. Vos agents héritent de cette discipline.
Permissions minimales par conception
Chaque outil exposé à l'agent est déclaré, typé et limité à ce que sa mission exige. Aucun accès direct à la base, aucune session administrateur.
Actions classées réversible ou non
Créer un brouillon s'exécute. Envoyer, payer ou supprimer attend une validation. La frontière est écrite avec vous, au cadrage.
Budget par mission plafonné
Temps, jetons et appels d'outils sont plafonnés à chaque exécution. Un agent qui tourne en rond s'arrête au bout de quelques centimes et le signale.
Corrections mesurées boucle de progrès
Chaque intervention humaine sur une mission est enregistrée : c'est la matière première pour améliorer l'agent.