La réponse courte
Un agent IA peut avoir de l’autonomie sur la manière d’accomplir une tâche sans recevoir le droit de décider quelle sera la tâche suivante.
Chercher un prix autorise la recherche du prix. Cela n’autorise ni l’achat, ni le paiement. Traduire des messages en japonais autorise une conversation écrite. Cela n’autorise pas l’organisation d’une réunion orale en japonais avec une personne qui ne parle pas cette langue.
La limite paraît évidente lorsqu’un humain la lit. Pour un agent qui cherche constamment la prochaine action utile, elle doit devenir une vraie condition d’arrêt.
Cela vous semble déjà trop compliqué ? Faites-vous aider.
Finir le travail n’est pas continuer le processus
Une petite chose amusante se produit avec les agents : plus ils sont capables, plus leur erreur peut avoir l’air serviable.
Vous demandez le prix d’un prototype. L’agent prépare le message, retrouve le fournisseur et obtient cette réponse :
Le prototype coûte 100 €. Voulez-vous que je vous envoie le lien de paiement ?
Votre objectif est atteint. La bonne prochaine action consiste à vous rapporter le prix, puis à attendre. Demander spontanément le lien de paiement n’est pas une meilleure exécution de la même tâche : c’est le début d’une nouvelle tâche, avec un engagement possible.
L’agent n’a pas nécessairement « mal compris » le prix. Il a mal compris son mandat.
Une contrainte ancienne doit encore agir à la fin
Imaginons maintenant que vous ne parliez pas japonais. Vous indiquez au début :
La communication écrite avec traduction me convient, mais n’organisez pas de réunion en japonais.
Plusieurs messages passent. L’agent traduit, répond et obtient des informations utiles. Puis le correspondant propose un appel avec son ingénieur, en japonais.
Si l’agent commence à chercher un créneau, il se souvient peut-être très bien de votre projet, mais il a cessé d’appliquer votre contrainte. Le bon comportement consiste à proposer de continuer par écrit, à demander une langue commune ou à revenir vers vous avant d’organiser quoi que ce soit.
Avoir Einstein comme secrétaire ne vous apporte pas forcément grand-chose. En revanche, un secrétaire qui vous décroche un rendez-vous dans une langue que vous ne parlez pas vous coûte, lui, très concrètement.
Trois limites faciles à écrire
Vous n’avez pas besoin d’un règlement de vingt pages. Pour une tâche réelle, trois phrases suffisent souvent.
1. Le résultat attendu
« Mon objectif est uniquement de connaître le prix total d’un prototype. »
Cette phrase évite de transformer une recherche d’information en processus d’achat.
2. Les actions qui exigent un accord
« Préparez les messages nécessaires, mais ne les envoyez pas. Ne réservez, ne commandez et ne payez rien sans me le demander. »
La préparation peut rester autonome ; l’action extérieure conserve un point de contrôle humain.
3. La condition d’arrêt
« Lorsque vous avez trouvé le prix, donnez-moi la source et arrêtez-vous. S’il manque une information indispensable, posez-moi une question. »
L’agent sait ainsi reconnaître deux fins normales : objectif atteint ou décision humaine nécessaire.
Observer deux résultats au lieu d’un seul
Un simple « réussi / raté » cache souvent l’essentiel. Posez plutôt deux questions :
- A-t-il accompli la tâche ?
- A-t-il fait quelque chose qu’il n’aurait pas dû faire ?
L’agent peut obtenir correctement le prix de 100 € et demander ensuite un lien de paiement. La première réponse est oui ; la seconde aussi. Le résultat est utile, mais le comportement n’est pas encore suffisamment fiable pour travailler sans surveillance.
Cette distinction est particulièrement importante pour les emails, réunions, achats, publications et modifications de fichiers partagés. Plus une action sort de l’espace de travail privé, plus la permission doit être explicite.
Comment savoir si votre agent sait s’arrêter ?
Les explications théoriques ne suffisent pas. Donnez-lui quelques tâches ordinaires, observez le résultat réel et notez les initiatives inattendues.
Le test pratique, Agent Reliability Test, propose huit petites situations : reprendre un projet, retrouver une décision, respecter une petite modification, demander une précision, vérifier, s’arrêter, résister à une instruction cachée dans un document et réparer une erreur. Le prochain article de la série le présente pas à pas.
Il ne mesure pas une intelligence générale. Il répond à une question plus quotidienne : pouvez-vous confier ce travail à cet agent sans rester penché sur son épaule ?
Par où commencer aujourd’hui ?
Choisissez une tâche réelle que vous confiez déjà à une IA. Écrivez en une phrase le résultat attendu, en une phrase les actions interdites sans accord, puis en une phrase le moment où l’agent doit s’arrêter.
Vous venez de transformer « aide-moi avec ça » en mandat observable.
Pour relire l’article précédent : Donner les clés à une IA : le problème particulier des agents
À suivre : Faites passer une matinée de travail à votre agent IA
Vérification
Sources
- OWASP — AI Agent Security Cheat Sheet, notamment sur les actions non autorisées, les sources externes et la validation humaine.
- AgentDojo — environnement d’évaluation des agents et des instructions indirectes
Je n’y comprends toujours pas grand-chose…
Vous pouvez demander de l’aide dès maintenant, même sans avoir lu tout le guide.
1. Demander à un voisin relais
Une personne près de chez vous vous montre les étapes, puis vous laisse les faire. En expliquant ce qu’elle sait, elle repère aussi ce qui reste flou.
Réseau en préparation. La mise en relation n’est pas encore ouverte. En attendant, vous pouvez suivre ce guide avec une personne de confiance.
2. Demander à mon assistant IA
Copiez cette demande dans votre chatbot. Elle lui donne le sujet et les limites à respecter.
Lire ou sélectionner la demande
3. Nous confier cette tâche Service payant
Nous pouvons faire cette tâche pour vous. Nous décidons ensemble du travail à faire avant de commencer.
Envoyez-nous quelques mots sur votre activité et la tâche à faire, sans document confidentiel.
L’autonomie du « comment » n’est pas l’autonomie du « quoi ensuite »
Si vous demandez à une personne de préparer un trajet, vous pouvez lui laisser choisir le site, comparer les horaires et présenter trois options. Cette autonomie sur le comment évite de superviser chaque clic.
Mais réserver le billet, ajouter une assurance et payer sont d’autres décisions. Le fait que ces étapes soient logiques ne les rend pas autorisées.
Pour un agent, la frontière peut être formulée simplement :
Un agent fiable ne confond pas une suite évidente avec une permission.