Agent IA

Un agent IA est un dispositif qui confie à un modèle de langage non seulement la production de texte, mais aussi le choix des actions à effectuer pour atteindre un objectif. Là où un assistant classique répond à une question, un agent enchaîne des étapes : consulter une source, extraire une page web, appeler un service tiers, vérifier un résultat, recommencer si nécessaire.

Le terme est employé pour désigner des dispositifs très différents, du simple appel de fonction jusqu'à des systèmes autonomes complexes qui savent lancer des commandes, analyser des fichiers et les écrire.

Qu'est-ce qui distingue un agent ?

Trois caractéristiques séparent un agent d'un simple appel à un modèle :

• L'accès à des outils : le modèle peut déclencher des fonctions que vous lui exposez telles qu'interroger une base de données, envoyer un e-mail, créer une page, lancer une recherche. Il ne les exécute pas lui-même mais en réalité demande, puis votre code décide et exécute.
• La boucle : le résultat de chaque action lui est renvoyé, et il choisit l'étape suivante. C'est cette itération qui produit l'impression d'autonomie (loop).
• Un objectif plutôt qu'une instruction : on lui confie un but (goal) à atteindre plutôt qu'une procédure précise à dérouler. Le chemin est décidé au fur et à mesure, en cours de route.

Un agent n'a aucune capacité d'action propre. Tout ce qu'il peut faire, c'est ce que vous avez explicitement décidé de lui exposer. La sécurité d'un agent est d'abord une question de périmètre d'outils, et de ce que vous lui mettez à disposition.

Les niveaux d'autonomie

Tous les besoins ne justifient pas la même complexité. Du plus simple au plus engageant :

• Appel unique : une question, une réponse. Pas d'agent, et c'est souvent suffisant. Couvre beaucoup de besoins réels.

• Enchaînement fixe : une suite d'étapes définies, dont certaines font appel au modèle. Prévisible, testable, facile à tester.

• Agent avec outils : le modèle choisit quels outils appeler et dans quel ordre, dans un périmètre que vous délimitez. Pertinent quand le chemin ne peut pas être anticipé.

• Agents multiples en coordination : plusieurs agents spécialisés qui se répartissent le travail. Séduisant sur le papier, difficile à maîtriser, coûteux à exécuter et complexe à diagnostiquer quand le résultat est mauvais.

Notre conseil : choisir le niveau le plus bas qui résout le problème. Un enchaînement d'étapes fixes que l'on peut tester vaut mieux qu'un agent autonome avec un comportement aléatoire.

Les risques à cadrer

Confier des actions à un modèle change la nature des risques. Ce ne sont plus seulement de mauvaises réponses, mais de mauvaises opérations.

• Les actions irréversibles : suppression, envoi indésirable, paiement, publication en production. Ces outils doivent exiger une confirmation humaine, sans confiance aveugle, ou rester hors de portée de l'agent.
• L'injection d'instructions : si l'agent lit un contenu extérieur (page web, e-mail, document déposé par un utilisateur), ce contenu peut contenir des consignes destinées à le détourner (prompt injection). C'est une faille de sécurité propre aux agents, et elle n'a pas de parade complète à ce jour.
• Les boucles coûteuses : un agent qui n'aboutit pas peut réessayer indéfiniment, même les meilleurs outils développés par les plus grandes entreprises de la Silicon Valley y sont sujet. Un maximum d'itérations et de budget est une sécurité.
• La traçabilité : chaque décision et chaque appel d'outil devraient être journalisés, c'est-à-dire enregistrés dans des fichiers de log. Sans cela, expliquer ce qui s'est passé devient difficile pour améliorer le système.

Ces exigences ne sont pas propres à l'intelligence artificielle : elles relèvent de la conception d'un système sûr. Elles rejoignent le cadre du règlement européen, qui impose une supervision humaine pour les usages jugés à risque.