What is an AI Agent?
- Glossaire IAM
- What is an AI Agent?
Un agent d'IA est une identités non humaine (NHI) capable de percevoir ou de recevoir des signaux sur son environnement, de prendre des décisions et d'entreprendre des actions (souvent par le biais d'outils ou d'intégration) pour atteindre des objectifs spécifiques. Il utilise des techniques d'intelligence artificielle (IA), notamment les grands modèles de langage (LLM), les modèles d'apprentissage automatique et la logique basée sur des règles, pour analyser les données, déterminer les étapes suivantes et accomplir des tâches avec différents niveaux d'intervention humaine. Contrairement aux modèles d'IA autonomes à tour unique qui génèrent principalement des réponses à des invites, les agents d'IA sont orientés vers des objectifs et des actions, et ils peuvent fonctionner sur plusieurs étapes en maintenant l'état, en utilisant des outils et en s'adaptant à de nouveaux contextes.
Agents d'IA vs chatbots vs IA générative
Bien qu'ils soient souvent utilisés de manière interchangeable, les agents d'IA, les chatbots et l'IA générative diffèrent par leur fonction et leur niveau d'autonomie. Les agents d'IA sont conçus pour prendre des décisions et entreprendre des actions afin d'atteindre certains objectifs, souvent en s'intégrant à des systèmes externes pour exécuter des flux de travail. Les chatbots mènent principalement des conversations en réponse à des invites, mais certains chatbots modernes peuvent effectuer des actions limitées et prédéfinies. L'IA générative se concentre sur la création de nouveaux résultats (c'est-à-dire du texte, du code, des images ou des données structurées) à partir de modèles appris et peut être utilisée dans des systèmes automatisés, mais en soi, elle ne planifie ou n'exécute pas nécessairement des actions dans le monde réel. Voici leurs principales différences :
| Caractéristique | Agents d'IA | Chatbots | IA générative |
|---|---|---|---|
| Fonction | Atteindre des objectifs grâce à la prise de décision et à des actions autonomes | Mener principalement des conversations et répondre à des demandes de renseignements | Générer du contenu sur la base d'invites |
| Niveau d'autonomie | Peut planifier et exécuter des tâches avec un minimum d'intervention humaine | Réactif en fonction des données de l'utilisateur | Produit des résultats lorsqu'on le lui demande (l'autonomie dépend de la manière dont il est intégré) |
| Capacité d'action | Peut exécuter des flux de travail et appeler des API | Certains peuvent effectuer des actions prédéfinies | Produit généralement des résultats ; elle n'agit que lorsqu'elle est connecté à des outils ou à des systèmes |
Comment fonctionnent les agents d'IA
Les agents d'IA fonctionnent selon un cycle répétitif et itératif de perception, de prise de décision et d'action. Bien que la technologie qui sous-tend les agents d'IA puisse varier, la plupart d'entre eux suivent un processus similaire :
Recevoir une instruction, une invite ou un objectif : l'agent d'IA est déclenché par une demande de l'utilisateur, un objectif prédéfini ou un déclencheur événementiel provenant d'un système.
Collecte du contexte : avant de pouvoir accomplir sa tâche, l'agent d'IA recueille des données pertinentes telles que les entrées de l'utilisateur, les entrées de la base de données ou les réponses d'API. Certains agents conservent une mémoire à court ou à long terme pour se référer à des expériences ou à des interactions antérieures.
Prendre une décision : à l'aide de modèles d'apprentissage automatique, de LLM ou d'une logique basée sur des règles, l'agent d'IA évalue les actions possibles, pèse les résultats potentiels et détermine les meilleures étapes à suivre.
Planifier et exécuter des actions : pour les objectifs complexes, l'agent d'IA établit une séquence d'actions, comme la mise à jour de fichiers ou de systèmes, pour atteindre son but.
Ils peuvent évaluer les résultats : certains agents avancés peuvent évaluer si leur action a produit le résultat escompté et modifier leur comportement futur en conséquence.
Cinq grands types d'agents d'IA
Les agents d'IA peuvent être classés en cinq catégories principales en fonction de la manière dont ils prennent des décisions et interagissent avec leur environnement.
1. Agents réflexes simples
Les agents réflexes simples constituent le type le plus élémentaire d'agent d'intelligence artificielle. Ils réagissent à des entrées spécifiques en appliquant des règles prédéfinies. Ces agents ne conservent pas de mémoire et ne tiennent pas compte d'un contexte plus large, ce qui les rend idéaux pour les environnements prévisibles mais limités dans les scénarios complexes.
2. Agents réflexes basés sur un modèle
Les agents réflexes basés sur un modèle conservent un modèle interne de leur environnement, ce qui leur permet de suivre les changements et de rendre compte de la manière dont les interactions passées affectent les conditions actuelles. Ils sont plus adaptables que les simples agents réflexes parce qu'ils se souviennent de certains aspects des états précédents, mais ils s'appuient encore principalement sur une logique prédéfinie.
3. Agents basés sur les objectifs
Les agents basés sur les objectifs opèrent avec un résultat clair en tête et déterminent les actions qui les aideront à atteindre cet objectif. Ces agents prennent en compte les conséquences futures et planifient les étapes en conséquence, mais sont toujours limités par leurs cadres de décision programmés.
4. Agents basés sur l'utilité
Les agents basés sur l'utilité mesurent et comparent la désirabilité de divers résultats, sélectionnant l'action qui maximise les bénéfices et minimise les risques. Efficaces dans des environnements dynamiques, ces agents évaluent les compromis et prennent des décisions plus nuancées que les agents basés sur des objectifs.
5. Agents d'apprentissage
Parmi les agents d'IA, les agents d'apprentissage sont les plus avancés car ils améliorent continuellement leurs performances sur la base de nouvelles données et d'expériences antérieures. Leur capacité d'adaptation les rend idéales pour les environnements complexes.
Exemples d'agents d'IA
Dans de nombreux secteurs, les agents d'IA sont utilisés pour automatiser la prise de décision, exécuter des flux de travail et réduire l'intervention humaine. Vous trouverez ci-dessous plusieurs exemples courants d'agents d'IA dans des cas d'utilisation réels :
- Agents d'assistance à la clientèle : basé sur l'IA, les agents d'assistance à la clientèle analysent les demandes des clients, récupèrent des informations sur les comptes, traitent les remboursements ou transmettent les tickets aux membres appropriés de l'équipe.
- Agents de codage : les agents de codage assistent les développeurs en générant, testant et améliorant le code, en identifiant les vulnérabilités et en suggérant des améliorations dans les référentiels de code.
- Véhicules autonomes : les véhicules autonomes utilisent des capteurs et des modèles d'IA pour interpréter les conditions routières et les schémas de circulation, et prendre des décisions de conduite en temps réel pour un transport plus efficace.
- Agents de gestion des stocks : dans les environnements de vente au détail, les agents d'IA peuvent surveiller les niveaux de stock, automatiser les commandes, détecter les dysfonctionnements des équipements, réacheminer les expéditions pour tenir compte des retards et réduire les perturbations de la chaîne d'approvisionnement.
- Agents d'opérations informatiques : les agents d'IA peuvent être utilisés dans les environnements informatiques des entreprises pour détecter les anomalies, déployer des correctifs et déclencher des flux de travail de remédiation prédéfinis.
- Agents de négociation financière : dans les services financiers, les agents d'IA peuvent analyser les données du marché en temps réel et exécuter des transactions sur la base de stratégies prédéfinies, en privilégiant la vitesse et l'évolutivité.
Comment les agents d'IA introduisent de nouveaux risques de sécurité
À mesure que les agents d'IA s'intègrent dans les systèmes d'entreprise, ils posent de nouveaux problèmes de sécurité. Étant donné que les agents d'IA peuvent accéder aux données, interagir avec les applications et exécuter des actions de manière autonome, ils peuvent fonctionner comme des NHI lorsqu'ils utilisent leurs propres identités, telles que des mandants de service, des identités de charge de travail, des jetons d'API ou des applications OAuth. Comme les comptes de service ou les robots, les agents d'IA fonctionnent avec leurs propres identifiants et autorisations, ce qui signifie qu'ils doivent être soigneusement contrôlés et surveillés de la même manière que les utilisateurs humains (c'est-à-dire, moindre privilège, authentification forte et enregistrement des audits). Dans les modèles de sécurité zero trust, aucune identité - ni humaine ni machine - n'est implicitement fiable, et l'accès doit être vérifié et autorisé en permanence pour réduire les risques de sécurité. Les principaux risques associés aux agents d'IA sont les suivants :
- Accès non autorisé : souvent, les agents d'IA ont besoin d'identifiants, de jetons ou de clés API pour fonctionner. Si ces secrets sont exposés ou mal configurés, les cybercriminels peuvent accéder à des systèmes critiques ou à des bases de données internes par le biais de l'identité de l'agent d'IA.
- L'élévation des privilèges : lorsque des agents d'IA se voient accorder des autorisations excessives, ils peuvent agir au-delà de leur champ d'action prévu. S'il est compromis, un agent peut modifier des systèmes critiques, accéder à des données restreintes ou modifier des configurations.
- Attaques par injection d'invite : les agents d'IA alimentés par des LLM peuvent être sensibles à l'injection d'invites, où des entrées malveillantes manipulent les instructions du système. Ces attaques peuvent amener les agents d'IA à divulguer des informations sensibles, à dévoiler des identifiants ou à exécuter des actions non autorisées.
- Fuite de données : étant donné que les agents d'IA se connectent généralement à des plateformes SaaS et à des bases de données internes, une mauvaise configuration peut exposer des données personnelles (PII) ou des entrées financières confidentielles.
- Intégrations excessivement autorisées : pour automatiser les flux de travail, les agents d'IA s'intègrent souvent à de multiples services et applications. Lorsqu'ils bénéficient d'un large accès aux systèmes, les agents d'IA compromis ou mal configurés peuvent considérablement élargir la surface d'attaque d'une organisation.
- Abus des outils ou API et intégrité des actions : même sans « compromis », un agent peut entreprendre des actions incorrectes mais plausibles, telles que la suppression de données, l'envoi d'un courriel au mauvais destinataire ou la modification de configurations, s'il comprend mal le contexte ou reçoit des instructions ambiguës.
- Risque lié à la chaîne d'approvisionnement et aux dépendances : les agents dépendent souvent de modèles, de plugins, de connecteurs ou de serveurs d'outils tiers ; des faiblesses ou des mises à jour malveillantes dans ces dépendances peuvent introduire de nouvelles voies d'attaque.
