En Bref

• Les agents autonomes d’IA prennent désormais des décisions et agissent de manière indépendante à travers les systèmes d’entreprise, souvent sans supervision humaine.
• Les outils traditionnels de sécurité des identités sont conçus pour les personnes, pas pour les identités non humaines comme les agents d’IA.
• Les agents d’IA non gérés ou « fantômes » peuvent persister avec des identifiants puissants, devenant des cibles de choix pour les attaquants.
• Les agents d’IA peuvent divulguer des données sensibles ou augmenter leurs privilèges, souvent sans déclencher les alertes de sécurité traditionnelles.
• Les responsables de la sécurité s’empressent de redéfinir les contrôles d’identité avant que l’IA agentique ne devienne incontrôlable.

Le nouveau dilemme des identités non humaines

Imaginez une ville animée où, du jour au lendemain, des travailleurs invisibles apparaissent - ouvrant des portes, transférant des fonds et prenant des décisions critiques. Personne ne sait vraiment combien ils sont, qui les contrôle, ni quand ils partiront. C’est l’entreprise moderne à l’ère des agents autonomes d’IA : un monde numérique où les machines agissent de leur propre chef, tout en échappant souvent aux mailles de la sécurité traditionnelle.

Pendant des décennies, la cybersécurité s’est concentrée sur les personnes - vérifiant les empreintes digitales, surveillant les connexions suspectes et examinant les journaux d’activité des utilisateurs. Mais les agents d’IA n’ont ni visage, ni empreintes, ni même de routines fixes. Ils génèrent des sous-agents, produisent des activités imprévisibles et manquent souvent de propriétaires humains clairement identifiés. Cela a créé un paysage obscur d’identités non humaines (NHI) que les outils hérités ne peuvent ni gérer ni surveiller efficacement.

Comment les agents fantômes deviennent les meilleurs alliés des attaquants

Contrairement aux employés, les agents d’IA passent rarement par un processus formel d’intégration ou de départ. Beaucoup subsistent bien après que leur utilité ait été oubliée, conservant des identifiants puissants ou des accès aux systèmes. Les équipes de sécurité les perdent souvent de vue, créant ainsi des « agents fantômes » - des cibles idéales pour les pirates. Dans un rapport de Gartner de 2023, plus de 30 % des organisations ont admis ne disposer que de peu ou pas d’inventaire de leurs processus alimentés par l’IA, les exposant à des élévations de privilèges silencieuses et à des fuites de données.

Les attaquants exploitent rapidement ces failles. En détournant un agent ou en manipulant subtilement ses instructions (une méthode observée lors de récentes violations de données SaaS), les cybercriminels peuvent accéder à des informations sensibles ou déclencher des actions non autorisées, tout en apparaissant comme une activité « de confiance » dans les journaux système. La célèbre attaque SolarWinds, par exemple, a montré comment une automatisation de confiance mais non surveillée peut être détournée pour un mouvement latéral dévastateur.

Pourquoi les anciens outils de sécurité sont dépassés

Les systèmes de sécurité hérités reposent sur des schémas humains : horaires de connexion, empreintes d’appareils ou anomalies dans la vitesse de frappe. Les agents d’IA brisent ces hypothèses. Ils fonctionnent 24h/24, interagissent via des API et raisonnent de manière autonome, d’une façon qui ne ressemble en rien au comportement humain. Pire encore, dans des flux de travail complexes, l’identité de l’utilisateur derrière un agent peut se perdre complètement, rendant impossible de répondre à la question « qui a fait cela ? » lorsque le coupable est un processus éphémère.

Ce manque de visibilité n’est pas qu’un casse-tête technique - c’est une bombe à retardement pour la conformité. Des données sensibles peuvent être exfiltrées via des messages d’agent à agent ou par manipulation de prompts, contournant la plupart des outils de détection. À mesure que l’IA s’intègre dans les infrastructures critiques, le risque de violations silencieuses et à grande échelle augmente.

Repenser l’identité : la voie à suivre

Les responsables de la sécurité sont désormais incités à adopter une sécurité « identity-first » pour les agents d’IA. Cela signifie attribuer à chaque agent une identité unique, strictement gérée, des permissions limitées et une propriété humaine clairement définie. Des audits réguliers, des coupe-circuits pour les agents déviants et l’intégration dans les systèmes de gestion des identités et des accès (IAM) deviennent des pratiques recommandées. Le marché de la gouvernance des identités natives à l’IA est en plein essor, avec des startups et des fournisseurs établis qui se précipitent pour combler le vide.

Les enjeux sont élevés. À mesure que la frontière entre humain et machine s’estompe, ne pas adapter les contrôles d’identité pourrait laisser les entreprises totalement exposées à la prochaine vague de cyberattaques - silencieuses, automatisées et terriblement efficaces.

WIKICROOK

• Agent autonome d’IA : Un agent autonome d’IA est un système d’intelligence artificielle qui analyse indépendamment des données, prend des décisions et agit - utilisé couramment pour détecter et contrer les cybermenaces.
• Non : Une identité non humaine est un identifiant numérique utilisé par des logiciels ou des machines, et non par des personnes, pour accéder de manière sécurisée à des systèmes et des données.
• Escalade de privilèges : L’escalade de privilèges se produit lorsqu’un attaquant obtient un accès de niveau supérieur, passant d’un compte utilisateur standard à des privilèges administrateur sur un système ou un réseau.
• API (Interface de Programmation d’Applications) : Une API est un ensemble de règles permettant à différents systèmes logiciels de communiquer, servant de pont entre les applications. Les API sont des cibles courantes en cybersécurité.
• Agent fantôme : Un agent fantôme est un programme d’IA qui fonctionne sans supervision formelle, restant souvent inaperçu et exposant potentiellement les organisations à des risques de sécurité.