Sécurité des agents IA : les enseignements tirés de l'incident Hugging Face
Que devrait-on autoriser les agents d'IA à faire ? Rob Nidschelm, de Getronics, analyse l'incident de Hugging Face et examine les contrôles d'accès, les questions de propriété et de supervision dont les organisations ont besoin avant tout déploiement.
Consultez un expert
Les agents IA ne se contentent pas de répondre à des questions : ils peuvent utiliser des outils, accéder à des systèmes et prendre des mesures. Leurs autorisations et leur contrôle constituent donc un enjeu de sécurité. Dans un article publié sur Cybersecurity Insiders, Rob Nidschelm, responsable mondial de la sécurité opérationnelle chez Getronics, examine ce que l'incident de Hugging Face révèle sur le déploiement sécurisé des agents — et sur la nécessité de clarifier les responsabilités quant à leurs actions.
Que s'est-il passé lors de l'affaire Hugging Face ?
En juillet 2026,le compte-rendu de l’incident rédigé par OpenAI explique que des agents IA, dans le cadre d’un test de sécurité interne mené avec certaines mesures de protection désactivées, ont trouvé un moyen de s’échapper de leur environnement de test et ont accédé à des systèmes appartenant à Hugging Face. Le système de surveillance a détecté cette activité en quelques minutes, mais l’opération s’est poursuivie pendant plus de deux heures avant d’être interrompue. Personne n’a demandé aux agents de se comporter de manière inappropriée. Ils avaient simplement une tâche à accomplir, des capacités importantes et une faille à exploiter.
Pour les organisations qui déploient l’IA, la leçon à retenir est claire : les instructions seules ne suffisent pas à définir les limites de sécurité d’un agent. Ces limites doivent être imposées par les systèmes qui l’entourent.
Les instructions ne suffisent pas à elles seules à définir les limites de sécurité d'un agent. Il convient d'imposer des restrictions au niveau des systèmes entourant l'agent.
Six mesures de contrôle à prendre en compte avant de déployer des agents d'IA
Contrôle | Ce que cela signifie concrètement |
|---|---|
01. Appliquer les autorisations en dehors du modèle | Le fait qu’un agent soit capable d’effectuer une action ne signifie pas pour autant qu’il soit autorisé à la réaliser. Une consigne peut décrire un comportement acceptable, mais elle ne saurait se substituer aux contrôles d’accès. N’accordez aux agents que les autorisations nécessaires à l’accomplissement de leurs tâches, les restrictions étant appliquées indépendamment du modèle. Un agent ne doit pas pouvoir étendre ses propres droits d’accès ni désactiver les contrôles qui le régissent. La gestion des identités et des accès privilégiés permet d’établir ces limites. |
02. Attribuer une identité et un propriétaire à chaque agent | Chaque agent de production doit disposer de sa propre identité, d’un objectif formalisé et d’un responsable désigné. Il convient de distinguer la responsabilité de l’entreprise des responsabilités liées au développement et à l’administration : qui approuve son mandat, qui en assure la maintenance et qui peut intervenir ? Les organisations doivent être en mesure de retracer les actions jusqu’à l’agent, à l’utilisateur à l’origine de l’opération et à l’exécution concernée. Une attribution claire des responsabilités permet de relier la gouvernance et le déploiement de l’IA aux décisions opérationnelles quotidiennes. |
03. Gérer les agents tout au long de leur cycle de vie | Rob compare les agents non gérés aux bases de données « faites maison » des années 1990 : des solutions rapides qui sont devenues essentielles à l'activité, sans responsabilité clairement définie ni documentation. Il convient de réexaminer l'objectif et les autorisations d'un agent lorsque ses responsabilités changent, de transférer la responsabilité lorsque son créateur quitte l'entreprise et de supprimer son accès lorsqu'il est mis hors service. Les processus liés aux arrivées, aux mutations et aux départs doivent prendre en compte ces identités numériques ainsi que les personnes qui en sont responsables. |
04. Associer la surveillance au confinement | La détection d’activités suspectes n’a d’utilité que si l’organisation est en mesure d’agir en conséquence. Les équipes doivent pouvoir savoir ce que fait un agent, à quels systèmes il a accès et quelles tâches il a déléguées. Elles ont également besoin d’un moyen éprouvé pour interrompre ces activités, révoquer les accès et contenir les processus associés. Une détection et une réponse efficaces aux incidents associent les alertes à des responsabilités clairement définies et à des mesures concrètes. |
05. Évaluer les risques techniques parallèlement aux obligations réglementaires | La classification « à haut risque » prévue par la loi européenne sur l’IA tient compte de la finalité d’un système d’IA et des critères de classification applicables. Elle ne constitue pas une mesure directe du niveau d’accès à la production dont dispose un agent, comme l’expliquent les lignes directrices de la Commission européenne en matière de classification. Les organisations doivent également évaluer ce qu’un agent est en mesure de lire, de modifier ou de déclencher, ainsi que les conséquences s’il agit en dehors de son mandat. L’évaluation réglementaire et l’évaluation technique des risques nécessitent une responsabilité clairement définie. |
06. Préserver un contrôle humain significatif | La supervision humaine nécessite des personnes disposant des compétences, du temps et de l’autorité nécessaires pour remettre en question les actions d’un agent. L’enquête 2025 d’Orgvue a révélé que 55 % des personnes interrogées ayant procédé à des licenciements liés à l’IA estimaient avoir pris de mauvaises décisions à ce sujet. Par ailleurs, Robert Half a indiqué que 32 % des responsables du recrutement américains ayant supprimé un poste principalement en raison de l’IA ont par la suite réembauché quelqu’un pour un poste identique ou similaire. Il est essentiel de bien comprendre les besoins de supervision de votre modèle opérationnel avant de vous séparer des personnes qui assurent cette supervision. |
Que devrait-on autoriser les agents d'IA à faire ?
La plupart des entreprises ont passé ces dernières années à se demander si leurs collaborateurs pouvaient utiliser l'IA. Les agents soulèvent une autre question : que devrait-on autoriser l'IA à faire au nom de l'organisation ?
Avant le déploiement, posez-vous cinq questions
- Qui est le propriétaire de l'agent et qui en approuve la finalité ?
- À quoi peut-il accéder, que peut-il modifier et que peut-il déléguer ?
- Quelles actions nécessitent une validation humaine ?
- Comment peut-on lui retirer son accès et mettre fin à son activité ?
- Les procédures de confinement et de récupération ont-elles été testées ?
Les perspectives sont considérables, mais la responsabilité des résultats incombe toujours à l'organisation.
Lisez l'analyse complète de Rob sur Cybersecurity Insiders pour découvrir son point de vue sur les autorisations des agents, la responsabilité, le confinement et la supervision humaine.
À propos de l'auteur
Rob Nidschelm
Responsable mondial de la sécurité opérationnelle
Rob Nidschelm dirige les équipes mondiales chargées de la sécurité opérationnelle chez Getronics, dont les missions couvrent les opérations de sécurité, la gestion des identités et des accès privilégiés, le renseignement sur les menaces, l'ingénierie de sécurité et la réponse aux incidents. Actif dans le domaine de la cybersécurité depuis 2005, il aide les organisations à concilier stratégie de sécurité, mesures de contrôle concrètes, responsabilité clairement définie et résilience opérationnelle.
www.linkedin.com/in/robnid/
