Selon l’analyse de Maetra, les opérateurs britanniques de services essentiels devraient vérifier s’ils peuvent conserver les éléments de preuve d’une tentative infructueuse d’arrêt d’un agent d’IA. La nouvelle fiche d’information du gouvernement sur la résilience de l’IA agentique, publiée le 3 novembre, décrit de futures mesures proposées en matière de sécurité, de notification, de conservation des preuves et de revues d’incident. Elle n’instaure pas aujourd’hui ces obligations spécifiques aux agents. Pour les équipes de conformité, la préparation la plus utile consiste à répéter un scénario qui relie une action observée à l’intervention de l’opérateur, puis à l’action qui a suivi.
Le document officiel de politique publique indique que le périmètre détaillé et les définitions seront élaborés avec le secteur et les autorités de supervision. Il vise la perte de surveillance ou de contrôle sur des agents au sein des réseaux et systèmes d’information. Les équipes devraient suivre l’évolution de ce périmètre en parallèle de leurs dispositifs existants de gestion des incidents.
Ce que le gouvernement a proposé
La fiche d’information envisage quatre mesures : des exigences techniques et organisationnelles de résilience, la notification à d’autres organisations affectées, la conservation des informations pertinentes relatives à l’incident et des pouvoirs ministériels pour mandater des revues techniques. La mise en œuvre interviendrait après la sanction royale par des textes d’application, avec consultation et approbation formelle du Parlement selon la procédure affirmative. Le document limite explicitement son ambition à la perte de contrôle agentique, et non à un cadre exhaustif couvrant l’ensemble des préjudices liés à l’IA.
Cette distinction a des conséquences directes sur le travail de conformité. Un enregistrement interne devrait identifier la proposition, le service potentiellement concerné et la personne chargée de suivre les évolutions. Il devrait aussi laisser clairement apparaître que l’applicabilité et les dates de mise en œuvre restent à déterminer. Enregistrer une proposition comme une obligation déjà en vigueur crée une assurance trompeuse et peut orienter le travail technique vers une exigence dont le périmètre est encore en cours de conception.
L’analyse de Maetra est que les organisations peuvent préparer des éléments de preuve opérationnels utiles tant que ces questions restent ouvertes. L’orientation proposée sur la conservation des preuves justifie un exercice ciblé : démontrer ce qui s’est passé lorsqu’un opérateur a tenté de reprendre le contrôle. L’exercice décrit ci-dessous est une méthode de préparation, et non une liste de contrôle gouvernementale ni une conclusion sur les obligations juridiques d’une organisation donnée.
Conserver l’intervention ainsi que l’action de l’agent
Un dossier qui s’arrête à une alerte ne permet pas d’expliquer si le confinement a fonctionné. Une commande envoyée pour interrompre un flux de travail ne suffit pas non plus à elle seule. Les enquêteurs doivent distinguer la demande, son accusé de réception et le comportement observable qui a suivi.
Prenons le cas hypothétique d’un agent de gestion de service qui commence à modifier des enregistrements en dehors du service qui lui a été attribué. Un opérateur suspend son ordonnanceur, mais un processus déjà en cours continue d’utiliser un connecteur. Une entrée de journal indiquant « agent suspendu » masquerait cet écart. Un meilleur dossier montrerait quel ordonnanceur a été suspendu, quel processus est resté actif, quel accès il a conservé et à quel moment sa dernière opération externe s’est achevée.
L’exemple présenté dans la fiche d’information inclut des informations sur les actions de l’agent et sur les tentatives visant à le contrôler. Les équipes devraient décider quels enregistrements fiables leurs systèmes peuvent réellement produire. Elles devraient éviter de faire du raisonnement interne spéculatif une condition préalable à la reconstitution. Les requêtes adressées aux outils, les décisions d’autorisation, les réponses des connecteurs et les modifications observées dans le système peuvent appuyer une enquête même lorsque le raisonnement privé d’un modèle n’est pas disponible.
Simuler une tentative de reprise de contrôle
Sélectionnez un flux de travail circonscrit dans un environnement de test sûr et convenez du résultat de confinement attendu avant de commencer. Attribuez à l’exercice un responsable technique et un responsable de la collecte des preuves pour la conformité. Le responsable technique établit ce que font réellement les contrôles ; le responsable des preuves vérifie si un autre examinateur peut comprendre le résultat.
| Éléments de preuve à conserver | Question à laquelle ils doivent répondre |
|---|---|
| Identifiants du flux de travail, du processus et du connecteur | Quelles parties du système pouvaient encore agir ? |
| Horodatages de l’alerte et de l’intervention | À quel moment l’opérateur a-t-il pris connaissance du problème et réagi ? |
| Demande de contrôle exacte et accusé de réception | Qu’a-t-il été demandé, et quel composant l’a accepté ? |
| Résultats des actions ultérieures | L’activité s’est-elle arrêtée, a-t-elle échoué ou s’est-elle poursuivie ailleurs ? |
| Emplacement de conservation et journal des accès | Qui peut récupérer les éléments de preuve sans les modifier ? |
Utilisez une action de test inoffensive, réversible et dirigée vers une destination connue. Si un processus continue après une suspension, conservez ce résultat comme un constat. Ne déclarez pas l’exercice concluant au seul motif que le tableau de bord a changé d’état. Convenez d’une correction, désignez un responsable et répétez le test après la modification.
La conservation dans la durée nécessite sa propre décision. Conservez les informations nécessaires à la compréhension de l’incident, limitez les accès et appliquez les règles pertinentes en matière de confidentialité et de conservation. Copier l’ensemble des prompts, des fichiers et des données d’authentification dans un dossier d’incident peut créer un risque d’exposition supplémentaire. Lorsque cela convient, renvoyez aux originaux protégés et consignez les occultations délibérées afin que les examinateurs sachent ce qui manque.
Garder une traçabilité des décisions concernant les parties affectées
La proposition va aussi au-delà de la notification aux clients pour viser d’autres organisations qu’un agent pourrait affecter. En préparation, un responsable de service peut associer chaque destination de connecteur à un contact opérationnel et identifier qui déciderait s’il faut notifier. Les obligations effectives de notification et les seuils applicables devront être appréciés au regard des règles en vigueur au moment considéré.
Pendant l’exercice, vérifiez si l’équipe peut identifier, à partir de ses propres enregistrements, un système externe affecté. Consignez l’incertitude si un connecteur partagé masque la destination ou l’identité utilisée. Une liste de contacts n’est utile que si l’équipe peut la relier à l’opération faisant l’objet de l’examen.
Cela prolonge les questions de responsabilité abordées dans l’analyse de Maetra sur les éléments de preuve d’identité des agents selon le NIST. Ici, la question précise est de savoir si les éléments de preuve survivent à une tentative d’intervention et étayent une revue ultérieure. Comply aide à la cartographie des référentiels, à la veille réglementaire et à la gestion des preuves ; Audit aide à maintenir un historique vérifiable. Aucun des deux ne remplace le travail technique sur les incidents ni ne détermine l’applicabilité juridique.
Pour la prochaine revue de conformité, utilisez la couverture des référentiels de Maetra afin de relier un contrôle existant à la personne chargée des preuves correspondantes et au résultat de l’exercice le plus récent. Gardez le statut de la proposition britannique distinct jusqu’à ce que le processus de consultation et de mise en œuvre établisse les exigences applicables.
Sources
- Gouvernement du Royaume-Uni, Agentic AI resilience measures, 3 novembre 2026. Document de politique publique principal. L’exercice opérationnel ci-dessus relève de l’analyse de Maetra.