Pistes d'audit pour les décisions d'AI de transformateur revues par un humain

Les décisions d’AI de transformateur devraient être traçables depuis les preuves brutes jusqu’à l’autorisation humaine. Si une recommandation assistée par AI ne peut pas montrer quelles données elle a utilisées, quelles hypothèses elle a posées, quelle autorité elle détenait et qui a approuvé l’action, elle n’est pas prête pour des flux de travail de maintenance à forte conséquence.

GridAPM conçoit les pistes d’audit comme une fonctionnalité du produit, et non comme une réflexion après coup.

Structure du dossier de preuves

Un dossier de preuves d’AI de transformateur devrait inclure :

• L’identifiant d’actif, le site, le contexte du transformateur et le composant concerné.
• Le type de décision, la sévérité, l’horodatage et l’examinateur.
• La provenance des données sources : DGA, PRPD, SFRA, thermique, SCADA, inspection et enregistrements de maintenance.
• Les indicateurs de qualité des données et les preuves manquantes.
• Le contexte normatif et la pratique d’ingénierie interne.
• La recommandation de l’AI, l’incertitude et les limites connues.
• L’approbation, le rejet, la dérogation ou l’escalade par un humain.
• La boucle de résultat après maintenance ou surveillance.

Cela s’appuie sur le flux de travail d’AI avec humain dans la boucle déjà décrit dans les recherches de GridAPM.

Contexte de gouvernance

Le NIST AI RMF et l’AI RMF Playbook fournissent un vocabulaire public utile autour de la gouvernance, de la cartographie, de la mesure et de la gestion du risque lié à l’AI. Le profil AI générative du NIST et les travaux émergents sur l’identité et l’autorisation des logiciels et des agents AI sont particulièrement pertinents lorsque des agents AI peuvent utiliser des outils ou agir pour le compte de personnes.

En APM de transformateur, un agent devrait disposer d’une identité, de permissions délimitées, de limites d’outils et d’un seuil d’approbation.

Correspondance avec les normes

La piste d’audit devrait relier les preuves à un contexte technique reconnu sans copier le texte protégé des normes. Par exemple :

• Les preuves DGA peuvent renvoyer à IEEE C57.104 et IEC 60599.
• Les preuves de surveillance peuvent renvoyer à IEEE C57.143 et aux travaux de la CIGRE sur la surveillance d’état intelligente.
• Les preuves PRPD peuvent renvoyer à IEC 60270.
• Les preuves SFRA peuvent renvoyer à IEEE C57.149.

Le produit devrait paraphraser, citer les pages sources publiques et laisser l’ingénieur responsable de l’interprétation finale.

Identité et autorisation de l’agent

L’AI agentique change la question de l’audit. Il ne suffit pas de journaliser une sortie de modèle. Les équipes devraient savoir :

• Quel agent a produit la recommandation.
• Quel utilisateur ou quel flux de travail a délégué la tâche.
• À quels outils et sources de données l’agent a accédé.
• Si l’accès était en lecture seule ou en écriture.
• Si la recommandation a franchi un seuil d’approbation.
• Quel humain l’a approuvée ou a exercé une dérogation.

Cela est particulièrement important lorsque la recommandation alimente des systèmes d’ordres de travail ou des processus de planification.

Enregistrement de l’examen humain

L’enregistrement de l’examen humain devrait consigner le rôle de l’examinateur, la décision, la justification, les commentaires, l’escalade et toute dérogation. Pour les états de transformateur à haut risque, un second examen de durabilité ou de performance des actifs peut être approprié. L’AI devrait préparer les preuves ; l’organisation décide de la politique de gouvernance.

Boucle de résultat

La piste d’audit devrait se poursuivre après la recommandation. Quelle action a été entreprise ? La télémétrie post-action a-t-elle confirmé le problème ? La recommandation était-elle un faux positif ? De nouvelles preuves ont-elles réduit l’incertitude ? Cette boucle de résultat améliore les futures décisions de maintenance et aide les équipes à comprendre la dérive du modèle ou les lacunes du flux de travail.

La promesse pratique de GridAPM est simple : chaque recommandation d’AI s’accompagne des preuves dont un ingénieur a besoin pour l’approuver, la rejeter ou l’escalader.