Verifieringskedjor för människogranskade transformator-AI-beslut

Transformator-AI-beslut bör vara spårbara hela vägen från rådata till mänsklig auktorisering. Om en AI-assisterad rekommendation inte kan visa vilka data den använde, vilka antaganden den gjorde, vilken behörighet den hade och vem som godkände åtgärden, är den inte redo för underhållsflöden med höga konsekvenser.

GridAPM behandlar verifieringskedjor som en produktfunktion, inte som en eftertanke.

Bevispaketets struktur

Ett bevispaket för transformator-AI bör innehålla:

• Tillgångs-ID, plats, transformatorkontext och berörd komponent.
• Beslutstyp, allvarlighetsgrad, tidsstämpel och granskare.
• Härkomst för källdata: DGA, PRPD, SFRA, termiska data, SCADA, inspektions- och underhållsuppgifter.
• Flaggor för datakvalitet och saknade bevis.
• Normkontext och intern ingenjörspraxis.
• AI-rekommendation, osäkerhet och kända begränsningar.
• Mänskligt godkännande, avslag, åsidosättande eller eskalering.
• Utfallsslinga efter underhåll eller övervakning.

Detta bygger vidare på det AI-flöde med människan i loopen som redan beskrivits i GridAPM-forskningen.

Styrningskontext

NIST AI RMF och AI RMF Playbook erbjuder ett användbart offentligt språkbruk kring styrning, kartläggning, mätning och hantering av AI-risk. NIST:s profil för generativ AI och det framväxande arbetet med identitet och auktorisering för programvara och AI-agenter är särskilt relevanta när AI-agenter kan använda verktyg eller agera för människors räkning.

Inom transformator-APM bör en agent ha en identitet, avgränsade behörigheter, verktygsgränser och en godkännandetröskel.

Korsreferens mot normer

Verifieringskedjan bör koppla bevis till erkänd teknisk kontext utan att kopiera skyddad normtext. Till exempel:

• DGA-bevis kan hänvisa till IEEE C57.104 och IEC 60599.
• Övervakningsbevis kan hänvisa till IEEE C57.143 och CIGRE:s arbete om intelligent tillståndsövervakning.
• PRPD-bevis kan hänvisa till IEC 60270.
• SFRA-bevis kan hänvisa till IEEE C57.149.

Produkten bör parafrasera, hänvisa till offentliga källsidor och låta ingenjören förbli ansvarig för den slutliga tolkningen.

Agentidentitet och auktorisering

Agentisk AI förändrar granskningsfrågan. Det räcker inte att logga en modellutdata. Teamen bör veta:

• Vilken agent som producerade rekommendationen.
• Vilken användare eller vilket arbetsflöde som delegerade uppgiften.
• Vilka verktyg och datakällor agenten fick åtkomst till.
• Om åtkomsten var skrivskyddad eller skrivbehörig.
• Om rekommendationen passerade en godkännandetröskel.
• Vilken människa som godkände eller åsidosatte den.

Detta är särskilt viktigt när rekommendationen matar arbetsordersystem eller planeringsprocesser.

Protokoll för mänsklig granskning

Protokollet för mänsklig granskning bör fånga granskarens roll, beslut, motivering, kommentarer, eskalering och eventuellt åsidosättande. Vid transformatortillstånd med hög risk kan en andra granskning av hållbarhet eller tillgångsprestanda vara lämplig. AI:n bör förbereda bevisen; organisationen beslutar om styrningspolicyn.

Utfallsslinga

Verifieringskedjan bör fortsätta efter rekommendationen. Vilken åtgärd vidtogs? Bekräftade telemetrin efter åtgärden farhågan? Var rekommendationen ett falskt positivt? Minskade nya bevis osäkerheten? Denna utfallsslinga förbättrar framtida underhållsbeslut och hjälper teamen att förstå modelldrift eller luckor i arbetsflödet.

Det praktiska GridAPM-löftet är enkelt: varje AI-rekommendation kommer med de bevis en ingenjör behöver för att godkänna, avslå eller eskalera den.