Gobernanza de la IA para infraestructuras críticas de red — Un marco práctico para la IA agéntica en flotas de transformadores

La IA en la red ha pasado, de forma silenciosa, de los cuadros de mando analíticos que describen el estado de los activos a los sistemas agénticos que recomiendan y actúan. Ese cambio convierte la gobernanza de la IA de una cuestión de TI en una cuestión de fiabilidad de la red. Dos fuerzas convergen a la vez sobre las empresas eléctricas: la regulación vinculante —el EU AI Act, la NERC CIP— y los marcos de riesgo voluntarios —el NIST AI RMF, la ISO/IEC 42001—. La tesis que las reconcilia es sencilla: en los activos regulados, una recomendación de la IA solo es utilizable si es auditable, acotada y revisada por un humano.

La base regulatoria de referencia

Cuatro instrumentos definen el panorama y se complementan en lugar de competir.

El Marco de gestión de riesgos de IA del NIST es voluntario y organiza el riesgo de la IA en cuatro funciones —Gobernar, Mapear, Medir y Gestionar—, siendo Gobernar la capa transversal de rendición de cuentas. Es el modelo operativo natural que una empresa eléctrica puede adoptar sin esperar a un mandato. El NIST también publicó un Perfil de IA generativa específico que enumera áreas de riesgo como la configuración humano-IA, la integridad de la información y la seguridad de la información —precisamente las preocupaciones que plantean los agentes que generan recomendaciones—.

El EU AI Act sigue un enfoque basado en el riesgo. La IA que actúa como componente de seguridad de una infraestructura crítica se clasifica como de alto riesgo, lo que conlleva obligaciones de evaluación de riesgos, calidad de los datos, documentación, transparencia, supervisión humana y exactitud —tal como resume el resumen del marco regulatorio de la Comisión Europea—. (Las obligaciones del reglamento entran en vigor de forma escalonada en el tiempo; las empresas eléctricas deberían confirmar las fechas vigentes con las fuentes oficiales y no con cualquier resumen de segunda mano.)

Dos regímenes vinculantes para el sector completan el panorama. Las normas NERC CIP son obligatorias y exigibles para el sistema eléctrico de gran capacidad de Norteamérica, con sanciones vinculantes —la razón de derecho imperativo por la que las empresas eléctricas necesitan herramientas de IA que produzcan evidencia de auditoría defendible y respeten los controles de activos y datos—. Y la ISA/IEC 62443 rige la seguridad a lo largo de todo el ciclo de vida de los sistemas de automatización y control industrial en los que realmente residen los transformadores.

La supervisión humana es un requisito de diseño

La idea de gobernanza más importante para una IA de flota de transformadores es que la supervisión humana no es una capa de cortesía añadida al final: es un requisito de diseño consagrado en la ley. Las disposiciones de supervisión humana del EU AI Act exigen que una persona designada pueda comprender el sistema, vigilar su funcionamiento, intervenir y —lo que es crucial— hacer caso omiso de su resultado, anularlo o revertirlo, y detenerlo. La ley menciona explícitamente el sesgo de automatización: el modo de fallo en el que un «revisor» humano confía de forma refleja en la máquina.

Para las decisiones sobre transformadores —aplazar un mantenimiento, priorizar un repuesto, planificar una parada— ese principio es concreto. El humano debe poder discrepar del modelo, lo que significa que el modelo debe mostrar su razonamiento en términos que el humano pueda verificar. Una supervisión que no puede ver la evidencia es pura fachada. Abordamos esa distinción de forma directa en IA con intervención humana y en la filosofía que subyace a los fundamentos de la IA agéntica.

Lo que los propios desarrolladores de frontera practican

Conviene señalar que la postura que los reguladores piden a las empresas eléctricas refleja lo que los desarrolladores de IA de frontera ya practican sobre sí mismos. La Política de escalado responsable de Anthropic vincula las salvaguardas a umbrales de capacidad, de modo que los controles escalan con la capacidad en lugar de ser uniformes. El Marco de preparación de OpenAI y los Principios de IA de Google institucionalizan la evaluación previa al despliegue, la supervisión humana y una revisión interna con rendición de cuentas antes de la puesta en producción. La lección que de ello se deriva para las empresas eléctricas es adoptar la postura —controles proporcionales, revisión documentada, autonomía escalonada— y no la política de un proveedor concreto.

De los marcos a una norma operativa

El tejido conectivo que convierte las directrices en evidencia de auditoría es la ISO/IEC 42001, la primera norma certificable de sistemas de gestión de IA. Cubre la gestión del ciclo de vida, la evaluación del impacto de la IA y la supervisión de terceros y proveedores de modelos —el sistema de registro que permite a una empresa eléctrica demostrar ante un auditor su programa alineado con el NIST, en lugar de limitarse a afirmarlo—. La evaluación de riesgos del CESER para la IA en infraestructuras energéticas críticas del DOE de EE. UU. refuerza esa misma postura de confiar pero verificar, señalando los modos de fallo no intencionados, los ataques adversarios y el compromiso de la cadena de suministro de software como riesgos que hay que gestionar y no como razones para abstenerse.

El patrón de despliegue conforme

Leídos en conjunto, estos marcos describen un único patrón de despliegue. Ninguno de ellos exige la ausencia de automatización; cada uno exige una automatización gobernada con cuatro propiedades:

• Evidencia: cada recomendación remite a la señal de DGA, PRPD, SFRA o del aceite que la produjo.
• Procedencia: qué modelo, qué datos, qué activo, qué marca temporal: reproducible.
• Registro de auditoría: un registro inmutable que un auditor de la NERC o de la ISO pueda recorrer, razón por la cual los registros de auditoría para IA de transformadores revisada por humanos son una función de primera clase, no un simple archivo de log.
• Autonomía acotada: el agente propone, un ingeniero cualificado dispone y se incorporan límites operativos estrictos —la misma idea que subyace a un modelo de permisos de agentes de IA explícito y a un registro de riesgos de IA en OT documentado—.

Cómo está construido GridAPM para esta postura

GridAPM está diseñado para encajar como evidencia dentro de un programa NIST-RMF o ISO 42001. Funciona con procesamiento local, y mantiene los datos de la flota dentro de la frontera OT de la empresa eléctrica en línea con la postura de IEC 62443 y NERC CIP; con intervención humana por defecto, de modo que las conclusiones se revisan en lugar de ejecutarse automáticamente; y enlazado a la fuente, de modo que toda conclusión es trazable hasta la medición y la norma subyacentes. La gobernanza, en otras palabras, no es un documento que el equipo redacta tras el despliegue: es la forma misma del producto.

Los marcos convergen en un mensaje claro: la automatización es bienvenida en la red, pero solo cuando es auditable, acotada y revisada por alguien capaz de anularla. Solicite un piloto de GridAPM para evaluar un flujo de trabajo listo para la gobernanza frente a su propia flota de transformadores, o consulte antes nuestros compromisos de tratamiento de datos.