핵심 전력망 인프라를 위한 AI 거버넌스 — 변압기 플릿의 에이전틱 AI를 위한 실무 프레임워크

전력망의 AI는 자산 상태를 설명하는 분석 대시보드에서 권고하고 조치하는 에이전틱 시스템으로 조용히 이동해 왔다. 이 변화는 AI 거버넌스를 IT의 관심사에서 전력망 신뢰성의 문제로 바꿔 놓는다. 두 가지 힘이 전력회사에 동시에 수렴하고 있다. 하나는 강행 규제 — EU AI Act, NERC CIP — 이고, 다른 하나는 자발적 위험 프레임워크 — NIST AI RMF, ISO/IEC 42001 — 이다. 이 둘을 조화시키는 명제는 단순하다. 규제 대상 자산에서 AI 권고는 감사 가능하고, 제한되어 있으며, 인간이 검토했을 때에만 사용할 수 있다.

매핑 대상이 되는 규제 기준선

네 가지 규제 수단이 이 지형을 규정하며, 이들은 경쟁하기보다는 서로 보완한다.

NIST AI Risk Management Framework는 자발적이며 AI 위험을 네 가지 기능 — Govern, Map, Measure, Manage — 으로 구성하고, 그중 Govern을 전반을 아우르는 책임 계층으로 둔다. 이는 전력회사가 의무화를 기다리지 않고도 채택할 수 있는 자연스러운 운영 모델이다. NIST는 또한 인간-AI 구성, 정보 무결성, 정보 보안을 포함한 위험 영역을 명명하는 별도의 Generative AI Profile을 발간했는데, 이는 바로 권고를 생성하는 에이전트가 제기하는 우려에 정확히 해당한다.

EU AI Act은 위험 기반 접근 방식을 따른다. 핵심 인프라의 안전 구성 요소로 작동하는 AI는 고위험으로 분류되어, 유럽위원회의 규제 프레임워크 개요가 요약하듯 위험 평가, 데이터 품질, 문서화, 투명성, 인간 감독, 정확성에 대한 의무를 진다. (이 법의 의무는 시간에 걸쳐 단계적으로 적용된다. 전력회사는 2차 요약본이 아니라 공식 출처를 통해 현재 시행 일자를 확인해야 한다.)

두 가지 부문별 구속 체제가 그림을 완성한다. NERC CIP 표준은 북미 대용량 전력 시스템에 대해 의무적이고 강제력이 있으며 구속력 있는 벌칙을 수반한다 — 이것이 전력회사가 방어 가능한 감사 증거를 산출하고 자산 및 데이터 통제를 준수하는 AI 도구를 필요로 하는 강행법상의 이유다. 그리고 ISA/IEC 62443은 변압기가 실제로 놓여 있는 산업 자동화 및 제어 시스템의 수명 주기 전반에 걸친 보안을 규율한다.

인간 감독은 설계 요건이다

변압기 플릿 AI에 대한 가장 중요한 거버넌스 개념은, 인간 감독이 마지막에 덧붙이는 형식적 계층이 아니라 법으로 명문화된 설계 요건이라는 점이다. EU AI Act의 인간 감독 조항은 지정된 담당자가 시스템을 이해하고, 그 작동을 모니터링하며, 개입하고 — 결정적으로 — 그 출력을 무시·무효화·되돌리며 시스템을 정지할 수 있을 것을 요구한다. 이 법은 자동화 편향, 즉 인간 “검토자”가 기계를 반사적으로 신뢰하는 실패 양상을 명시적으로 지목한다.

유지보수 연기, 예비품 우선순위 결정, 정전 계획 등 변압기 관련 결정에서 이 원칙은 구체적이다. 인간은 모델과 이견을 제시할 수 있어야 하며, 이는 곧 모델이 인간이 검증할 수 있는 방식으로 그 추론을 제시해야 함을 뜻한다. 증거를 볼 수 없는 감독은 연극에 불과하다. 우리는 human-in-the-loop AI와 에이전틱 AI 기반 뒤에 있는 철학에서 이 구분을 정면으로 다룬다.

프런티어 개발사 스스로가 실천하는 것

규제 기관이 전력회사에 요구하는 태세가 프런티어 AI 개발사들이 이미 스스로에게 실천하는 것을 그대로 반영한다는 점은 주목할 만하다. Anthropic의 Responsible Scaling Policy는 안전장치를 역량 임계값에 결부시켜, 통제가 획일적이기보다는 역량에 따라 확장되도록 한다. OpenAI의 Preparedness Framework와 Google의 AI Principles는 모두 배포 전 평가, 인간 감독, 그리고 출시 전 책임 있는 내부 검토를 제도화한다. 전력회사가 얻을 하류의 교훈은 어느 단일 벤더의 정책이 아니라 그 태세 — 비례적 통제, 문서화된 검토, 단계적 자율성 — 를 채택하는 것이다.

프레임워크에서 운영 표준으로

지침을 감사 증거로 바꾸는 연결 조직은 최초의 인증 가능한 AI 관리 시스템 표준인 ISO/IEC 42001이다. 이는 수명 주기 관리, AI 영향 평가, 제3자 및 모델 공급업체 감독을 다루며, 전력회사가 자사의 NIST 정합 프로그램을 단순히 주장하는 데 그치지 않고 감사인에게 입증할 수 있게 하는 기록 시스템이다. 미국 DOE의 핵심 에너지 인프라 내 AI에 대한 CESER 위험 평가는 동일한 신뢰하되 검증하라는 입장을 강화하며, 비의도적 실패 양상, 적대적 공격, 소프트웨어 공급망 훼손을 자제의 이유가 아니라 관리해야 할 위험으로 지목한다.

규정을 준수하는 배포 패턴

이 프레임워크들을 종합해서 읽으면 하나의 배포 패턴을 그려낸다. 어느 것도 자동화의 부재를 요구하지 않으며, 각각 네 가지 속성을 갖춘 거버넌스된 자동화를 요구한다.

• 증거 — 모든 권고는 그것을 산출한 DGA, PRPD, SFRA 또는 오일 신호로 거슬러 연결된다.
• 출처 — 어떤 모델, 어떤 데이터, 어떤 자산, 어떤 타임스탬프인지: 재현 가능하다.
• 감사 추적 — NERC 또는 ISO 감사인이 따라갈 수 있는 불변 기록으로, 인간이 검토한 변압기 AI를 위한 감사 추적이 로그 파일이 아니라 일급 기능인 이유가 여기에 있다.
• 제한된 자율성 — 에이전트가 제안하고, 자격을 갖춘 엔지니어가 처리하며, 강한 운영 한계가 내장되어 있다 — 명시적인 AI 에이전트 권한 모델과 문서화된 OT AI 위험 등록부 뒤에 있는 것과 같은 개념이다.

GridAPM이 이 태세에 맞게 구축된 방식

GridAPM은 NIST-RMF 또는 ISO 42001 프로그램에 증거로 끼워 넣을 수 있도록 설계되었다. GridAPM은 로컬 우선이어서 IEC 62443 및 NERC CIP 태세에 부합하게 플릿 데이터를 전력회사의 OT 경계 내부에 유지하고, 기본적으로 human-in-the-loop여서 분석 결과가 자동 조치되기보다 검토되며, 출처 연결형이어서 모든 결론이 기저의 측정값과 표준으로 추적 가능하다. 다시 말해 거버넌스는 팀이 배포 이후에 작성하는 문서가 아니라 제품의 형태 그 자체다.

프레임워크들은 하나의 분명한 메시지로 수렴하고 있다. 전력망에서 자동화는 환영받지만, 감사 가능하고, 제한되어 있으며, 그것을 무효화할 수 있는 누군가가 검토했을 때에 한한다. 거버넌스 대응 워크플로를 여러분의 변압기 플릿에 직접 평가해 보려면 GridAPM 파일럿을 신청하거나, 먼저 우리의 데이터 처리 약속을 검토하라.