Governance von AI für kritische Netzinfrastruktur — ein praxisnaher Rahmen für agentische AI in Transformatorflotten

AI im Netz hat sich unbemerkt von Analyse-Dashboards, die den Zustand von Assets beschreiben, hin zu agentischen Systemen verschoben, die empfehlen und handeln. Diese Verschiebung macht aus AI-Governance keine reine IT-Frage mehr, sondern eine Frage der Netzzuverlässigkeit. Zwei Kräfte treffen zugleich auf die Versorger: harte Regulierung — der EU AI Act, NERC CIP — und freiwillige Risikorahmen — NIST AI RMF, ISO/IEC 42001. Die These, die beide zusammenführt, ist einfach: Auf regulierten Assets ist eine AI-Empfehlung nur dann brauchbar, wenn sie auditierbar, begrenzt und menschlich geprüft ist.

Die regulatorische Grundlage, an der man sich ausrichtet

Vier Instrumente prägen das Feld, und sie ergänzen sich, statt zu konkurrieren.

Das NIST AI Risk Management Framework ist freiwillig und gliedert AI-Risiken in vier Funktionen — Govern, Map, Measure, Manage —, wobei Govern die übergreifende Verantwortungsebene bildet. Es ist das naheliegende Betriebsmodell, das ein Versorger übernehmen kann, ohne auf eine Verpflichtung zu warten. NIST hat außerdem ein eigenes Generative AI Profile veröffentlicht, das Risikobereiche benennt, darunter die Mensch-AI-Konfiguration, Informationsintegrität und Informationssicherheit — genau jene Belange, die von Agenten aufgeworfen werden, die Empfehlungen erzeugen.

Der EU AI Act verfolgt einen risikobasierten Ansatz. AI, die als Sicherheitskomponente kritischer Infrastruktur wirkt, wird als hochriskant eingestuft und trägt Pflichten zu Risikobewertung, Datenqualität, Dokumentation, Transparenz, menschlicher Aufsicht und Genauigkeit — so fasst es der Überblick über den Regulierungsrahmen der Europäischen Kommission zusammen. (Die Pflichten des Rechtsakts treten schrittweise in Kraft; Versorger sollten die aktuellen Fristen an den offiziellen Quellen prüfen und nicht anhand einer Zusammenfassung aus zweiter Hand.)

Zwei sektorbindende Regelwerke vervollständigen das Bild. Die NERC CIP-Normen sind für das nordamerikanische Verbundnetz verbindlich und durchsetzbar, mit bindenden Sanktionen — der harte Rechtsgrund, warum Versorger AI-Werkzeuge brauchen, die belastbare Audit-Nachweise erzeugen und die Kontrollen für Assets und Daten wahren. Und ISA/IEC 62443 regelt die Sicherheit über den gesamten Lebenszyklus der industriellen Automatisierungs- und Steuerungssysteme, in denen Transformatoren tatsächlich betrieben werden.

Menschliche Aufsicht ist eine Konstruktionsanforderung

Der wichtigste Governance-Gedanke für eine AI in einer Transformatorflotte lautet: Menschliche Aufsicht ist keine höfliche Zusatzschicht, die am Ende angeschraubt wird — sie ist eine gesetzlich verankerte Konstruktionsanforderung. Die Bestimmungen des EU AI Act zur menschlichen Aufsicht verlangen, dass eine benannte Person das System verstehen, seinen Betrieb überwachen, eingreifen und — entscheidend — seine Ausgabe ignorieren, überstimmen oder rückgängig machen und es stoppen kann. Das Gesetz benennt ausdrücklich den Automation Bias: den Fehlermodus, bei dem ein menschlicher „Prüfer“ der Maschine reflexartig vertraut.

Für Transformatorentscheidungen — Wartung aufschieben, ein Reserveaggregat priorisieren, eine Abschaltung planen — ist dieser Grundsatz konkret. Der Mensch muss dem Modell widersprechen können, was bedeutet, dass das Modell seine Begründung so darlegen muss, dass der Mensch sie überprüfen kann. Aufsicht, die die Belege nicht sehen kann, ist Theater. Diese Unterscheidung behandeln wir direkt in KI mit menschlicher Prüfung und in der Philosophie hinter den Grundlagen agentischer AI.

Was führende AI-Entwickler selbst praktizieren

Bemerkenswert ist, dass die Haltung, die Aufsichtsbehörden von Versorgern verlangen, das widerspiegelt, was die führenden AI-Entwickler bereits an sich selbst praktizieren. Anthropics Responsible Scaling Policy knüpft Schutzmaßnahmen an Fähigkeitsschwellen, sodass die Kontrollen mit der Leistungsfähigkeit mitwachsen, statt einheitlich zu sein. OpenAIs Preparedness Framework und Googles AI Principles verankern beide eine Bewertung vor dem Einsatz, menschliche Aufsicht und eine rechenschaftspflichtige interne Prüfung vor der Freigabe. Die Lehre für Versorger lautet, die Haltung zu übernehmen — verhältnismäßige Kontrollen, dokumentierte Prüfung, gestufte Autonomie — und nicht die Richtlinie eines einzelnen Anbieters.

Von Rahmenwerken zu einem betrieblichen Standard

Das Bindeglied, das Leitlinien in Audit-Nachweise verwandelt, ist ISO/IEC 42001, der erste zertifizierbare Standard für AI-Managementsysteme. Er deckt Lebenszyklusmanagement, AI-Folgenabschätzung sowie die Aufsicht über Dritte und Modelllieferanten ab — das maßgebliche Aufzeichnungssystem, mit dem ein Versorger sein NIST-konformes Programm gegenüber einem Auditor nachweisen kann, statt es nur zu behaupten. Die CESER-Risikobewertung des U.S. DOE für AI in kritischer Energieinfrastruktur bekräftigt dieselbe Haltung des „vertrauen, aber überprüfen“ und benennt unbeabsichtigte Fehlermodi, adversarielle Angriffe und die Kompromittierung der Software-Lieferkette als zu steuernde Risiken statt als Gründe zum Verzicht.

Das konforme Einsatzmuster

Zusammen gelesen beschreiben diese Rahmenwerke ein einziges Einsatzmuster. Keiner von ihnen verlangt keine Automatisierung; jeder verlangt geregelte Automatisierung mit vier Eigenschaften:

• Belege — jede Empfehlung verweist zurück auf das DGA-, PRPD-, SFRA- oder Ölsignal, das sie erzeugt hat.
• Provenienz — welches Modell, welche Daten, welches Asset, welcher Zeitstempel: reproduzierbar.
• Prüfspur — eine unveränderliche Aufzeichnung, die ein NERC- oder ISO-Auditor nachvollziehen kann; deshalb sind Prüfspuren für menschlich geprüfte Transformator-AI ein erstklassiges Merkmal und keine Protokolldatei.
• Begrenzte Autonomie — der Agent schlägt vor, ein qualifizierter Ingenieur entscheidet, und harte betriebliche Grenzen sind fest eingebaut — dieselbe Idee wie hinter einem expliziten AI-Agenten-Berechtigungsmodell und einem dokumentierten OT-AI-Risikoregister.

Wie GridAPM für diese Haltung gebaut ist

GridAPM ist so konzipiert, dass es sich als Nachweis in ein NIST-RMF- oder ISO-42001-Programm einfügt. Es ist lokal betrieben und hält Flottendaten innerhalb der OT-Grenze des Versorgers, im Einklang mit der Haltung von IEC 62443 und NERC CIP; es ist standardmäßig Mensch in der Schleife, sodass Erkenntnisse geprüft und nicht automatisch umgesetzt werden; und es ist quellenverknüpft, sodass jede Schlussfolgerung bis zur zugrunde liegenden Messung und Norm rückverfolgbar ist. Governance ist mit anderen Worten kein Dokument, das das Team nach dem Einsatz schreibt — sie ist die Form des Produkts selbst.

Die Rahmenwerke laufen auf eine klare Botschaft zu: Automatisierung ist im Netz willkommen, aber nur, wenn sie auditierbar und begrenzt ist und von jemandem geprüft wird, der sie überstimmen kann. Fordern Sie ein GridAPM-Pilotprojekt an, um einen governance-fähigen Ablauf an Ihrer eigenen Transformatorflotte zu bewerten, oder sehen Sie sich zuvor unsere Zusagen zum Datenumgang an.