سجلّات التدقيق لقرارات الذكاء الاصطناعي الخاصة بالمحوّلات والمراجَعة بشرياً

ينبغي أن تكون قرارات الذكاء الاصطناعي الخاصة بالمحوّلات قابلة للتتبّع من الأدلة الخام حتى التفويض البشري. فإذا كانت التوصية المدعومة بالذكاء الاصطناعي غير قادرة على إظهار البيانات التي استخدمتها، والافتراضات التي بنتها، والصلاحية التي امتلكتها، ومن الذي وافق على الإجراء، فهي ليست جاهزة لتدفقات عمل الصيانة عالية التبعات.

تتعامل GridAPM مع سجلّات التدقيق بوصفها ميزة أساسية في المنتج، لا فكرة لاحقة.

بنية حزمة الأدلة

ينبغي أن تتضمّن حزمة أدلة الذكاء الاصطناعي للمحوّل ما يلي:

• معرّف الأصل، والموقع، وسياق المحوّل، والمكوّن المتأثر.
• نوع القرار، ودرجة الخطورة، والطابع الزمني، والمراجِع.
• مصدر بيانات المنشأ: DGA وPRPD وSFRA والقياسات الحرارية وSCADA وسجلّات الفحص والصيانة.
• إشارات جودة البيانات والأدلة المفقودة.
• سياق المعايير والممارسة الهندسية الداخلية.
• توصية الذكاء الاصطناعي، وعدم اليقين، والقيود المعروفة.
• الموافقة البشرية أو الرفض أو التجاوز أو التصعيد.
• حلقة النتائج بعد الصيانة أو المراقبة.

يبني هذا على تدفق عمل الذكاء الاصطناعي بوجود الإنسان في الحلقة الموصوف سلفاً في أبحاث GridAPM.

سياق الحوكمة

يوفّر NIST AI RMF ودليل AI RMF لغة عامة مفيدة حول حوكمة مخاطر الذكاء الاصطناعي ورسم خرائطها وقياسها وإدارتها. ويكتسب ملف NIST للذكاء الاصطناعي التوليدي والعمل الناشئ حول هوية وتفويض البرمجيات ووكلاء الذكاء الاصطناعي أهمية خاصة عندما يكون بمقدور وكلاء الذكاء الاصطناعي استخدام الأدوات أو التصرّف نيابةً عن الأشخاص.

في APM المحوّلات، ينبغي أن يمتلك الوكيل هوية وأذونات محدّدة النطاق وحدوداً للأدوات وعتبة موافقة.

جدول التقابل مع المعايير

ينبغي أن يربط سجلّ التدقيق الأدلة بسياق تقني معترف به دون نسخ نصوص المعايير المحمية. على سبيل المثال:

• قد تشير أدلة DGA إلى IEEE C57.104 وIEC 60599.
• قد تشير أدلة المراقبة إلى IEEE C57.143 وأعمال CIGRE في المراقبة الذكية للحالة.
• قد تشير أدلة PRPD إلى IEC 60270.
• قد تشير أدلة SFRA إلى IEEE C57.149.

ينبغي أن يعيد المنتج الصياغة، وأن يستشهد بصفحات المصادر العامة، وأن يُبقي المهندس مسؤولاً عن التفسير النهائي.

هوية الوكيل وتفويضه

يغيّر الذكاء الاصطناعي الوكيلي سؤال التدقيق. فلا يكفي تسجيل مخرجات النموذج. إذ ينبغي أن تعرف الفرق:

• أيّ وكيل أنتج التوصية.
• أيّ مستخدم أو تدفق عمل فوّض المهمة.
• أيّ أدوات ومصادر بيانات وصل إليها الوكيل.
• ما إذا كان الوصول للقراءة فقط أم قادراً على الكتابة.
• ما إذا كانت التوصية قد تجاوزت عتبة الموافقة.
• أيّ شخص وافق عليها أو تجاوزها.

ويكتسب هذا أهمية خاصة عندما تغذّي التوصية أنظمة أوامر العمل أو عمليات التخطيط.

سجلّ المراجعة البشرية

ينبغي أن يوثّق سجلّ المراجعة البشرية دور المراجِع والقرار والمبرّر والتعليقات والتصعيد وأيّ تجاوز. وفي حالات المحوّلات عالية الخطورة، قد يكون من المناسب إجراء مراجعة ثانية للاستدامة أو لأداء الأصول. وينبغي أن يُعِدّ الذكاء الاصطناعي الأدلة، بينما تقرّر المؤسسة سياسة الحوكمة.

حلقة النتائج

ينبغي أن يستمرّ سجلّ التدقيق بعد التوصية. ما الإجراء الذي اتُّخذ؟ وهل أكّدت القياسات عن بُعد بعد الإجراء وجود المشكلة؟ وهل كانت التوصية إيجابية كاذبة؟ وهل قلّلت الأدلة الجديدة من عدم اليقين؟ إن حلقة النتائج هذه تحسّن قرارات الصيانة المستقبلية وتساعد الفرق على فهم انحراف النموذج أو ثغرات تدفق العمل.

إن وعد GridAPM العملي بسيط: كلّ توصية للذكاء الاصطناعي تأتي مصحوبة بالأدلة التي يحتاجها المهندس للموافقة عليها أو رفضها أو تصعيدها.