أكدت موديز أن التوسع في استخدام أنظمة الذكاء الاصطناعي التوليدي والوكيل داخل المؤسسات المالية يفرض تحديات جديدة على أطر إدارة مخاطر النماذج، رغم القدرات المتقدمة التي تقدمها هذه التقنيات مقارنة بالنماذج التقليدية في بعض الاستخدامات.

وأشارت المؤسسة، في تقرير حول حوكمة مخاطر الذكاء الاصطناعي، إلى ضرورة تطوير آليات الحوكمة والرقابة بما يضمن صحة نتائج هذه الأنظمة واتساقها ومتانتها وقابليتها للتنبؤ.

وترى موديز أن ممارسات إدارة مخاطر النماذج الحالية قد لا تكون كافية في جميع الحالات للتعامل مع الطبيعة الخاصة لأنظمة الذكاء الاصطناعي التوليدي والوكيل، ما يتطلب من مسؤولي النماذج وفرق التحقق إعادة تقييم أساليب الرقابة المستخدمة على امتداد دورة حياة النظام.

تحديث الإرشادات الأميركية لإدارة مخاطر النماذج

أشار التقرير إلى إصدار مجلس الاحتياطي الفيدرالي والمؤسسة الفيدرالية للتأمين على الودائع ومكتب مراقب العملة في الولايات المتحدة إرشادات محدثة لإدارة مخاطر النماذج في 17 أبريل 2026، لتحل محل التوجيهات السابقة الصادرة بموجب الخطابين الرقابيين SR 11-7 وSR 21-8.

وتعتمد الإرشادات الجديدة على نهج قائم على المخاطر، يأخذ في الاعتبار طبيعة مخاطر النموذج وأهميته وحجمه ومستوى تعقيده، بحيث تتناسب درجة الرقابة مع حجم المخاطر المحتملة.

كما تشدد على أهمية خضوع النماذج لتقييم موضوعي يجريه خبراء مستقلون، إلى جانب تحديث المبادئ المنظمة لمراحل دورة حياة النموذج.

ومع ذلك، أوضح تقرير موديز أن الإرشادات تستبعد صراحة أنظمة الذكاء الاصطناعي التوليدي والوكيل بسبب حداثة هذه التقنيات وسرعة تطورها، ما يترك للمؤسسات المصرفية مسؤولية تحديد الضوابط المناسبة للحوكمة والرقابة استناداً إلى ممارساتها الخاصة لإدارة المخاطر.

جهود دولية لتنظيم مخاطر الذكاء الاصطناعي

يأتي ذلك بالتزامن مع تحركات تنظيمية دولية لتطوير قواعد التعامل مع مخاطر الذكاء الاصطناعي في القطاع المالي.

ويضع قانون الذكاء الاصطناعي للاتحاد الأوروبي متطلبات تتعلق بالتوثيق والاختبار والمراقبة والشفافية بالنسبة للأنظمة المصنفة ضمن فئة المخاطر العالية.

وفي المملكة المتحدة، تحدد هيئة التنظيم الاحترازي مبادئ لإدارة مخاطر النماذج في البنوك الواقعة تحت إشرافها، بينما تناولت الهيئة المصرفية الأوروبية استخدام تقنيات التعلم الآلي ضمن النماذج الداخلية المستخدمة في تصنيف مخاطر الائتمان.

كما يقدم إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأميركي للمعايير والتكنولوجيا، إلى جانب الملف الخاص بالذكاء الاصطناعي التوليدي، مجموعة من المصطلحات الرقابية والإجراءات المقترحة للتعامل مع تلك التقنيات.

وأصدرت جهات دولية أخرى، من بينها سلطة النقد في سنغافورة وهيئة التنظيم الاحترازي الأسترالية وبنك التسويات الدولية ومجلس الاستقرار المالي، أوراقاً وإرشادات وتقييمات تتناول مخاطر استخدام الذكاء الاصطناعي في القطاع المالي.

4 ركائز أساسية لحوكمة أنظمة الذكاء الاصطناعي

يرتكز الإطار الذي استعرضته موديز على تحديد النظام الخاضع للحوكمة بشكل متكامل، مع التمييز بين البنية الأساسية المقدمة من طرف خارجي، مثل النماذج اللغوية الكبيرة، والأدوات التي تسيطر عليها المؤسسة المالية، بما يشمل التعليمات النصية وآليات تنظيم المهام وتنفيذها.

ويتعامل الإطار مع المكونات المختلفة باعتبارها نظاماً متكاملاً تتحمل المؤسسة المالية مسؤولية حصره والتحقق من صلاحيته وإدارة المخاطر المرتبطة به.

كما يرتبط مستوى المخاطر بدرجة استقلالية النظام؛ فكلما ارتفعت قدرته على اتخاذ الخطوات وتنفيذ المهام بصورة مستقلة، زادت الحاجة إلى تطبيق ضوابط حوكمة تتناسب مع تلك المخاطر.

وحدد التقرير أربع خصائص رئيسية يتعين توافرها في أنظمة الذكاء الاصطناعي الخاضعة للحوكمة، وهي صحة النتائج، والاتساق، والمتانة، وقابلية التنبؤ.

حوكمة مستمرة طوال دورة حياة النظام

لضمان استمرار تحقيق المعايير الأربعة، يقترح التقرير دورة حوكمة تبدأ بتصميم النظام وتزويده بوسائل القياس والمراقبة وتحديد مستوى أساسي للأداء.

وتنتقل الدورة بعد ذلك إلى تشغيل النظام وقياس نتائجه، ثم تصعيد المشكلات عند الضرورة، وصولاً إلى إعادة التحقق من النظام عقب إجراء أي تغييرات جوهرية عليه.

كما يتناول التقرير تسعة مفاهيم رئيسية موزعة على خمس مراحل، بهدف مساعدة المؤسسات المالية على اختيار الضوابط المناسبة لكل نظام وإنشاء إطار مستمر لإدارة المخاطر، بدلاً من الاعتماد على اختبارات منفصلة قد لا ترصد التغيرات التي تحدث أثناء تشغيل أنظمة الذكاء الاصطناعي.