سبعة تحديات يجب على المؤسسات المالية معالجتها لتسخير إمكانات التعلم الآلي (أنشومان براساد)

سبعة تحديات يجب على المؤسسات المالية معالجتها لتسخير إمكانات التعلم الآلي (أنشومان براساد)

الطابع الزمني: 9 مارس 2023 11:20 صباحًا
عقدة المصدر: 2001633

التعلم الآلي (ML) ، الذراع الأبرز للذكاء الاصطناعي (AI) ، يقطع كلا الاتجاهين في صناعة الخدمات المالية ، حيث تتسع تطبيقاته يومًا بعد يوم.

الفوائد واضحة. يتم تدريب نماذج ML على التعلم من النتائج تمامًا كما يفعل الدماغ البشري ويمكنها تنفيذ المهام المعقدة على نطاق وسرعة لا يستطيع البشر القيام بها.

لكن الأخطار كثيرة. تعقيد النماذج يمثل مخاطرة. يمكن أن يكون العديد منها غامضًا ومبهجًا ، ويشتهر بكونه صناديق سوداء. وعندما تتعطل النماذج غير الشفافة ، يمكن أن تخرج الأشياء عن السيطرة.

في الحالات القصوى ، يمكن أن يؤدي إلى فشل المؤسسات المالية ، مع عواقب نظامية على الاقتصاد بأكمله.

بالنسبة للمؤسسات المالية ، هناك عدد من التحديات في جعل نماذج غسل الأموال تلتزم فعليًا بالمبادئ الحالية وأفضل الممارسات لإدارة المخاطر النموذجية. في تجربتنا في العمل مع المؤسسات المالية ، فيما يلي سبعة من أكثر التحديات شيوعًا التي نراها والخطوات التي نتخذها لمواجهتها.

1) تفعيل إطار التحقق من نموذج ML الذي يغطي الخوارزميات وتقنيات التحقق من الصحة والضوابط والتوثيق

تحتاج المؤسسات المالية إلى وضع إطار تحقق شامل خاص بنماذج غسل الأموال.

يعد اختيار الخوارزميات المناسبة فيما يتعلق بمتطلبات العمل وتوافر البيانات أمرًا بالغ الأهمية. وهذا يتطلب خبرة في نمذجة ML وفهم الأعمال والبرمجة.

تختلف تقنيات التحقق من صحة نماذج ML عن تلك المستخدمة عمومًا من قبل المؤسسات المالية للنماذج الأخرى. يمكن أن تختلف أيضًا وفقًا لخوارزمية ML المستخدمة وتوافر وهيكل البيانات.

بالإضافة إلى ذلك ، يجب تغطية عمليات إعادة التحقق من الصحة وعمليات التحقق المستهدفة (التغييرات المهمة المطبقة على النماذج الحالية) من خلال خط الدفاع الثاني ، لتأكيد أن النموذج مناسب للغرض. في نماذج ML ، يمكن أن تؤثر التغييرات الطفيفة في المعلمات أو ضبط الإعداد على سلوك الخوارزمية ونتائج النموذج بشكل كبير.

بعد ذلك ، يجب أن يكون إطار التحكم في مكانه ، مع التركيز على تصميم وفعالية الضوابط. التوثيق الكامل أمر لا بد منه لضمان فهم الطرف المستقل لهدف النمذجة والخوارزميات وتقنيات التحقق من الصحة المستخدمة وملكية التحكم والتغطية.

من المهم أيضًا أن يتم تزويد وظائف التحقق من صحة النموذج بأشخاص يمتلكون المعرفة والمهارات الصحيحة. ومن ثم ، يجب على فرق التحقق من صحة النموذج توظيف أشخاص لديهم خلفية في علم البيانات وأسس متينة لتقنيات نمذجة الذكاء الاصطناعي والتعلم الآلي المختلفة.

2) وضع السياسات التي تغطي المتطلبات التنظيمية والحوكمة والضوابط والرقابة

لا يزال هناك قدر كبير من عدم اليقين حول المتطلبات التنظيمية للتحقق من صحة نموذج ML.

قدمت الهيئات التنظيمية توقعات تنظيمية عامة ؛ ومع ذلك ، لا يوجد إطار تنظيمي رسمي لنماذج غسل الأموال. يجب على المؤسسات المالية وضع سياسة تنص على المتطلبات التنظيمية العامة ، والتي يمكن أن تشمل إرشادات نموذجية لإدارة المخاطر وإرشادات لنماذج غسل الأموال.

يجب أن تغطي إرشادات إدارة المخاطر النموذجية السلامة المفاهيمية ، وفحص جودة البيانات ، والحوكمة والضوابط ، ومراقبة النموذج ، والتحقق من صحة النموذج. يجب أن يكون مجلس الإدارة والإدارة العليا على دراية بحالات الاستخدام ويفهمان فعالية الضوابط المستخدمة في دورة حياة نموذج ML. يجب تحديد الأدوار والمسؤوليات بوضوح لتحقيق الملكية والمساءلة.

3) تنفيذ نماذج ML داخل بيئة قوية وخاضعة للرقابة

إن تنفيذ نماذج غسل الأموال مهيأ للمخاطر. بالمقارنة مع النماذج الإحصائية أو التقليدية ، فإن المواصفات المعقدة لخوارزميات تعلم الآلة تضع ضغوطًا على كفاءة الحوسبة والذاكرة ، مما يزيد من المخاوف بشأن مخاطر التنفيذ.

يتطلب تنفيذ نماذج ML باستخدام منصات مختلفة الخبرة والبنية التحتية. يجب أن يكون التركيز على إنشاء بنية تحتية قوية لتكنولوجيا المعلومات ، وتطوير الأدوات باستخدام البرمجة ، وتحسين مراقبة النماذج ، وإعدادات التحقق من الصحة داخل هذه الأدوات. هذا التعقيد يجعل مهمة التحقق من الصحة أكثر صعوبة للتحقق من التنفيذ الصحيح للنماذج داخل نظام تكنولوجيا المعلومات.

يُمكِّن توثيق عملية التنفيذ الطرف المستقل من فهم تدفق العملية للنظام المستخدم. تحتاج وظيفة التحقق من صحة النموذج إلى تقييم مدى ملاءمة تنفيذ النموذج ، وتقييم الاختبار المنجز وإطار التحكم الشامل الذي يقوم عليه النموذج.

4) تصميم عمليات حوكمة فعالة للبيانات

نظرًا لأن البيانات تمثل جانبًا مهمًا من نماذج غسل الأموال ، فإن عمليات الحوكمة المناسبة حولها تعد أمرًا بالغ الأهمية. يجب أن تغطي عملية حوكمة البيانات المصادر ، وفحص جودة بيانات الإدخال ، وتحليل البيانات (التي تشمل التحليل أحادي المتغير وتحليل القيم المتطرفة) ، والضوابط على المدخلات اليدوية ، والجوانب الأخرى.
من منظور التحقق من صحة النموذج ، يتطلب اختبار البيانات إطار عمل فعال لإدارة البيانات يحدد مجموعة من القواعد المتعلقة بجودة البيانات واكتمالها وحسن توقيتها. بهذا المعنى ، يعد الانحراف عن هذه المعايير موضوعًا صعبًا ، حيث أن البيانات المستخدمة في أساليب تعلم الآلة ضخمة مقارنةً بتلك الموجودة في النماذج التقليدية. تعتمد نماذج ML أيضًا على كميات كبيرة من البيانات غير المتجانسة وعالية الأبعاد ، مما يجعل من المهم التوثيق من المصادر والمعالجة والتحويل ، حتى المرحلة الأخيرة من النشر الكامل للنموذج ، لضمان ملاءمة البيانات.

لذلك ، يجب أن يؤكد فريق التحقق من صحة النموذج أن بيانات الإدخال متاحة وخضعت لفحوصات الجودة المناسبة قبل استخدامها في الإنتاج. من الضروري أيضًا اختبار كيفية تعامل تقنيات ML المختلفة مع البيانات المفقودة ، وتقنيات التطبيع ، والبيانات الشاذة. أيضًا ، يجب على الشركات ضمان إمكانية تتبع البيانات بشكل جيد وإعادتها إلى أنظمة المصدر بحيث يمكن إصلاح تحديات البيانات عند المصدر.

5) التحكم في عدم قابلية شرح نماذج ML

يعد الافتقار إلى إمكانية شرح نماذج ML تحديًا رئيسيًا للتقنيات الأكثر تعقيدًا ، مثل ANN ، حيث تكون استجابات المدخلات والمخرجات غير واضحة وتفتقر إلى الشفافية. يمكن أن يجعل تعقيد بعض نماذج ML من الصعب تقديم مخطط واضح للنظرية والافتراضات والأساس الرياضي للتقديرات النهائية. أخيرًا ، ثبت أن مثل هذه النماذج يصعب التحقق من صحتها بكفاءة.

تجعل خاصية الصندوق الأسود من الصعب تقييم السلامة المفاهيمية للنموذج ، مما يقلل من موثوقيتها. على سبيل المثال ، قد يتطلب التحقق من صحة المعلمات التشعبية معرفة إحصائية إضافية ، وبالتالي ، يجب على المؤسسات التأكد من تدريب الموظفين المشرفين على التحقق بشكل مناسب.

يمكن لمدققي النماذج النظر في تخفيف الضوابط لمعالجة نقص الشفافية. يمكن أن تكون هذه الضوابط جزءًا من المراقبة المستمرة التي تكون أكثر صرامة. يوصى أيضًا باستخدام نماذج مرجعية لمقارنة المخرجات والتباينات مقابل القواعد المحددة مسبقًا ، مما قد يؤدي إلى مزيد من التحقيق أو التوقف عن استخدام النماذج في الإنتاج.

6) معايرة Hyperparameter لنماذج ML

عادةً ما تكون الافتراضات الرئيسية لنماذج ML هي المعلمات الفائقة التي تم تطويرها وضبطها ليتم تطبيقها في النموذج. إذا كانت هذه الافتراضات مبهمة ، فسيكون كذلك حدس العمل أو سلامته. علاوة على ذلك ، في نماذج ML ، يمكن أن تؤثر قيمة المعلمات الفائقة بشدة على نتائج النموذج.

يجب تقييم التغييرات في إعدادات المعلمة الفائقة لتقييم مدى ملاءمة اختيار المصمم. في حالة إجراء مزيد من التغييرات في المعلمات الفائقة ، يجب أن يؤكد فريق التحقق أن نتائج النموذج متسقة.

7) تحليل النتائج

لقد رأينا أن تحليل النتائج أمر بالغ الأهمية للتعويض عن نقص القابلية للتفسير في بعض تقنيات تعلم الآلة. علاوة على ذلك ، فإن تحليل النتائج له دور مهم في تقييم أداء النموذج. يركز التحليل على التحقق المتبادل ومتغيراته. لا تتمتع إجراءات الاختبار الخلفي بنفس الصلة كما في النماذج التقليدية.

يمكن أن يكون التباين مقابل مقايضة التحيز في نماذج ML أمرًا صعبًا ومثيرًا للقلق. في حين أن هذا لم يكن خارج نطاق النماذج الإحصائية ونماذج الانحدار ، فإن نماذج ML تضخم الإنذارات.

يمكن استخدام العديد من المقاييس لهذا الغرض ، اعتمادًا على منهجية النموذج. على سبيل المثال ، يمكن أن تتحلل MSE إلى تحيز وتباين. يجب مراجعة وتوثيق التقييم الصريح للمفاضلات.

يعد الاختبار خارج العينة أيضًا مكونًا مهمًا لتحليل نتائج الذكاء الاصطناعي / تعلم الآلة. يجب على المدققين مراجعة وتقييم ما إذا كان قد تم اتباع الإجراءات المناسبة في عملية تطوير النموذج لضمان إجراء تحليل النتائج بشكل مناسب ، بما في ذلك مجموعات التحقق من الصحة والاختبار.

الطابع الزمني:

اكثر من فينتكسترا