خدمات حوكمة الذكاء الاصطناعي في الرياض

القاعدة الأساسية أن القرار يعود إلى شخص مسؤول وليس إلى النموذج. وتحدد الحوكمة القرارات التي يجوز أتمتتها بالكامل، والقرارات التي تتطلب مراجعة بشرية قبل التنفيذ، والقرارات التي يقتصر دور النموذج فيها على الاستئناس دون الحسم. وتزداد أهمية هذا التمييز في الوظائف المالية، ولا سيما في المدفوعات وقرارات الائتمان والتقارير المالية.

عندما تعالج النماذج بيانات شخصية، تنطبق التزامات نظام حماية البيانات الشخصية (PDPL)، ومنها الأساس النظامي وتحديد الغرض وتقليل البيانات وحقوق أصحاب البيانات. ولتدريب نموذج على بيانات العملاء أو الموظفين آثار لم تقيّمها منشآت كثيرة. وعند استخدام أداة ذكاء اصطناعي مستضافة، لا بد من الإجابة عن سؤال نقل البيانات الشخصية خارج المملكة وفق أحكام النقل في النظام. يرسم العمل خريطة للبيانات الشخصية التي تصل إلى كل نموذج، ويتأكد من أن للمعالجة أساساً نظامياً. ويرتبط ذلك مباشرة بحوكمة البيانات.

كل نموذج في الإنتاج يحتاج إلى سجل يوضح وظيفته والبيانات التي دُرّب عليها وقيوده المعروفة ومالكه وتاريخ آخر تحقق منه. وفي القرارات التي تمس العملاء أو الموظفين، كثيراً ما تتوقع الجهات التنظيمية القدرة على شرح أساس النتيجة. وهذه القدرة ضرورة عملية أيضاً عندما يعترض شخص على النتيجة.

تتدهور النماذج مع تغيّر الظروف. فالنموذج التنبؤي المدرَّب على أنماط ما قبل التضخم، أو نموذج التصنيف المدرَّب قبل تحول في مزيج المنتجات، تقل دقته بصمت دون فشل ظاهر. وتتطلب الحوكمة إعادة تحقق دورية بمقارنة المخرجات بالنتائج الفعلية، مع عتبات محددة تستدعي إعادة التدريب أو السحب.

تفشل أطر الحوكمة عندما تكون أثقل من المخاطرة التي تعالجها. نقطة البداية حصر النماذج والقرارات الآلية القائمة وتصنيفها بحسب أثر الخطأ فيها، مع ضوابط تتناسب مع هذا الأثر. فأداة مطابقة التسويات القائمة على القواعد تحتاج إلى جزء يسير من الإشراف الذي يحتاجه نموذج يؤثر في شروط الائتمان، ومعاملتهما بالطريقة نفسها تنتج إطاراً يتحايل عليه الناس. ويأتي هذا إلى جانب تصميم الرقابة الداخلية، ويعتمد على حوكمة البيانات في ضوابط البيانات الأساسية.

تتحرك قدرات الذكاء الاصطناعي والتوقعات التنظيمية أسرع من معظم أطر الحوكمة. لذلك ينبغي مراجعة الإطار بانتظام في ضوء ما تغير: نماذج جديدة دخلت الإنتاج، وإرشادات جديدة من الجهات التنظيمية، وحوادث أو ملاحظات داخلية. أما الإطار الذي كُتب مرة واحدة ولم يُراجع فيحمي من مخاطر الأمس لا من مخاطر اليوم.