خدمات حوكمة الذكاء الاصطناعي قبل التطبيق الفعلي

القاعدة التأسيسية أن النموذج لا يملك قراراً، الشخص يملكه. تُحدد الحوكمة أي القرارات يجوز أتمتتها بالكامل، وأيها يتطلب مراجعة بشرية قبل التنفيذ، وأيها يجوز فقط أن يُوجّهه نموذج وليس يُحدده. في الوظائف المالية يهم هذا التمييز أكثر لأي شيء يمس المدفوعات وقرارات الائتمان والتقارير المالية.

حيث تُعالج النماذج بيانات شخصية، تنطبق التزامات نظام حماية البيانات الشخصية: الأساس النظامي وتحديد الغرض وتقليل البيانات وحقوق أصحاب البيانات. تدريب نموذج على بيانات عملاء أو موظفين له آثار لم تُقيّمها كثير من المنشآت. نرسم خريطة أي بيانات شخصية تتدفق لكل نموذج ونُؤكد أن للمعالجة أساساً قابلاً للدفاع عنه، وهو ما يتصل مباشرة بـحوكمة البيانات.

كل نموذج في الإنتاج يحتاج سجلاً بما يفعله، وعلى أي بيانات دُرّب، وما قيوده المعروفة، ومن يملكه، ومتى تم التحقق منه آخر مرة. للقرارات المؤثرة على العملاء أو الموظفين، القدرة على شرح أساس نتيجة توقع تنظيمي وضرورة عملية معاً عندما يتحدى شخص ما نتيجة.

النماذج تتدهور مع تغير العالم. نموذج تنبؤ مُدرّب على أنماط ما قبل التضخم، أو نموذج تصنيف مُدرّب قبل تحول في مزيج المنتجات، يصبح أقل دقة بهدوء دون فشل ظاهر. تتطلب الحوكمة إعادة تحقق دورية مقابل النتائج الفعلية، بعتبات محددة تُطلق إعادة التدريب أو السحب.

أطر الحوكمة تفشل عندما تكون أثقل من المخاطرة التي تعالجها. نبدأ بجرد ما هي النماذج أو القرارات الآلية الموجودة فعلياً، ونُصنفها حسب نتيجة كونها خاطئة، ونُطبق ضوابط متناسبة مع ذلك. مُطابق تسوية قائم على القواعد يحتاج جزءاً من الإشراف الذي يحتاجه نموذج يؤثر على شروط ائتمان، ومعاملتهما بشكل متطابق تُنتج إطاراً يلتف حوله الناس. يقع هذا إلى جانب تصميم الرقابة الداخلية ويعتمد على حوكمة البيانات للضوابط الأساسية للبيانات.

قدرات الذكاء الاصطناعي والتوقعات التنظيمية تتحرك أسرع من معظم أطر الحوكمة. نُحدد مراجعة سنوية للإطار مقابل ما تغير: نماذج جديدة دخلت الإنتاج، وإرشادات جديدة من الجهات التنظيمية، وحوادث أو ملاحظات داخلية. إطار كُتب قبل ثلاث سنوات ولم يُراجع منذها يحمي من مخاطر الأمس وليس اليوم.