دورة تصميم منصات الذكاء الاصطناعي الخاضعة للحوكمة: الضوابط والمخاطر والتأكيد

ملخص البرنامج

تصميم منصات الذكاء الاصطناعي الخاضعة للحوكمة محور دورة تدريبية تمتد 5 أيام بمستوى متقدم لقيادات التقنية والمخاطر، ويخرج منها كل مشارك بمخطط لمنصة ذكاء اصطناعي خاضعة للحوكمة مع خطة للضوابط والتأكيد. فالمؤسسات تدفع بالنماذج إلى التشغيل أسرع مما تستطيع حصرها واعتمادها ومراقبتها. ويتدرج البرنامج من هندسة المنصة والمخاطر، مرورا بتصميم الضوابط على امتداد دورة حياة البيانات والنماذج، إلى المراقبة أثناء التشغيل والتأكيد وتصميم منصة تطبيقي. يقدم هذا البرنامج في تصميم منصات الذكاء الاصطناعي الخاضعة للحوكمة مارس للتدريب المملكة المتحدة.

المبررات المؤسسية

حين تبنى أنظمة الذكاء الاصطناعي على أدوات متفرقة يعجز القادة عن معرفة النماذج العاملة فعلا، ومن اعتمدها، وما الدليل على أنها تعمل كما ينبغي. أما المنصة التي تصمم ضوابطها منذ البداية فتتيح إطلاق النماذج بسرعة أكبر لأن الاعتماد والاختبار والمراقبة تصبح إجراءات معتادة، وتمنح مجالس الإدارة أساسا للمساءلة.

• زمن إطلاق النماذج: يقصر حين تحل بوابات اعتماد موحدة محل التفاوض في كل مشروع على حدة.
• التعرض لمخاطر الذكاء الاصطناعي غير المدارة: ينخفض حين يكشف الحصر وتصنيف المخاطر الأنظمة العاملة خارج الرقابة.
• جهد التأكيد: يقل حين تجمع المنصة أدلة الضوابط بدلا من تجميعها قبل كل مراجعة.

المبادئ والأساس المعرفي

• ISO/IEC 42001، معيار نظام إدارة الذكاء الاصطناعي: تبنى عليه الأدوار والسياسات والضوابط المصممة في الجلستين 1 و3.
• ISO/IEC 23894، معيار إدارة مخاطر الذكاء الاصطناعي: توجه عمليته تحديد المخاطر وتقديرها ومعالجتها في الجلسة 2.
• NIST AI Risk Management Framework، إطار إدارة مخاطر الذكاء الاصطناعي: تنظم وظائفه الأربع تصميم المراقبة والتأكيد في الجلسة 4.

المشاركون المستهدفون

• التنفيذيون المسؤولون عن المنصات التقنية التي تبنى عليها أنظمة الذكاء الاصطناعي وتشغل.
• القيادات التي تضع معايير الهندسة المؤسسية للبيانات والنماذج والتكامل.
• رؤساء المخاطر والرقابة الذين يقيمون عمليات نشر الذكاء الاصطناعي ويراجعونها.
• مديرو التحول الرقمي الذين يرعون حالات استخدام الذكاء الاصطناعي عبر وحدات الأعمال.
• كبار قيادات التأكيد والامتثال الذين يرفعون تقارير مخاطر الذكاء الاصطناعي إلى المجالس واللجان.

يخدم البرنامج المصارف وقطاع الطاقة والرعاية الصحية والجهات الحكومية وشركات الاتصالات.

مخرجات التعلم

1. سيكون المشاركون قادرين على بناء بنية مرجعية لمنصة ذكاء اصطناعي توضح موضع كل ضابط من ضوابط الحوكمة.
2. سيكون المشاركون قادرين على تصنيف حالات استخدام الذكاء الاصطناعي بحسب مستوى المخاطر وتبرير الرقابة التي يتطلبها كل مستوى.
3. سيكون المشاركون قادرين على تشخيص الفجوات في ضوابط البيانات والنماذج والإصدار باستخدام خريطة ضوابط دورة الحياة.
4. سيكون المشاركون قادرين على تصميم ضوابط حماية وحدود مراقبة لأنظمة الذكاء الاصطناعي العاملة.
5. سيكون المشاركون قادرين على تقييم جودة أدلة الضوابط المقدمة في مراجعات التأكيد.
6. سيكون المشاركون قادرين على ترتيب أولويات استثمارات المنصة وملكيتها في خارطة طريق لمنصة ذكاء اصطناعي خاضعة للحوكمة.

هيكل البرنامج

اليوم 1: أسس منصات الذكاء الاصطناعي الخاضعة للحوكمة

أي أجزاء منصة الذكاء الاصطناعي تحتاج إلى حوكمة، ومن يقرر؟

• طبقات البنية المرجعية لمنصة الذكاء الاصطناعي
• هيكل نظام الإدارة وفق ISO/IEC 42001
• حصر أنظمة الذكاء الاصطناعي ومخطط تصنيفها
• مصفوفة صلاحيات القرار في اعتماد الذكاء الاصطناعي
• تقييم ذاتي لنضج حوكمة المنصة

اليوم 2: تشخيص مخاطر الذكاء الاصطناعي ومعالجتها

كيف تحدد مخاطر الذكاء الاصطناعي وتقدر وتعالج على مستوى المنصة؟

• عملية إدارة المخاطر وفق ISO/IEC 23894
• وظائف الحوكمة والتخطيط والقياس والإدارة في إطار NIST
• تصنيف حالات الاستخدام المرشحة بحسب المخاطر
• مراجعة مخاطر الأطراف الخارجية والنماذج الأساسية
• بناء سجل مخاطر لأنظمة الذكاء الاصطناعي

اليوم 3: ضوابط دورة حياة البيانات والنماذج

أي الضوابط تلزم في كل مرحلة من إدخال البيانات حتى سحب النموذج؟

• تتبع مسار البيانات وبوابات الجودة
• توثيق النماذج وبطاقات النماذج
• اختبارات التحقق والتحيز والمتانة
• تصميم مسار اعتماد الإصدارات
• ضبط التغيير وقواعد سحب النماذج

اليوم 4: ضوابط التشغيل والمراقبة والتأكيد

كيف يبقى نظام الذكاء الاصطناعي العامل ضمن حدوده المعتمدة؟

• بوابة الاستدلال وضوابط الوصول
• ضوابط حماية المدخلات والمخرجات
• مراقبة الانحراف والأداء والحوادث
• اختبار الضوابط وجمع الأدلة
• رفع تقارير التأكيد إلى المجالس واللجان

اليوم 5: تطبيق تصميم منصات الذكاء الاصطناعي الخاضعة للحوكمة

هل مخطط المنصة جاهز لاعتماد الراعي؟

• تطبيق حصر الجلسة 1 على منصة مختارة
• تطبيق مستويات مخاطر الجلسة 2 على حالات الاستخدام ذات الأولوية
• ربط ضوابط الجلستين 3 و4 بطبقات المنصة
• ترتيب الاستثمار والملكية ومراحل التنفيذ
• إنجاز مخطط منصة الذكاء الاصطناعي الخاضعة للحوكمة

المنهجية

يقوم البرنامج على تمارين التصميم المنظمة وتحليل الحالات، إذ يعمل المشاركون على منظومة ذكاء اصطناعي مؤسسية نموذجية، فيرسمون المناظير الهندسية ويحددون الضوابط، ثم يدافعون عن تصميمهم أمام لجنة مخاطر محاكاة. وتستمد الحالات من الخدمات المالية والقطاع الصحي.

• نشاط مقترح: بناء حصر لأنظمة الذكاء الاصطناعي من أوصاف مشاريع افتراضية.
• نشاط مقترح: تتبع نموذج من إدخال البيانات حتى سحبه مع تحديد الضابط في كل خطوة.
• نشاط مقترح: عرض مخطط المنصة على لجنة هندسة ومخاطر محاكاة.

المخرج الختامي

يعد كل مشارك مخططا لمنصة ذكاء اصطناعي خاضعة للحوكمة لمؤسسة أو وحدة أعمال بعينها، يتضمن منظورا هندسيا وتصنيفا لحالات الاستخدام بحسب المخاطر وخريطة لضوابط دورة الحياة وحدود للمراقبة وخطة لأدلة التأكيد وخارطة طريق مرحلية. ويستخدم لإحاطة الراعي التنفيذي وتحديد نطاق أول بناء للمنصة.

الأسئلة الشائعة

هل يناسب التدريب على منصات الذكاء الاصطناعي الخاضعة للحوكمة القيادات من غير المهندسين؟

نعم، فالتدريب على منصات الذكاء الاصطناعي الخاضعة للحوكمة بمستوى متقدم للتنفيذيين وقيادات المخاطر، ويفترض معرفة بالتقنية المؤسسية أو إدارة المخاطر لا مهارات برمجية.

ما المعايير التي تقوم عليها ضوابط منصات الذكاء الاصطناعي الخاضعة للحوكمة في هذا البرنامج؟

يقوم تصميم منصات الذكاء الاصطناعي الخاضعة للحوكمة على ISO/IEC 42001 لنظام الإدارة، وISO/IEC 23894 لإدارة المخاطر، وإطار NIST AI Risk Management Framework.

كيف يستخدم المخرج الختامي للتدريب على منصات الذكاء الاصطناعي الخاضعة للحوكمة في العمل؟

يحيط مخطط منصات الذكاء الاصطناعي الخاضعة للحوكمة الراعي التنفيذي ويحدد نطاق أول بناء أو معالجة، ويمكن لفرق الهندسة والمخاطر اعتماد حصره ومستويات مخاطره وخريطة ضوابطه.