دورة حوكمة الذكاء الاصطناعي: جرد الأنظمة وتصنيف المخاطر وتقييم الأثر والتأكيد المستقل

ملخص البرنامج

حوكمة الذكاء الاصطناعي محور دورة تدريبية تمتد أسبوعين لقادة المخاطر والامتثال والبيانات وأعضاء لجان المجالس، ويخرج منها كل مشارك بخطة تشغيل لحوكمة الذكاء الاصطناعي في منظمة واحدة. تنشر المنظمات الذكاء الاصطناعي أسرع مما تستطيع حصر أنظمته وقياس خطورة كل منها وتحديد من يسأل عنها. وينتقل البرنامج من صلاحيات القرار إلى الجرد وتصنيف المخاطر والسياسات وتقييم الأثر ونظام الإدارة وضوابط دورة الحياة والامتثال والتأكيد المستقل وتقارير المجلس، بحالات من المصارف والصحة والخدمات العامة. تقدم مارس للتدريب المملكة المتحدة هذا البرنامج في حوكمة الذكاء الاصطناعي لمجموعات من منظمات مختلفة.

المبررات المؤسسية

تدخل أنظمة الذكاء الاصطناعي المنظمة عبر المشاريع والموردين والبرمجيات اليومية، وغالبا دون مالك واحد أو سجل. وفي غياب منظومة حوكمة لا يعرف القادة أي الاستخدامات تحمل مخاطر جسيمة، ولا أي الضوابط تنطبق، ولا ما يستطيعون عرضه من أدلة على المجلس أو الجهة المراجعة. أما الأسلوب المشترك فيحول الممارسات المتفرقة إلى جرد واحد ومستويات مخاطر موحدة وخط إبلاغ واحد يوجهه القادة ويدافعون عنه.

• التعرض لمخاطر الذكاء الاصطناعي: ينخفض حين يجرد كل نظام ويصنف ويربط بضوابطه.
• جاهزية الامتثال: تتحسن حين تربط الواجبات النظامية بالضوابط وتحفظ الأدلة.
• سرعة القرار: تتحسن حين تزيل الصلاحيات الواضحة وبوابات الاعتماد الجدل المتكرر.

المبادئ والأساس المعرفي

• المعيار ISO/IEC 42001 لنظام إدارة الذكاء الاصطناعي: يوفر بنية نظام الإدارة التي تطبق في الجلسات 6 و7 و9.
• مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي OECD AI Principles: تؤطر متطلبات الأخلاقيات والسياسات التي تبنى في الجلستين 4 و5.
• مبادئ الضبط القائم على المخاطر: تطابق قوة الضابط مع مستوى الضرر، وتطبق في الجلستين 3 و7.

المشاركون المستهدفون

• مسؤولو المخاطر الذين يضعون شهية المخاطر وتصنيفها لاستخدامات الذكاء الاصطناعي في المنظمة.
• رؤساء الامتثال الذين يربطون الواجبات بالضوابط ويعدون الأدلة للمراجعات.
• قادة البيانات والذكاء الاصطناعي الذين يملكون الجرد وبوابات الاعتماد وضوابط دورة الحياة.
• أعضاء لجان المجالس الذين يتلقون تقارير التأكيد ويساءلون الإدارة.
• كبار المسؤولين الحكوميين الذين يضعون التوقعات لاستخدام الذكاء الاصطناعي في الجهات العامة.

يأتي المشاركون عادة من المصارف وشركات التأمين والرعاية الصحية والاتصالات والإدارة العامة.

مخرجات التعلم

1. سيكون المشاركون قادرين على بناء جرد لأنظمة الذكاء الاصطناعي يسجل المالك والغرض والبيانات والمورد.
2. سيكون المشاركون قادرين على ترتيب أنظمة الذكاء الاصطناعي في مستويات مخاطر وتبرير الضوابط التي يتطلبها كل مستوى.
3. سيكون المشاركون قادرين على تقييم متطلبات السياسات والأخلاقيات في ضوء مبادئ OECD للذكاء الاصطناعي.
4. سيكون المشاركون قادرين على تصميم تقييم للأثر يحدد الفئات المتأثرة وإجراءات التخفيف.
5. سيكون المشاركون قادرين على تشخيص الفجوات بين نظام الإدارة وبنود المعيار ISO/IEC 42001.
6. سيكون المشاركون قادرين على تبرير خطة تأكيد وتقرير للمجلس عن حوكمة الذكاء الاصطناعي.

هيكل البرنامج

اليوم 1: حوكمة الذكاء الاصطناعي وصلاحيات القرار

ما الذي يجب أن تقرره منظومة حوكمة الذكاء الاصطناعي، ومن يقرره؟

• ميثاق حوكمة الذكاء الاصطناعي
• مصفوفة صلاحيات القرار
• اختصاصات جهة الحوكمة
• خريطة الأدوار والمسؤوليات
• مخطط هرم سياسات الذكاء الاصطناعي

اليوم 2: جرد الأنظمة والملكية

ما أنظمة الذكاء الاصطناعي القائمة، ومن يسأل عن كل منها؟

• نموذج جرد أنظمة الذكاء الاصطناعي
• استمارة استلام حالات الاستخدام
• سجل موردي الذكاء الاصطناعي من الأطراف الخارجية
• قائمة فحص اكتشاف الاستخدامات غير المعتمدة
• ورقة إسناد الملكية

اليوم 3: مستويات المخاطر وشهية المخاطر

ما مدى خطورة كل نظام، وما قدر المخاطر الذي تقبله المنظمة؟

• جدول معايير تصنيف المخاطر
• فهرس سيناريوهات الضرر
• بيان شهية المخاطر
• ربط المستويات بالضوابط
• نموذج قيد سجل المخاطر

اليوم 4: متطلبات السياسات والأخلاقيات

ما القواعد التي ينبغي أن تحكم تصميم الذكاء الاصطناعي واستخدامه؟

• ورقة مطابقة مبادئ OECD للذكاء الاصطناعي
• مسودة سياسة الاستخدام المقبول
• متطلبات الإنصاف والشفافية
• معيار الإشراف البشري
• إجراء الاستثناءات والتصعيد

اليوم 5: تقييم الأثر

من يتأثر بالنظام، وكيف تكتشف الأضرار وتخفف؟

• نموذج تقييم الأثر
• تحليل الفئات المتأثرة
• مراجعة مصدر البيانات والموافقة
• خطة اختبار الانحياز والأداء
• خطة إجراءات التخفيف

اليوم 6: تصميم نظام الإدارة

كيف تتكامل السياسات والأدوار والضوابط في نظام إدارة واحد؟

• جدول مطابقة بنود ISO/IEC 42001
• خطة الأهداف والموارد
• مصفوفة الكفاءة والتوعية
• فهرس المعلومات الموثقة
• إجراء ضبط التغيير

اليوم 7: ضوابط دورة الحياة

أي الضوابط تنطبق من الاعتماد إلى التشغيل ثم الإيقاف؟

• قائمة فحص بوابة اعتماد النماذج
• حزمة أدلة التحقق
• مراجعة جاهزية النشر
• مجموعة مؤشرات الانحراف والأداء
• ورقة معايير الإيقاف

اليوم 8: واجبات الامتثال والحوادث

كيف تستوفى الواجبات النظامية وتعالج حوادث الذكاء الاصطناعي؟

• سجل الواجبات النظامية المنطبقة
• مصفوفة ربط الضوابط بالواجبات
• دليل الاستجابة لحوادث الذكاء الاصطناعي
• حزمة الرد على استفسارات الجهات الرقابية
• جدول الاحتفاظ بالسجلات

اليوم 9: التأكيد المستقل وتقارير المجلس

ما الأدلة التي تثبت أن منظومة الحوكمة تعمل؟

• خطة التأكيد
• برنامج اختبار الضوابط
• متتبع ملاحظات التدقيق
• لوحة تقارير المجلس
• جدول أعمال مراجعة الإدارة

اليوم 10: خطة التشغيل لمنظمة واحدة

هل تشكل السجلات السابقة منظومة حوكمة واحدة عاملة؟

• تطبيق نموذج جرد أنظمة الذكاء الاصطناعي من الجلسة 2
• اختبار ربط المستويات بالضوابط من الجلسة 3
• مراجعة نموذج تقييم الأثر من الجلسة 5
• فحص لوحة تقارير المجلس من الجلسة 9
• إنجاز خطة تشغيل حوكمة الذكاء الاصطناعي

المنهجية

يقوم البرنامج على تمارين منظمة تعتمد على حالة مشتركة لمنظمة متوسطة الحجم لها مجموعة متنامية من أنظمة الذكاء الاصطناعي، بعضها مبني وبعضها مشترى وبعضها مدمج في البرمجيات. يبني المشاركون كل مخرج على بيانات حالة جاهزة، ثم يكيفونه مع منظماتهم ويختبرونه أمام أسئلة لجنة مجلس تمثيلية.

• نشاط مقترح: إعداد قيد جرد ومستوى مخاطر لخمسة أنظمة ذكاء اصطناعي متباينة.
• نشاط مقترح: صياغة تقييم أثر لنظام قرار موجه للعملاء.
• نشاط مقترح: عرض تقرير ربع سنوي عن حوكمة الذكاء الاصطناعي أمام لجنة مجلس تمثيلية.

المخرج الختامي

يعد كل مشارك خطة تشغيل لحوكمة الذكاء الاصطناعي في منظمة واحدة. وتضم الخطة مصفوفة صلاحيات القرار وجردا وجدول تصنيف للمخاطر مع ربط بالضوابط ومجموعة سياسات ونموذجا لتقييم الأثر وخطة تأكيد وتقريرا للمجلس. وتستخدم الخطة في العمل لإطلاق وظيفة الحوكمة أو إعادة ضبطها وإحاطة المجلس بحالتها.

الأسئلة الشائعة

هل يناسب تدريب حوكمة الذكاء الاصطناعي القادة الذين ليست لهم خلفية تقنية؟

نعم، فحوكمة الذكاء الاصطناعي تدرس بحالات مؤسسية ونماذج جاهزة، ويفترض التدريب خبرة في المخاطر أو الامتثال أو البيانات أو إشراف المجالس دون برمجة أو معرفة بتعلم الآلة.

على أي معايير يقوم تدريب حوكمة الذكاء الاصطناعي؟

يقوم تدريب حوكمة الذكاء الاصطناعي على المعيار ISO/IEC 42001 لنظام الإدارة، ومبادئ OECD للذكاء الاصطناعي للأخلاقيات والسياسات، ومبادئ الضبط القائم على المخاطر لمطابقة الضوابط مع الضرر.

كيف تستخدم الخطة الناتجة عن تدريب حوكمة الذكاء الاصطناعي في العمل؟

تستخدم خطة التشغيل لإطلاق وظيفة الحوكمة أو إعادة ضبطها واعتماد صلاحيات القرار ووضع مستويات المخاطر وإحاطة المجلس بالجرد والمخاطر ونتائج التأكيد.

بماذا تختلف حوكمة الذكاء الاصطناعي عن تدريب حماية البيانات؟

تغطي حوكمة الذكاء الاصطناعي الجرد ومستويات المخاطر وتقييم الأثر والتأكيد لأنظمة الذكاء الاصطناعي، بينما يركز تدريب حماية البيانات على المعالجة المشروعة للبيانات الشخصية في كل عمليات المعالجة.