دورة أخلاقيات التقنيات الناشئة وحوكمة الابتكار المسؤول للقيادات

ملخص البرنامج

أخلاقيات التقنيات الناشئة وحوكمة الابتكار المسؤول دورة تدريبية تمتد أسبوع بمستوى متقدم، موجهة إلى المديرين وكبار المسؤولين، ويخرج منها كل مشارك بميثاق لحوكمة أخلاقيات التقنية في جهته. فالذكاء الاصطناعي والقياسات الحيوية والأجهزة المتصلة باتت تؤثر في القرارات المتعلقة بالمواطنين والعملاء بوتيرة أسرع من تطور آليات الرقابة. ويتدرج البرنامج من المبادئ الأخلاقية إلى تشخيص المخاطر، ثم تصميم هياكل المساءلة وتطبيقها على مستوى مجلس الإدارة. تقدم هذا البرنامج في أخلاقيات التقنيات الناشئة والابتكار المسؤول مارس للتدريب المملكة المتحدة.

المبررات المؤسسية

حين تعتمد المشروعات التقنية الجديدة على أساس التكلفة والسرعة وحدهما، تظهر الأضرار متأخرة في صورة نتائج متحيزة وقرارات غير مفهومة وتراجع في ثقة الجمهور. أما النهج المحوكم فيمنح مجالس الإدارة أساسا واضحا ومتكررا للموافقة على المقترح أو رفضه أو ربطه بشروط.

• التعرض القانوني والتنظيمي: ينخفض حين تحدد الاستخدامات عالية المخاطر وتقيم وتوثق قبل التشغيل.
• ثقة أصحاب المصلحة: ترتفع حين تبنى الشفافية والتفسير وسبل التظلم في الخدمات منذ تصميمها.
• زمن اعتماد المقترحات: يقصر حين تسير المراجعة الأخلاقية وفق معايير وأدوار ومسارات تصعيد واضحة.

المبادئ والأساس المعرفي

• UNESCO Recommendation on the Ethics of Artificial Intelligence، توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي: تؤطر قيمها ومنهج تقييم الأثر الأخلاقي فيها أعمال المبادئ والتقييم في الجلسة 1 والجلسة 2.
• OECD AI Principles، مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي: تبنى عليها اختبارات العدالة والشفافية والمتانة والمساءلة في تشخيص المخاطر خلال الجلسة 2.
• NIST AI Risk Management Framework، إطار إدارة مخاطر الذكاء الاصطناعي: تنظم وظائفه الأربع في الحوكمة والتحديد والقياس والإدارة الضوابط وآليات المتابعة في الجلسة 3.
• ISO/IEC 42001:2023، معيار نظام إدارة الذكاء الاصطناعي: يوجه بناء السياسة والأدوار ودورة التحسين المستمر في الجلسة 4.

المشاركون المستهدفون

• القيادات التي تعتمد الاستثمار في الذكاء الاصطناعي وغيره من التقنيات الناشئة أو ترعاه.
• التنفيذيون المسؤولون عن استراتيجية التحول الرقمي أو البيانات أو المعلومات في المؤسسة.
• رؤساء المخاطر والامتثال والتدقيق والشؤون القانونية المطالبون بتقديم تأكيد بشأن القرارات المؤتمتة.
• كبار المسؤولين الحكوميين الذين يضعون سياسات استخدام التقنيات الجديدة في الخدمات العامة.

يخدم البرنامج القطاع الحكومي والمصارف والتأمين والرعاية الصحية والاتصالات.

مخرجات التعلم

1. سيكون المشاركون قادرين على تقييم المقترح التقني في ضوء المبادئ الأخلاقية المعترف بها وتحديد القيم المتعارضة فيه.
2. سيكون المشاركون قادرين على تشخيص مخاطر التحيز والغموض والخصوصية والسلامة في حالات استخدام الذكاء الاصطناعي والقياسات الحيوية وإنترنت الأشياء وسلاسل الكتل.
3. سيكون المشاركون قادرين على إعداد تقييم للأثر الأخلاقي وترتيب إجراءات المعالجة حسب الجسامة وإمكانية التدارك.
4. سيكون المشاركون قادرين على تصميم هياكل المساءلة، ومنها مجلس المراجعة الأخلاقية وصلاحيات القرار ومسارات التصعيد.
5. سيكون المشاركون قادرين على تسويغ شروط اعتماد البرنامج التقني أو تعليقه أو رفضه أمام مجلس الإدارة.
6. سيكون المشاركون قادرين على صياغة مؤشرات وتقارير تبين مدى الوفاء بتعهدات الابتكار المسؤول.

هيكل البرنامج

اليوم 1: أسس أخلاقيات التقنيات الناشئة

ما المبادئ التي ينبغي أن توجه قرارات التقنية الجديدة، وأين تتعارض؟

• منظورات العواقب والواجبات والحقوق والفضيلة في تقييم التقنية
• توصية UNESCO Recommendation on the Ethics of Artificial Intelligence ومضامينها
• مبادئ OECD AI Principles والقيم المتمحورة حول الإنسان
• مخاطر الاستخدام المزدوج والعواقب غير المقصودة
• الموازنة بين سرعة الابتكار والمصلحة العامة

اليوم 2: تشخيص المخاطر الأخلاقية في التقنيات الناشئة

كيف تحدد أضرار استخدام تقني بعينه وترتب حسب أولويتها؟

• التحيز الخوارزمي وأساليب اختبار العدالة
• قابلية التفسير وشفافية القرارات المؤتمتة
• مخاطر المراقبة بالقياسات الحيوية والتعرف على الوجه
• تجميع بيانات إنترنت الأشياء وفجوات المساءلة في سلاسل الكتل
• التضليل بالذكاء الاصطناعي التوليدي ومخاطر الملكية الفكرية

اليوم 3: تصميم ضوابط الابتكار المسؤول

ما الضوابط التي تحد من المخاطر الأخلاقية دون أن توقف الابتكار النافع؟

• منهجية تقييم الأثر الأخلاقي ونماذجه
• الخصوصية منذ التصميم وتقليل البيانات
• الرقابة البشرية على الأنظمة ذاتية التشغيل
• وظائف إطار NIST AI Risk Management Framework
• فئات المخاطر في EU AI Act مرجعا للتصنيف

اليوم 4: هياكل المساءلة والحوكمة

من يقرر، ومن يساءل، وكيف تصعد المخاوف؟

• مجالس المراجعة الأخلاقية: الصلاحيات والعضوية والتصعيد
• أدوار نظام إدارة الذكاء الاصطناعي وسياسته وفق ISO/IEC 42001
• العناية الواجبة بالموردين وبنود الشراء الخاصة بالذكاء الاصطناعي
• إشراك أصحاب المصلحة وآليات التظلم والإنصاف
• مؤشرات تقارير مجلس الإدارة عن أخلاقيات التقنية

اليوم 5: تطبيق حوكمة أخلاقيات التقنيات الناشئة

هل يمكن تقييم برنامج تقني قائم وربطه بشروط ورفع تقرير عنه إلى مجلس الإدارة؟

• مراجعة حالة تشغيل عالي المخاطر في قطاعات متعددة
• تقييم أثر حالة استخدام يقدمها المشارك
• صياغة شروط الاعتماد وخطة المتابعة
• لجنة مساءلة بين الزملاء لمقترحات الحوكمة
• إنجاز ميثاق حوكمة أخلاقيات التقنية

المنهجية

يقوم البرنامج على تحليل حالات تشغيل حقيقية في الخدمات العامة والمال والرعاية الصحية. وتجمع كل جلسة بين عرض موجز لمبدأ أو إطار وتحليل جماعي لحالات استخدام يحملها المشاركون من جهاتهم.

• نشاط مقترح: مراجعة عدالة نموذج لتقييم الجدارة الائتمانية أو الأهلية.
• نشاط مقترح: جلسة محاكاة لمجلس أخلاقيات يناقش مقترحا للتعرف على الوجه.
• نشاط مقترح: صياغة شروط اعتماد لتجربة أولية في الذكاء الاصطناعي التوليدي.

المخرج الختامي

يعد كل مشارك ميثاقا لحوكمة أخلاقيات التقنية في جهته، يتضمن المبادئ الموجهة ومعايير تصنيف المخاطر ونموذجا لتقييم الأثر الأخلاقي وشروط عمل مجلس الأخلاقيات ومؤشرات التقارير المرفوعة إلى مجلس الإدارة.

الأسئلة الشائعة

هل يناسب تدريب أخلاقيات التقنيات الناشئة وحوكمة الابتكار المسؤول القيادات التي لا تملك خلفية تقنية؟

نعم، فهو مصمم لصناع القرار في المستوى المتقدم، ويفترض خبرة في الإشراف على البرامج الكبرى دون حاجة إلى معرفة بالبرمجة.

ما الأطر التي تقوم عليها حوكمة أخلاقيات التقنيات الناشئة في هذا التدريب؟

يستند إلى UNESCO Recommendation on the Ethics of Artificial Intelligence ومبادئ OECD AI Principles وإطار NIST AI Risk Management Framework ومعيار ISO/IEC 42001:2023 لأنظمة إدارة الذكاء الاصطناعي.

كيف يستخدم ميثاق حوكمة أخلاقيات التقنية في العمل؟

تعرضه على اللجنة التنفيذية أو لجنة المخاطر أساسا لمراجعة المقترحات التقنية ورفع التقارير عن الابتكار المسؤول.

بم تختلف حوكمة الابتكار المسؤول عن تدريب حوكمة البيانات؟

تعنى حوكمة البيانات بجودة البيانات وملكيتها، أما هذا الموضوع فيسأل هل الاستخدام التقني عادل وقابل للتفسير والمساءلة، ومن يملك قرار اعتماده.

• وضع الدورة دوام كامل
• مقدم الدورة مارس للتدريب المملكة المتحدة