دورة الإشراف على بيانات الذكاء الاصطناعي: الملكية وضوابط الخصوصية وجودة البيانات

ملخص البرنامج

الإشراف على بيانات الذكاء الاصطناعي محور دورة تدريبية تمتد 5 أيام بمستوى إداري لمالكي البيانات وقيادات الخصوصية والامتثال ومديري برامج الذكاء الاصطناعي، ويخرج منها كل مشارك بخطة الإشراف على بيانات الذكاء الاصطناعي لنظام واحد. فأنظمة الذكاء الاصطناعي تعتمد على بيانات جمعت في الغالب لأغراض أخرى، وقليلا ما توثق جيدا، وكثيرا ما تتشارك. ويتدرج البرنامج من الملكية ورسم البيانات، مرورا بالجودة والنزاهة وضوابط الخصوصية، إلى الرقابة، ثم إلى خطة عملية. تقدم مارس للتدريب المملكة المتحدة هذا البرنامج في الإشراف على بيانات الذكاء الاصطناعي.

المبررات المؤسسية

حين لا يملك أحد البيانات التي يقوم عليها نظام الذكاء الاصطناعي، لا تظهر مشكلات الجودة والاستخدامات المخالفة والنتائج غير المفسرة إلا بعد التشغيل. أما المؤسسات التي تسند الملكية وتوثق مصدر البيانات وتطبق ضوابط الخصوصية مبكرا، فتجيب عن أسئلة الجهات الرقابية والعملاء والمجالس بالأدلة لا بالافتراضات، وتوقف الاستخدام غير الآمن قبل أن ينتشر.

• عيوب جودة مدخلات الذكاء الاصطناعي: تنخفض حين تطبق فحوص الملاءمة وسجلات المنشأ قبل استخدام البيانات في التدريب.
• التعرض في الخصوصية: يقل حين ترسم البيانات الشخصية وتفرض قواعد الموافقة والغرض.
• الجاهزية للتدقيق: تتحسن حين تسجل الملكية والقرارات والأدلة لكل نظام.

المبادئ والأساس المعرفي

• ISO/IEC 5259 (جودة البيانات للتحليلات وتعلم الآلة): تنظم مفاهيمه عمل الجودة والمنشأ في الجلسة 2.
• ISO/IEC 27701 (إدارة معلومات الخصوصية): توجه متطلباته ضوابط الخصوصية التي تبنى في الجلسة 3.
• ISO/IEC 42001 (نظام إدارة الذكاء الاصطناعي): تشكل متطلباته ترتيبات الملكية والرقابة في الجلستين 1 و4.

المشاركون المستهدفون

• مالكو البيانات المسؤولون عن مجموعات البيانات التي تدرب أنظمة الذكاء الاصطناعي أو تشغلها.
• قيادات الخصوصية والامتثال التي تراجع استخدام الذكاء الاصطناعي للبيانات الشخصية.
• مديرو برامج الذكاء الاصطناعي الذين يعتمدون مصادر البيانات والموردين.
• قيادات حوكمة المعلومات التي تضع قواعد الاحتفاظ والمشاركة والوصول.

يخدم البرنامج المصارف والرعاية الصحية وشركات الاتصالات وجهات القطاع العام.

مخرجات التعلم

1. سيكون المشاركون قادرين على رسم خريطة البيانات التي تدرب نظام الذكاء الاصطناعي وتغذيه وينتجها.
2. سيكون المشاركون قادرين على إسناد مسؤوليات مالك البيانات والمشرف عليها في بيانات الذكاء الاصطناعي.
3. سيكون المشاركون قادرين على تقييم بيانات التدريب من حيث الجودة والتمثيل والنزاهة.
4. سيكون المشاركون قادرين على تشخيص مخاطر الخصوصية عبر دورة حياة الذكاء الاصطناعي.
5. سيكون المشاركون قادرين على ترتيب أولويات ضوابط الموافقة وتقليل البيانات والاحتفاظ والمشاركة.
6. سيكون المشاركون قادرين على تبرير خطة الإشراف على بيانات الذكاء الاصطناعي أمام مالك النظام ومسؤول الخصوصية.

هيكل البرنامج

اليوم 1: أسس الإشراف على بيانات الذكاء الاصطناعي

ما البيانات التي يستخدمها نظام الذكاء الاصطناعي، ومن يملكها، وما القواعد التي تحكمها؟

• جرد بيانات الذكاء الاصطناعي وخريطة تدفقها
• ميثاق أدوار مالك البيانات والمشرف عليها
• متطلبات البيانات في أنظمة الذكاء الاصطناعي وفق ISO/IEC 42001
• سجل الغرض والاستخدام المشروع
• مراجعة حالتين لإخفاقات بيانات من قطاعين

اليوم 2: جودة البيانات ونزاهتها للذكاء الاصطناعي

كيف تثبت جودة بيانات التدريب والمدخلات ونزاهتها؟

• خصائص جودة البيانات وفق ISO/IEC 5259
• قائمة فحص ملاءمة بيانات التدريب
• مراجعة التحيز والتمثيل
• سجل منشأ البيانات ومسارها
• ضوابط النزاهة ضد العبث والتسميم

اليوم 3: ضوابط الخصوصية والموافقة

كيف تحمى البيانات الشخصية حين تجمعها أنظمة الذكاء الاصطناعي وتتعلم منها وتولدها؟

• رسم البيانات الشخصية عبر دورة حياة الذكاء الاصطناعي
• ضوابط إدارة معلومات الخصوصية وفق ISO/IEC 27701
• قواعد الموافقة وتقييد الغرض
• خيارات إخفاء الهوية وتقليل البيانات
• تقييم أثر الخصوصية لحالات استخدام الذكاء الاصطناعي

اليوم 4: نموذج التشغيل والرقابة

من يقرر ويراجع ويبلغ عن بيانات الذكاء الاصطناعي في العمل اليومي؟

• مصفوفة صلاحيات القرار والتصعيد
• بنود مشاركة البيانات واتفاقيات الموردين
• جدول الاحتفاظ والحذف
• الاستجابة للحوادث والانتهاكات في بيانات الذكاء الاصطناعي
• مجموعة مؤشرات ضمان البيانات

اليوم 5: تطبيق الإشراف على بيانات الذكاء الاصطناعي على نظام

هل خطة الإشراف جاهزة ليعتمدها مالك النظام ومسؤول الخصوصية؟

• تطبيق خريطة البيانات من الجلسة 1 على نظام الذكاء الاصطناعي المختار
• اختبار قائمة الجودة من الجلسة 2 على بيانات نموذجية
• فحص ضوابط الخصوصية من الجلسة 3 مقابل حالة الاستخدام
• تطبيق صلاحيات القرار من الجلسة 4 على القضايا المفتوحة
• إنجاز خطة الإشراف على بيانات الذكاء الاصطناعي

المنهجية

يقوم البرنامج على التمارين المنظمة وتحليل الحالات، إذ يعمل المشاركون على حالة استخدام مجهولة المصدر ومجموعات بيانات نموذجية، فيسجلون تدفقات البيانات ويختبرون ضوابط الجودة والخصوصية ويسندون الملكية في فرق صغيرة، ثم يدافعون عن خطتهم أمام لجنة مراجعة محاكاة. ولا تتطلب الورش برمجة.

• نشاط مقترح: تتبع تدفق البيانات في أداة نموذجية لفرز طلبات التوظيف.
• نشاط مقترح: فحص مجموعة بيانات تدريب نموذجية بقائمة الملاءمة.
• نشاط مقترح: صياغة قواعد الموافقة والاحتفاظ لمساعد خدمة العملاء.

المخرج الختامي

يعد كل مشارك خطة الإشراف على بيانات الذكاء الاصطناعي لنظام واحد. وتتضمن خريطة للبيانات، وميثاقا للملكية والإشراف، وسجلا للجودة والمنشأ، ومجموعة ضوابط للخصوصية، وجدولا للاحتفاظ والمشاركة، ومجموعة مؤشرات. وتستخدم لإحاطة مالك النظام ومسؤول الخصوصية وللتهيؤ للتدقيق الداخلي.

الأسئلة الشائعة

هل يناسب التدريب على الإشراف على بيانات الذكاء الاصطناعي قيادات الخصوصية والامتثال من غير ذوي الخلفية التقنية؟

نعم، فهو بمستوى إداري، ويفترض خبرة في مسؤوليات البيانات أو الخصوصية أو الامتثال، لا في البرمجة أو تعلم الآلة.

ما المعايير التي يقوم عليها الإشراف على بيانات الذكاء الاصطناعي في هذا البرنامج؟

يقوم على ISO/IEC 5259 لجودة البيانات، وISO/IEC 27701 لإدارة معلومات الخصوصية، وISO/IEC 42001 لنظم إدارة الذكاء الاصطناعي.

كيف تستخدم خطة الإشراف على بيانات الذكاء الاصطناعي في العمل؟

تستخدم خطة الإشراف على بيانات الذكاء الاصطناعي لإحاطة مالك النظام ومسؤول الخصوصية، وإسناد مسؤوليات البيانات، وإعداد الأدلة للتدقيق الداخلي.