دورة الذكاء الاصطناعي السريري المسؤول: سلامة المرضى والموافقة والمساءلة

ملخص البرنامج

الذكاء الاصطناعي السريري المسؤول محور دورة تدريبية تمتد أسبوع لقادة المستشفيات ومسؤولي الحوكمة السريرية ومديري الصحة الرقمية، ويخرج منها كل مشارك بخطة إشراف على أداة ذكاء اصطناعي واحدة تستخدم في رعاية المرضى. تتبنى الفرق السريرية أدوات التنبؤ والتصوير أسرع مما تكتب ممارسات الموافقة وفحوص السلامة وحدود المساءلة. وينتقل البرنامج من المبادئ الأخلاقية إلى تشخيص التحيز والخصوصية ثم تصميم الموافقة والشفافية وضوابط المخاطر والرصد، ويطبق ذلك على أداة يختارها المشارك. تقدم مارس للتدريب المملكة المتحدة هذا البرنامج في الذكاء الاصطناعي السريري المسؤول لمجموعات من منظمات مختلفة.

المبررات المؤسسية

يغير الذكاء الاصطناعي السريري من يتخذ القرار ومن يسأل عنه. وحين تغيب الأدوار المتفق عليها قد يصل خطأ النموذج إلى مرضى كثيرين قبل أن يلاحظه أحد، وتضعف ثقة الناس بالخدمة، ويصعب تحديد الجهة المسؤولة عن التصحيح. أما القادة الذين يضعون معايير الأدلة ويشرحون للمرضى استخدام الذكاء الاصطناعي ويتابعون الأداء بعد الإطلاق فيحمون المرضى ويحفظون ثقة الفرق السريرية بالأدوات المطلوبة منها.

• حوادث سلامة المرضى: تنخفض حين تحدد حدود الأداة ومسارات التصعيد ونقاط المراجعة البشرية وتختبر.
• الشكاوى ونزاعات الموافقة: تنخفض حين يتلقى المرضى معلومات واضحة عن استخدام الذكاء الاصطناعي في رعايتهم.
• سحب الأدوات غير المخطط: ينخفض حين يكشف الرصد الانحراف والتحيز قبل تراكم الضرر.

المبادئ والأساس المعرفي

• إرشادات منظمة الصحة العالمية WHO Ethics and Governance of Artificial Intelligence for Health: تضع مبادئ مثل حماية الاستقلالية وتعزيز السلامة والشفافية والمساءلة، وتستخدم في الجلسة 1 لتأطير القرارات.
• ISO 14971: معيار إدارة المخاطر للأجهزة الطبية، ويطبق في الجلسة 4 على تحليل المخاطر والضوابط لأداة ذكاء اصطناعي سريرية.
• NIST AI Risk Management Framework: إطار إدارة مخاطر الذكاء الاصطناعي بوظائفه الأربع، ويستخدم في الجلسة 4 لبناء الرصد.
• ISO/IEC 42001: معيار نظام إدارة الذكاء الاصطناعي، ويستخدم في الجلسة 5 لإسناد الملكية ودورات المراجعة.

المشاركون المستهدفون

• قادة المستشفيات الذين يعتمدون إدخال أدوات الذكاء الاصطناعي في الخدمات السريرية.
• مسؤولو الحوكمة السريرية الذين يملكون السلامة والتدقيق ومراجعة الحوادث.
• مديرو الصحة الرقمية الذين يختارون البرمجيات السريرية ويدمجونها ويرصدونها.
• مديرو الجودة والمخاطر الذين يرفعون مقاييس سلامة المرضى إلى مجلس الإدارة.

يأتي المشاركون عادة من مجموعات المستشفيات وشبكات الرعاية الأولية وشركات التأمين الصحي.

مخرجات التعلم

1. سيكون المشاركون قادرين على تقييم حالة استخدام سريرية للذكاء الاصطناعي وفق مبادئ أخلاقية معتمدة.
2. سيكون المشاركون قادرين على تشخيص مصادر التحيز وانكشاف الخصوصية في البيانات السريرية والنماذج.
3. سيكون المشاركون قادرين على تصميم نهج للموافقة ومعلومات المريض في الرعاية المدعومة بالذكاء الاصطناعي.
4. سيكون المشاركون قادرين على بناء تحليل للمخاطر وخطة ضوابط لأداة ذكاء اصطناعي سريرية.
5. سيكون المشاركون قادرين على ترتيب مقاييس الرصد التي تكشف الانحراف والضرر بعد الإطلاق.
6. سيكون المشاركون قادرين على تبرير نموذج للمساءلة يحدد من يسأل عن كل قرار للذكاء الاصطناعي.

هيكل البرنامج

اليوم 1: الذكاء الاصطناعي السريري المسؤول والمبادئ الأخلاقية

أي المبادئ الأخلاقية تنطبق على أداة ذكاء اصطناعي في رعاية المرضى؟

• رسم خريطة المبادئ الأخلاقية
• سجل حالات الاستخدام السريرية
• تأطير المنافع والأضرار
• مراجعة صوت أصحاب المصلحة والمرضى
• مخطط صلاحيات القرار

اليوم 2: تشخيص التحيز والبيانات والخصوصية

أين يدخل التحيز وانكشاف الخصوصية إلى البيانات والنموذج؟

• فحص مصدر بيانات التدريب
• مراجعة الأداء بحسب الفئات
• تصنيف مصادر التحيز
• خريطة تدفق بيانات المرضى
• اختبار تقليل البيانات

اليوم 3: الموافقة والشفافية والتواصل

كيف يبلغ المرضى والأطباء حين يشارك الذكاء الاصطناعي في القرار؟

• تصميم مسار الموافقة
• نموذج معلومات المريض
• معيار الشرح للأطباء
• قواعد الانسحاب والتجاوز
• مسار معالجة الشكاوى

اليوم 4: ضوابط السلامة والمخاطر والرصد

كيف يتوقع الضرر ويحد منه ويكشف بعد الإطلاق؟

• بناء سجل المخاطر
• مواءمة ضوابط المخاطر مع ISO 14971
• وظائف NIST AI Risk Management Framework
• خطة رصد الانحراف والأخطاء
• بروتوكول تصعيد الحوادث

اليوم 5: المساءلة وخطة الإشراف

هل تتكامل المبادئ والضوابط والأدوار في أداة واحدة؟

• تطبيق مخطط صلاحيات القرار من الجلسة 1
• اختبار مراجعة الأداء بحسب الفئات من الجلسة 2
• فحص تصميم مسار الموافقة من الجلسة 3
• مراجعة سجل المخاطر من الجلسة 4
• إنجاز خطة الإشراف على الذكاء الاصطناعي السريري

المنهجية

يقوم البرنامج على تحليل الحالات اعتمادا على حالة مشتركة لمجموعة مستشفيات تدخل أداة ذكاء اصطناعي ترصد تدهور حالة المرضى. يطبق المشاركون كل أداة على الحالة ثم على خدمتهم.

• نشاط مقترح: رسم المواضع التي قد يدخل منها التحيز إلى البيانات خلف نموذج لرصد المخاطر.
• نشاط مقترح: صياغة نموذج معلومات للمريض يشرح استخدام الذكاء الاصطناعي بلغة بسيطة.
• نشاط مقترح: بناء سجل مخاطر ومسار تصعيد لتنبيه فات الفريق.

المخرج الختامي

يعد كل مشارك خطة للإشراف على الذكاء الاصطناعي السريري لأداة واحدة تستخدم في رعاية المرضى. وتضم الخطة مخطط صلاحيات القرار ومراجعة للتحيز والخصوصية ومسارا للموافقة وسجلا للمخاطر مع الضوابط وخطة للرصد ونموذجا للمساءلة. وتستخدم الخطة في العمل لإحاطة مجلس الإدارة وتوجيه الموردين وقيادة المراجعة الأولى بعد الإطلاق.

الأسئلة الشائعة

هل يناسب تدريب الذكاء الاصطناعي السريري المسؤول القادة الذين لا يملكون خلفية تقنية؟

نعم، فالذكاء الاصطناعي السريري المسؤول يدرس بالحالات والنماذج الجاهزة، ويفترض البرنامج خبرة قيادية في الشؤون السريرية أو الجودة أو الصحة الرقمية دون حاجة إلى مهارات برمجة.

على أي معايير يقوم تدريب الذكاء الاصطناعي السريري المسؤول؟

يقوم تدريب الذكاء الاصطناعي السريري المسؤول على إرشادات منظمة الصحة العالمية في أخلاقيات الذكاء الاصطناعي وحوكمته للصحة، وعلى ISO 14971 وNIST AI Risk Management Framework وISO/IEC 42001.

كيف تستخدم الخطة الناتجة عن تدريب الذكاء الاصطناعي السريري المسؤول في العمل؟

تستخدم خطة الإشراف على الذكاء الاصطناعي السريري لإحاطة مجلس الإدارة وتوجيه الموردين وقيادة المراجعة الأولى بعد إطلاق أداة واحدة في رعاية المرضى.

بماذا يختلف الذكاء الاصطناعي السريري المسؤول عن تدريب حماية البيانات الصحية؟

يعنى الذكاء الاصطناعي السريري المسؤول بالسلامة والموافقة والمساءلة عن القرارات المدعومة بالذكاء الاصطناعي، بينما يعنى تدريب حماية البيانات الصحية بالتعامل المشروع مع سجلات المرضى وحفظها.