في مؤتمر ومعرض الصحة العالمية HIMSS الأخير في أورلاندو، ألقيت محاضرة ركزت على الحماية من بعض مخاطر الذكاء الاصطناعي في الرعاية الصحية.
وكان الهدف هو تشجيع المتخصصين في الرعاية الصحية على التفكير بعمق في حقائق تحول الذكاء الاصطناعي، مع تزويدهم بأمثلة واقعية حول كيفية المضي قدمًا بأمان وفعالية. كان هدفي هو أن ينضم إليّ جميع أفراد الجمهور في تجاوز هذه الضجة للتركيز على الفهم الناضج لكيفية بناء هذا المستقبل المثير.
والحمد لله أن رسالتي استقبلت بشكل جيد. أعرب الحاضرون عن تقديرهم للإمكانات التي تظهر عندما نتجاوز الحيل والخوف من تفويت الفرصة. إنه يمثل مستوى أعلى من القيادة، حيث يتعاون الأفراد المدروسون عبر مختلف الوظائف لوضع أهداف واضحة وقابلة للتنفيذ لتحسين النتائج.
كانت الرغبة في اتباع نهج ما بعد الضجيج في مجال الذكاء الاصطناعي كبيرة جدًا لدرجة أنني شعرت بأنني مضطر لكتابة ملخص مختصر لحديثي ومشاركته على نطاق واسع مع قراء أخبار تكنولوجيا المعلومات الخاصة بالرعاية الصحية.
سأتطرق بإيجاز إلى قنابل الذكاء الاصطناعي الموقوتة التي انفجرت بالفعل، وسأقدم عشر نصائح لمساعدتك في تجنب هذه المشكلة، وسأشارك مثالين للمؤسسات التي أعمل معها والتي تنفذ الذكاء الاصطناعي بشكل صحيح.
ما الذي عليك عدم فعله
سواء داخل قطاع الرعاية الصحية أو خارجه، بدأت مبادرات الذكاء الاصطناعي التي تم إطلاقها على عجل تظهر بالفعل علامات الفشل.
على سبيل المثال، وعد روبوت الدردشة الذي يتعامل مع العملاء التابع لشركة طيران كندا بشكل غير صحيح أحد الركاب برحلة طيران مخفضة. وفي وقت لاحق، حاولت الشركة الادعاء بأن ذلك لم يكن خطأها، بحجة أن الذكاء الاصطناعي كان كيانًا قانونيًا منفصلاً “مسؤولًا عن أفعاله”. ومن غير المستغرب أن المحكمة الكندية لم تقبل الدفاع القائل “لم نكن نحن، بل كان الذكاء الاصطناعي”، والآن أصبحت شركة الطيران ملزمة باحترام الخصم الذي وعدت به عن طريق الخطأ.
في العام الماضي، تعتزم الجمعية الوطنية لاضطرابات الأكل استبدال موظفي خط المساعدة ذوي الخبرة العالية بـ Tessa، وهو برنامج دردشة مصمم لمساعدة الأفراد الذين يبحثون عن المشورة بشأن اضطرابات الأكل. ومع ذلك، قبل أيام قليلة من إطلاق تيسا المقرر، تم اكتشاف أن الروبوت بدأ في تقديم نصائح إشكالية، بما في ذلك توصيات لتقييد تناول السعرات الحرارية، والوزن المتكرر، ووضع أهداف صارمة لإنقاص الوزن. على الرغم من أن تيسا لم تبدأ العمل مطلقًا، إلا أن هذا الحادث يسلط الضوء على العواقب المدمرة التي يمكن أن تنجم عن الاندفاع نحو حلول الذكاء الاصطناعي.
تسلط دراسة حديثة نشرت في JAMA Open Network الضوء على حالات متعددة من الخوارزميات المتحيزة التي تعمل على إدامة “التفاوتات العرقية والإثنية في الصحة والرعاية الصحية”. قام المؤلفون بتفصيل العديد من حالات الخوارزميات المتحيزة والضارة التي تم تطويرها ونشرها، مما أثر سلبًا على “الوصول إلى التدخلات والخدمات أو الأهلية لها، وتخصيص الموارد”.
وهذا أمر مثير للقلق بشكل خاص لأن العديد من هذه الخوارزميات المتحيزة لا تزال قيد التشغيل.
وببساطة، لقد انفجرت قنابل الذكاء الاصطناعي الموقوتة بالفعل، وسوف تستمر في ذلك ما لم يتم اتخاذ تدابير استباقية للتخفيف من حدة هذه القضايا.
ما يجب القيام به
ولمساعدة القادة في معالجة المخاطر المرتبطة بالذكاء الاصطناعي، قمت بتطوير عشر نصائح للتعامل مع تحول الذكاء الاصطناعي بطريقة آمنة ومستدامة. تم تصميم هذه النصائح للتأكد من أن المديرين التنفيذيين للرعاية الصحية يحققون أفضل عائد ممكن على استثماراتهم:
-
إعطاء الأولوية للشفافية وقابلية التفسير. اختر أنظمة الذكاء الاصطناعي التي تقدم خوارزميات شفافة ونتائج قابلة للتفسير.
-
تنفيذ إدارة قوية للبيانات. يعد ضمان البيانات عالية الجودة والمتنوعة والمصنفة بدقة أمرًا بالغ الأهمية.
-
التعامل مع الهيئات الأخلاقية والتنظيمية مبكرًا. إن فهم المبادئ التوجيهية الأخلاقية والمتطلبات التنظيمية والمواءمة معها في وقت مبكر يمكن أن يمنع المراجعات المكلفة ويضمن سلامة المرضى.
-
تعزيز التعاون متعدد التخصصات. يضمن النهج متعدد التخصصات أن تكون أدوات الذكاء الاصطناعي التي تم تطويرها عملية وأخلاقية وتتمحور حول المريض.
-
ضمان قابلية التوسع وقابلية التشغيل البيني. يجب تصميم أدوات الذكاء الاصطناعي لتتكامل بسلاسة مع أنظمة تكنولوجيا المعلومات الحالية للرعاية الصحية وتكون قابلة للتطوير عبر مختلف الأقسام أو حتى المؤسسات.
-
الاستثمار في التعليم والتدريب المستمر. ويضمن الاستثمار في التعليم والتدريب المستمر قدرة الموظفين على استخدام الذكاء الاصطناعي بشكل فعال، وتفسير مخرجاته، واتخاذ قرارات مستنيرة.
-
تطوير نهج يركز على المريض. اعتماد ممارسات الذكاء الاصطناعي التي تعزز مشاركة المرضى، وتخصيص تقديم الرعاية الصحية، ولا تؤدي عن غير قصد إلى تفاقم الفوارق الصحية.
-
مراقبة الأداء والتأثير بشكل مستمر. تطوير آليات لتعليقات العمال والمرضى، مما يتيح التحسين المستمر لأدوات الذكاء الاصطناعي لتلبية احتياجات أصحاب المصلحة بشكل أفضل.
-
إنشاء أطر واضحة للمساءلة. تحديد خطوط واضحة للمساءلة عن القرارات المتخذة بمساعدة الذكاء الاصطناعي.
-
تعزيز ثقافة الذكاء الاصطناعي الأخلاقية. تشجيع المناقشات حول أخلاقيات الذكاء الاصطناعي، وتعزيز الاستخدام المسؤول للذكاء الاصطناعي، والتأكد من اتخاذ القرارات مع مراعاة رفاهية جميع أصحاب المصلحة.
دع هذه النصائح ترشدك في رحلة الذكاء الاصطناعي الخاصة بك. استخدمها لتطوير المبادئ والسياسات والإجراءات والبروتوكولات للحصول على الذكاء الاصطناعي بشكل صحيح في المرة الأولى والتنقل ببراعة في الحالات التي لا تسير فيها الأمور وفقًا للخطة. إن دمج هذه النصائح بشكل استباقي في بداية تحول الذكاء الاصطناعي سيوفر الوقت والمال، وفي النهاية، الأرواح.
ما يفعله الآخرون
يتطلب تحول الذكاء الاصطناعي العديد من المكونات الأساسية التي تعمل في انسجام تام. كما ذكرت في حديثي عن HIMSS: مثل طقوس عيد الشكر، حان الوقت للانتقال من طاولة الذكاء الاصطناعي للأطفال – حيث تتمحور المحادثة بشكل مهووس حول ChatGPT – إلى طاولة الكبار، حيث يتخذ القادة خطوات فعالة لوضع الأساس الأساس للتحول الناضج للذكاء الاصطناعي.
اثنان من هذه العناصر الأساسية التي ركزت عليها، بالشراكة مع مؤسسات الرعاية الصحية الكبيرة، يتبنى نهجًا شاملاً للنشر والاستثمار في ثقافة قوية تعتمد على البيانات.
وفي أحد الأنظمة الصحية، قمنا بتطوير مخطط لتنفيذ نماذج لغوية كبيرة بشكل آمن. يغطي هذا المخطط مجالات تأثير مختلفة يجب مراعاتها، مثل الآثار الاقتصادية والمتعلقة بالخصوصية لـ LLMs، ويتضمن أسئلة أساسية يجب طرحها في كل مجال من هذه المجالات.
كان الهدف هو تقديم أسئلة محددة ومترابطة للجميع في المجموعة التنفيذية حول المخاطر والفوائد المرتبطة بنشر LLMs. ويساعد هذا النهج على تسليط الضوء على المفاضلات – مثل السرعة مقابل السلامة أو الجودة مقابل التكلفة – ويزود هذه المجموعة المتنوعة من القادة بلغة مشتركة لتحديد الفرص ومناقشة المخاطر.
وفي نظام صحي آخر، قمنا بتطوير عشرة مؤشرات أداء رئيسية لضمان مساهمة قادتهم وفرقهم وعملياتهم جميعًا في ثقافة رعاية تعتمد على البيانات وجاهزة للذكاء الاصطناعي. لقد أنشأنا أيضًا استطلاعًا يستند إلى مؤشرات الأداء الرئيسية هذه لإنشاء فهم أساسي للمكان الذي تتفوق فيه ثقافة البيانات والمكان الذي يوجد فيه مجال للتحسين.
ومن خلال التركيز على فهم احتياجات أطبائها من البيانات وتزويدهم ببيانات عالية الجودة وذات صلة عندما يحتاجون إليها، أدركت المنظمة ارتفاعًا سريعًا ومثيرًا للإعجاب في “الأرقام الجيدة”، مثل مشاركة الموظفين ورضا المرضى.
وهذا بمثابة مثال رئيسي لكيفية بدء تحول الذكاء الاصطناعي قبل ظهور التكنولوجيات الناشئة والضجيج. من خلال التركيز على الأساسيات مثل البيانات، يمكن للقادة تحقيق مكاسب سريعة أثناء إعداد مؤسساتهم لتحقيق النجاح الدائم.
ماذا يأتي بعد ذلك
يتطلب مستقبل الرعاية الصحية عقلية “القيادة أولاً، والتكنولوجيا أخيرًا”. يجب على المديرين التنفيذيين إعطاء الأولوية لاحتياجات موظفيهم، فضلا عن التحديات والفرص الكامنة في عملياتهم.
يتضمن هذا النهج استخدام العلم لفهم مؤسساتهم بطريقة منهجية ويمكن التنبؤ بها والاعتماد على بيانات عالية الجودة لتوليد رؤى دقيقة وموثوقة لتوجيه التغيير.
إن اعتماد عقلية القيادة أولاً، والتكنولوجيا أخيرًا يعني أيضًا أن صناع القرار يجمعون بين العلم والبيانات وخبرتهم التي اكتسبوها بشق الأنفس لصياغة حلول مصممة خصيصًا لسياقهم المحدد.
ولهذا السبب تعرف الجمعية الطبية الأمريكية الذكاء الاصطناعي بأنه “الذكاء المعزز” ــ مؤكدة على دوره في تعزيز الذكاء البشري بدلا من استبداله. ويسلط تعريفهم الضوء على أهمية الحفاظ على قدراتنا المعرفية والعاطفية في طليعة عملية صنع القرار قبل اللجوء إلى التكنولوجيا.
إن تبني المديرين التنفيذيين لهذه الصفات الإنسانية الخالدة سوف يعزز مستقبلًا ناضجًا مدعومًا بالذكاء الاصطناعي.
بريان ر. سبساك، دكتوراه، هو مستشار مستقل يركز على التحول الرقمي في مجال الرعاية الصحية. وهو أيضًا باحث مشارك في مبادرة قيادة التأهب الوطنية في كلية تي إتش تشان للصحة العامة بجامعة هارفارد، وعضو هيئة التدريس في الكلية الأمريكية للمديرين التنفيذيين للرعاية الصحية ومؤلف الكتاب، القيادة الحاسوبية.
