محمل بالصور
يتحرك الذكاء الاصطناعي (AI) بسرعة وسيصبح أداة دعم مهمة في الرعاية السريرية. تشير الأبحاث إلى أن خوارزميات الذكاء الاصطناعي يمكنها ذلك بدقة الكشف عن الأورام الميلانينية و توقع سرطان الثدي في المستقبل.
ولكن قبل أن يتم دمج الذكاء الاصطناعي في الاستخدام السريري الروتيني ، يجب أن نتصدى لتحدي التحيز الخوارزمي. قد تحتوي خوارزميات الذكاء الاصطناعي على تحيزات متأصلة يمكن أن تؤدي إلى قضايا التمييز والخصوصية. يمكن لأنظمة الذكاء الاصطناعي أيضًا أن تتخذ قرارات دون الإشراف المطلوب أو المدخلات البشرية.
مثال على الآثار الضارة المحتملة للذكاء الاصطناعي يأتي من مشروع دولي التي تهدف إلى استخدام الذكاء الاصطناعي لإنقاذ الأرواح من خلال تطوير علاجات طبية متطورة. في إحدى التجارب ، عكس الفريق نموذج الذكاء الاصطناعي "الجيد" الخاص بهم لإنشاء خيارات لنموذج ذكاء اصطناعي جديد لإحداث "ضرر".
في أقل من ست ساعات من التدريب ، أنتجت خوارزمية الذكاء الاصطناعي المعكوسة عشرات الآلاف من عوامل الحرب الكيميائية المحتملة ، مع العديد من عوامل الخطر الأكثر خطورة من عوامل الحرب الحالية. هذا مثال متطرف فيما يتعلق بالمركبات الكيميائية ، ولكنه بمثابة دعوة للاستيقاظ لتقييم العواقب الأخلاقية المعروفة وغير المعروفة للذكاء الاصطناعي.
الذكاء الاصطناعي في الرعاية السريرية
في الطب ، نتعامل مع بيانات الأشخاص الأكثر خصوصية وغالباً قرارات تغير حياتهم. تعد أطر أخلاقيات الذكاء الاصطناعي القوية أمرًا ضروريًا.
• مشروع الصرع الاسترالي يهدف إلى تحسين حياة الناس وجعل الرعاية السريرية متاحة على نطاق أوسع. استنادًا إلى التصوير المتقدم للدماغ والمعلومات الجينية والمعرفية من آلاف الأشخاص المصابين بالصرع ، نخطط لاستخدام الذكاء الاصطناعي من أجل الإجابة على الأسئلة التي لا يمكن الإجابة عليها حاليًا.
هل ستستمر نوبات هذا الشخص؟ ما هو الدواء الأكثر فعالية؟ هل جراحة الدماغ خيار علاجي قابل للتطبيق؟ هذه أسئلة أساسية يكافح الطب الحديث لمعالجتها.
بصفتي قائد الذكاء الاصطناعي لهذا المشروع ، فإن شاغلي الرئيسي هو أن الذكاء الاصطناعي يتحرك بسرعة وأن الإشراف التنظيمي ضئيل. هذه القضايا هي سبب قيامنا مؤخرًا بإنشاء ملف الإطار الأخلاقي لاستخدام الذكاء الاصطناعي كأداة دعم سريري. يهدف هذا الإطار إلى ضمان أن تكون تقنيات الذكاء الاصطناعي لدينا منفتحة وآمنة وجديرة بالثقة ، مع تعزيز الشمولية والإنصاف في الرعاية السريرية.
إذن كيف نطبق أخلاقيات الذكاء الاصطناعي في الطب لتقليل التحيز والاحتفاظ بالسيطرة على الخوارزميات؟ ينطبق مبدأ علوم الكمبيوتر "قمامة في ، قمامة خارج" على الذكاء الاصطناعي. لنفترض أننا نجمع بيانات متحيزة من عينات صغيرة. من المحتمل أن تكون خوارزميات الذكاء الاصطناعي الخاصة بنا متحيزة وغير قابلة للتكرار في بيئة سريرية أخرى.
ليس من الصعب العثور على أمثلة للتحيزات في نماذج الذكاء الاصطناعي المعاصرة. تُظهر نماذج اللغات الكبيرة الشائعة (ChatGPT على سبيل المثال) ونماذج الانتشار الكامنة (DALL-E و Stable Diffusion) كيف تحيزات صريحة فيما يتعلق بالجنس والعرق والحالة الاجتماعية والاقتصادية يمكن أن تحدث.
وجد الباحثون أن مطالبات المستخدم البسيطة تولد صورًا تديم القوالب النمطية العرقية والجندرية والطبقية. على سبيل المثال ، موجه للطبيب يولد في الغالب صور الأطباء الذكور ، وهو ما يتعارض مع الواقع حيث أن حوالي نصف الأطباء في دول منظمة التعاون الاقتصادي والتنمية هم من الإناث.
التنفيذ الآمن للذكاء الاصطناعي الطبي
إن الحل لمنع التحيز والتمييز ليس بالأمر الهين. من المحتمل أن يكون تمكين المساواة الصحية وتعزيز الشمولية في الدراسات السريرية من بين الحلول الأولية لمكافحة التحيزات في الذكاء الاصطناعي الطبي.
بشكل مشجع ، اقترحت إدارة الغذاء والدواء الأمريكية مؤخرًا جعل التنوع إلزاميًا في التجارب السريرية. يمثل هذا الاقتراح خطوة نحو دراسات سريرية أقل تحيزًا وقائمة على المجتمع.
هناك عقبة أخرى أمام التقدم وهي التمويل المحدود للبحوث. تتطلب خوارزميات الذكاء الاصطناعي عادةً كميات كبيرة من البيانات ، والتي قد تكون باهظة الثمن. من الأهمية بمكان إنشاء آليات تمويل محسّنة توفر للباحثين الموارد اللازمة لجمع البيانات ذات الصلة سريريًا والمناسبة لتطبيقات الذكاء الاصطناعي.
نجادل أيضًا أنه يجب علينا دائمًا معرفة الأعمال الداخلية لخوارزميات الذكاء الاصطناعي وفهم كيفية توصلهم إلى استنتاجاتهم وتوصياتهم. غالبًا ما يشار إلى هذا المفهوم باسم "القابلية للتفسير" في الذكاء الاصطناعي. إنه يتعلق بفكرة أن البشر والآلات يجب أن يعملوا معًا لتحقيق أفضل النتائج.
نحن نفضل أن ننظر إلى تنفيذ التنبؤ في النماذج على أنه ذكاء "معزز" بدلاً من ذكاء "اصطناعي" - يجب أن تكون الخوارزميات جزءًا من العملية ويجب أن تظل المهن الطبية مسيطرة على اتخاذ القرار.
بالإضافة إلى التشجيع على استخدام الخوارزميات القابلة للتفسير ، فإننا ندعم العلم الشفاف والمفتوح. يجب على العلماء نشر تفاصيل نماذج الذكاء الاصطناعي ومنهجيتها لتعزيز الشفافية وإمكانية التكاثر.
ما الذي نحتاجه في Aotearoa New Zealand لضمان التنفيذ الآمن للذكاء الاصطناعي في الرعاية الطبية؟ المخاوف الأخلاقية للذكاء الاصطناعي يقودها في المقام الأول خبراء في هذا المجال. ومع ذلك ، فإن لوائح منظمة العفو الدولية المستهدفة ، مثل القائمة في الاتحاد الأوروبي قانون الذكاء الاصطناعي تم اقتراحها ، ومعالجة هذه الاعتبارات الأخلاقية.
إن قانون الذكاء الاصطناعي الأوروبي مرحب به وسيحمي الأشخاص الذين يعملون ضمن "الذكاء الاصطناعي الآمن". أصدرت حكومة المملكة المتحدة مؤخرًا ملف نهج استباقي لتنظيم الذكاء الاصطناعي، بمثابة مخطط لاستجابات الحكومات الأخرى لسلامة الذكاء الاصطناعي.
في Aotearoa ، ندافع عن تبني موقف استباقي بدلاً من موقف تفاعلي لسلامة الذكاء الاصطناعي. سيؤسس إطارًا أخلاقيًا لاستخدام الذكاء الاصطناعي في الرعاية السريرية وغيرها من المجالات ، مما ينتج عنه ذكاء اصطناعي قابل للتفسير وآمن وغير متحيز. وبالتالي ، ستزداد ثقتنا بأن هذه التكنولوجيا القوية تفيد المجتمع مع حمايته من الأذى.
نبذة عن الكاتب
مانجور بيدرسن، أستاذ مساعد في علم النفس وعلم الأعصاب ، جامعة أوكلاند للتكنولوجيا
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
كتب ذات صلة:
الجسم يحافظ على النتيجة: العقل والجسم في شفاء الصدمة
بقلم بيسيل فان دير كولك
يستكشف هذا الكتاب الروابط بين الصدمة والصحة البدنية والعقلية ، ويقدم رؤى واستراتيجيات للشفاء والتعافي.
انقر لمزيد من المعلومات أو للطلب
التنفس: العلم الجديد لفن ضائع
بواسطة جيمس نيستور
يستكشف هذا الكتاب علم وممارسة التنفس ، ويقدم رؤى وتقنيات لتحسين الصحة البدنية والعقلية.
انقر لمزيد من المعلومات أو للطلب
مفارقة النبات: الأخطار الخفية في الأطعمة "الصحية" التي تسبب المرض وزيادة الوزن
بواسطة ستيفن ر
يستكشف هذا الكتاب الروابط بين النظام الغذائي والصحة والمرض ، ويقدم رؤى واستراتيجيات لتحسين الصحة والعافية بشكل عام.
انقر لمزيد من المعلومات أو للطلب
قانون المناعة: النموذج الجديد للصحة الحقيقية ومكافحة الشيخوخة الجذرية
بواسطة جويل جرين
يقدم هذا الكتاب منظورًا جديدًا للصحة والمناعة ، بالاعتماد على مبادئ علم التخلق ويقدم رؤى واستراتيجيات لتحسين الصحة والشيخوخة.
انقر لمزيد من المعلومات أو للطلب
الدليل الكامل للصيام: اشفي جسدك بالصيام المتقطع ، والصيام المتناوب ، والممتد
بقلم الدكتور جيسون فونج وجيمي مور
يستكشف هذا الكتاب علم وممارسة الصيام ويقدم رؤى واستراتيجيات لتحسين الصحة والعافية بشكل عام.
يهمني
