من غير المحتمل أن يستعبد الذكاء الاصطناعي البشرية ، لكنه قد يستحوذ على العديد من جوانب حياتنا. elenabs / iStock عبر Getty Images

رافق ظهور ChatGPT وأنظمة الذكاء الاصطناعي المماثلة تطور حاد زيادة القلق بشأن الذكاء الاصطناعي. خلال الأشهر القليلة الماضية ، قدم المسؤولون التنفيذيون والباحثون في مجال السلامة بالذكاء الاصطناعي تنبؤات أطلق عليها اسم "ف (عذاب)حول احتمال أن يتسبب الذكاء الاصطناعي في كارثة واسعة النطاق.

بلغ القلق ذروته في مايو 2023 عندما صدر مركز منظمة الأبحاث والدعوة غير الربحية لسلامة الذكاء الاصطناعي بيان من جملة واحدة: "يجب أن يكون التخفيف من خطر الانقراض من الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر المجتمعية الأخرى ، مثل الأوبئة والحرب النووية." تم التوقيع على البيان من قبل العديد من اللاعبين الرئيسيين في هذا المجال ، بما في ذلك قادة OpenAI و Google و Anthropic ، بالإضافة إلى اثنين ممن يطلق عليهم "عرابون" الذكاء الاصطناعي: جيفري هينتون و يوشع بينجيو.

قد تسأل كيف من المفترض أن تنتهي هذه المخاوف الوجودية. أحد السيناريوهات الشهيرة هو "مكبر مشبك الورق"تجربة فكرية صاغها فيلسوف أكسفورد نيك بوستروم. الفكرة هي أن نظام الذكاء الاصطناعي المكلف بإنتاج أكبر عدد ممكن من المشابك الورقية قد يذهب إلى أطوال غير عادية للعثور على المواد الخام ، مثل تدمير المصانع والتسبب في حوادث السيارات.

A تباين أقل كثافة في استخدام الموارد لديه ذكاء اصطناعي مكلف بالحجز في مطعم شهير يقوم بإغلاق الشبكات الخلوية وإشارات المرور من أجل منع المستفيدين الآخرين من الحصول على طاولة.

اللوازم المكتبية أو العشاء ، الفكرة الأساسية هي نفسها: الذكاء الاصطناعي يتحول بسرعة إلى ذكاء فضائي ، جيد في تحقيق الأهداف ولكنه خطير لأنه لن يتماشى بالضرورة مع القيم الأخلاقية لمبدعيه. وفي أكثر صورها تطرفًا ، تتحول هذه الحجة إلى مخاوف واضحة بشأن الذكاء الاصطناعي استعباد أو تدمير الجنس البشري.

يعد استخدام الذكاء الاصطناعي في صناعة قصاصات الورق أحد أشكال سيناريو نهاية العالم للذكاء الاصطناعي.

ضرر فعلي

في السنوات القليلة الماضية ، كنت أنا وزملائي في مركز الأخلاق التطبيقية UMass بوسطن كنت تدرس تأثير التفاعل مع الذكاء الاصطناعي على فهم الناس لأنفسهم ، وأعتقد أن هذه المخاوف الكارثية هي كذلك مبالغ فيه ومضللة.

نعم ، إن قدرة الذكاء الاصطناعي على إنشاء مقاطع فيديو وصوت مزيفة بشكل مقنع مخيفة ، ويمكن إساءة استخدامها من قبل الأشخاص ذوي النوايا السيئة. في الواقع ، هذا ما يحدث بالفعل: من المحتمل أن يكون العملاء الروس قد حاولوا إحراج منتقد الكرملين بيل برودر من خلال توريطه في محادثة مع شخصية رمزية للرئيس الأوكراني السابق بترو بوروشينكو. يستخدم مجرمو الإنترنت استنساخ الصوت بالذكاء الاصطناعي لمجموعة متنوعة من الجرائم - من سرقة التكنولوجيا الفائقة إلى الحيل العادية.

أنظمة صنع القرار التي تعمل بالذكاء الاصطناعي تقديم الموافقة على القرض وتوصيات التوظيف تحمل مخاطر التحيز الخوارزمي ، لأن بيانات التدريب ونماذج القرار التي تعمل عليها تعكس تحيزات اجتماعية طويلة الأمد.

هذه مشاكل كبيرة وتتطلب اهتمام صانعي السياسة. لكنها كانت موجودة منذ فترة ، ولم تكن كارثية.

ليس في نفس الدوري

جمع البيان الصادر عن مركز أمان الذكاء الاصطناعي الذكاء الاصطناعي في الأوبئة والأسلحة النووية باعتباره خطرًا كبيرًا على الحضارة. هناك مشاكل في تلك المقارنة. نتج عن COVID-19 تقريبًا 7 مليون حالة وفاة في جميع أنحاء العالم، جلبت على أزمة الصحة النفسية الهائلة والمستمرة وخلق التحديات الاقتصادية، بما في ذلك النقص المزمن في سلسلة التوريد والتضخم الجامح.

ربما قتلت الأسلحة النووية أكثر من 200,000 الناس في هيروشيما وناغازاكي في عام 1945 ، أودى بحياة العديد من المصابين بالسرطان في السنوات التي تلت ذلك ، وولد عقودًا من القلق العميق أثناء الحرب الباردة ودفع العالم إلى حافة الفناء خلال أزمة الصواريخ الكوبية في عام 1962. غيرت حسابات القادة الوطنيين حول كيفية الرد على العدوان الدولي ، كما يحدث حاليًا مع الغزو الروسي لأوكرانيا.

الذكاء الاصطناعي ببساطة ليس قريبًا من اكتساب القدرة على إحداث هذا النوع من الضرر. سيناريو مشبك الورق وما شابه هو خيال علمي. تقوم تطبيقات الذكاء الاصطناعي الحالية بتنفيذ مهام محددة بدلاً من إصدار أحكام عامة. التكنولوجيا بعيدًا عن القدرة على اتخاذ القرار ثم التخطيط الأهداف والأهداف الثانوية اللازمة لإغلاق حركة المرور من أجل الحصول على مقعد في مطعم ، أو تفجير مصنع سيارات لإشباع حكة مشابك الورق.

لا تفتقر التكنولوجيا إلى القدرة المعقدة للحكم متعدد الطبقات المتضمن في هذه السيناريوهات فحسب ، بل لا تتمتع أيضًا بوصول مستقل إلى أجزاء كافية من بنيتنا التحتية الحيوية لبدء التسبب في هذا النوع من الضرر.

ماذا يعني أن تكون إنسانًا

في الواقع ، هناك خطر وجودي متأصل في استخدام الذكاء الاصطناعي ، لكن هذا الخطر وجودي بالمعنى الفلسفي أكثر من المعنى المروع. يمكن للذكاء الاصطناعي في شكله الحالي تغيير الطريقة التي ينظر بها الناس إلى أنفسهم. يمكن أن تحط من القدرات والخبرات التي يعتبرها الناس ضرورية لكونهم إنسانًا.

على سبيل المثال ، البشر مخلوقات تصنع الأحكام. يزن الناس التفاصيل بعقلانية ويصدرون مكالمات يومية في العمل وأثناء أوقات الفراغ حول من يجب تعيينه ، ومن يجب أن يحصل على قرض ، وما الذي يجب مشاهدته وما إلى ذلك. لكن المزيد والمزيد من هذه الأحكام يتم تشغيلها آليًا وتزويدها بالخوارزميات. عندما يحدث ذلك ، لن ينتهي العالم. لكن الناس سيفقدون تدريجياً القدرة على إصدار هذه الأحكام بأنفسهم. كلما قل عدد الأشخاص الذين يصنعهم الناس ، زاد احتمال أن يصبحوا أسوأ في صنعهم.

أو فكر في دور الصدفة في حياة الناس. يقدر البشر المواجهات المصادفة: القدوم إلى مكان أو شخص أو نشاط عن طريق الصدفة ، والانجذاب إليه والتقدير بأثر رجعي للدور الذي لعبته الصدفة في هذه الاكتشافات ذات المغزى. لكن دور محركات التوصية الخوارزمية هو تقليل هذا النوع من الصدفة واستبدالها بالتخطيط والتنبؤ.

أخيرًا ، ضع في اعتبارك إمكانات الكتابة الخاصة بـ ChatGPT. التكنولوجيا في طور القضاء على دور الواجبات الكتابية في التعليم العالي. إذا حدث ذلك ، سيفقد المعلمون أداة رئيسية لتعليم الطلاب كيف تفكر بشكل نقدي.

ليس ميتا لكنه يتضاءل

لذا ، لا ، الذكاء الاصطناعي لن يفجر العالم. لكن تبنيها غير النقدي بشكل متزايد ، في مجموعة متنوعة من السياقات الضيقة ، يعني التآكل التدريجي لبعض أهم مهارات البشر. تعمل الخوارزميات بالفعل على تقويض قدرة الناس على إصدار الأحكام ، والاستمتاع بالمصادفة ، وصقل التفكير النقدي.

الجنس البشري سوف ينجو من مثل هذه الخسائر. لكن طريقتنا في الوجود ستصبح فقيرة في هذه العملية. المخاوف الرائعة حول كارثة الذكاء الاصطناعي القادمة ، التفرد ، Skynet ، أو كيفما تفكر في الأمر ، تحجب هذه التكاليف الأكثر دقة. استرجع السطور الختامية الشهيرة لـ TS Eliot لـ "الرجال الجوف":" هذه هي الطريقة التي ينتهي بها العالم "، كتب ،" ليس بانفجار بل بصوت أنين. "

نبذة عن الكاتب

نير إيزيكوفيتسأستاذ الفلسفة ومدير مركز الأخلاق التطبيقية ، [أومس] بوسطن

يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.