إصدار روبوت المحادثة المتقدم شات جي بي تي في عام 2022 جعل الجميع يتحدثون عن الذكاء الاصطناعي (AI). ضاعفت قدراتها المتطورة من المخاوف بشأن تقدم الذكاء الاصطناعي لدرجة أننا لن نتمكن قريبًا من السيطرة عليه. حتى أن هذا دفع بعض الخبراء وقادة الصناعة إلى التحذير من أن التكنولوجيا يمكن أن تؤدي إلى انقراض الإنسان.
لكن المعلقين الآخرين لم يقتنعوا. رفض نعوم تشومسكي ، أستاذ اللسانيات ، موقع ChatGPT باعتباره "سرقة أدبية عالية التقنية".
لسنوات ، كنت مرتاحًا بشأن احتمالية تأثير الذكاء الاصطناعي على الوجود البشري وبيئتنا. هذا لأنني اعتقدت دائمًا أنه ملف مرشد أو مستشار للبشر. لكن احتمالية اتخاذ الذكاء الاصطناعي للقرارات - ممارسة الرقابة التنفيذية - هي مسألة أخرى. وهي لعبة يتم الترفيه عنها الآن بجدية.
أحد الأسباب الرئيسية لعدم السماح للذكاء الاصطناعي بالحصول على سلطة تنفيذية هو أنه يفتقر تمامًا إلى العاطفة ، وهو أمر حاسم لاتخاذ القرار. بدون العاطفة والتعاطف والبوصلة الأخلاقية ، تكون قد خلقت مختل عقليا مثاليا. قد يكون النظام الناتج ذكيًا للغاية ، لكنه سيفتقر إلى الجوهر العاطفي البشري الذي يمكّنه من قياس العواقب العاطفية المدمرة المحتملة لقرار عقلاني.
عندما يتولى الذكاء الاصطناعي السيطرة التنفيذية
الأهم من ذلك ، لا ينبغي أن نفكر في الذكاء الاصطناعي على أنه تهديد وجودي فقط إذا أردنا ذلك جعلها مسؤولة عن الترسانات النووية. لا يوجد حد أساسي لعدد مواقع التحكم التي يمكن أن تحدث أضرارًا لا يمكن تصورها من خلالها.
ضع في اعتبارك ، على سبيل المثال ، كيف يمكن للذكاء الاصطناعي تحديد وتنظيم المعلومات المطلوبة لبناء المعهد الموسيقي الخاص بك. التكرارات الحالية للتكنولوجيا يمكن إرشادك بشكل فعال خلال كل خطوة للبناء ومنع العديد من أخطاء المبتدئين. ولكن في المستقبل ، قد يعمل الذكاء الاصطناعي كمدير للمشروع وينسق البناء عن طريق اختيار المقاولين ودفعهم مباشرة من ميزانيتك.
يتم استخدام الذكاء الاصطناعي بالفعل في جميع مجالات معالجة المعلومات وتحليل البيانات تقريبًا - من نمذجة أنماط الطقس إلى السيطرة على المركبات ذاتية القيادة إلى المساعدة في التشخيص الطبي. ولكن هذا هو المكان الذي تبدأ فيه المشكلات - عندما نسمح لأنظمة الذكاء الاصطناعي باتخاذ الخطوة الحاسمة من دور المستشار إلى دور المدير التنفيذي.
بدلاً من مجرد اقتراح علاجات لـ حسابات الشركة، ماذا لو تم منح الذكاء الاصطناعي سيطرة مباشرة ، مع القدرة على تنفيذ إجراءات استرداد الديون ، وإجراء التحويلات المصرفية ، وزيادة الأرباح - دون قيود على كيفية القيام بذلك. أو تخيل أن نظامًا للذكاء الاصطناعي لا يوفر فقط ملف التشخيص على أساس الأشعة السينية، مع منحك القدرة على وصف العلاجات أو الأدوية بشكل مباشر.
قد تبدأ في الشعور بعدم الارتياح تجاه مثل هذه السيناريوهات - بالتأكيد سأفعل ذلك. قد يكون السبب في حدسك هو أن هذه الآلات لا تمتلك "أرواحًا" حقًا. هم مجرد برامج مصممة ل هضم كميات هائلة من المعلومات من أجل تبسيط البيانات المعقدة إلى أنماط أبسط بكثير ، مما يسمح للبشر باتخاذ قرارات بمزيد من الثقة. ليس لديهم - ولا يمكنهم - مشاعر مرتبطة ارتباطًا وثيقًا بالحواس والغرائز البيولوجية.
العواطف والأخلاق
الذكاء العاطفي هي القدرة على إدارة عواطفنا للتغلب على التوتر والتعاطف والتواصل بشكل فعال. يمكن القول إن هذا مهم في سياق صنع القرار أكثر من الذكاء وحده ، لأن أفضل قرار ليس دائمًا هو الأكثر عقلانية.
من المحتمل أن يتم دمج الذكاء ، والقدرة على التفكير والعمل المنطقي ، في الأنظمة التي تعمل بالذكاء الاصطناعي حتى يتمكنوا من اتخاذ قرارات عقلانية. لكن تخيل أن تطلب من ذكاء اصطناعي قوي يتمتع بقدرات تنفيذية حل أزمة المناخ. أول شيء قد يكون مصدر إلهام لفعله هو تقليل عدد السكان بشكل كبير.
لا يحتاج هذا الخصم إلى الكثير من الشرح. نحن البشر ، بحكم التعريف تقريبًا ، مصدر التلوث بكل أشكاله الممكنة. فأس البشرية وتغير المناخ سوف يتم حلها. يأمل المرء أنه ليس الخيار الذي سيأتي إليه صانعو القرار البشريون ، لكن الذكاء الاصطناعي سيجد حلوله الخاصة - غير قابلة للاختراق ولا يعيقها النفور البشري من التسبب في الضرر. وإذا كانت تتمتع بسلطة تنفيذية ، فقد لا يكون هناك أي شيء يمنعها من المضي قدمًا.
قد يكون من الخطأ منح الذكاء الاصطناعي القدرة على اتخاذ قرارات تنفيذية في مراقبة الحركة الجوية. جورودينكوف / شاترستوك
سيناريوهات التخريب
ماذا عن التخريب أجهزة الاستشعار وأجهزة المراقبة التي تتحكم في مزارع الأغذية؟ قد يحدث هذا تدريجيًا في البداية ، ودفع الضوابط لتتجاوز نقطة التحول حتى لا يلاحظ أي إنسان أن المحاصيل قد أدينت. في ظل سيناريوهات معينة ، يمكن أن يؤدي هذا بسرعة إلى المجاعة.
بدلاً من ذلك ، ماذا عن إيقاف التحكم في الحركة الجوية عالميًا ، أو ببساطة تحطم جميع الطائرات التي تحلق في وقت واحد؟ عادة ما تحلق حوالي 22,000 طائرة في الهواء في وقت واحد ، مما يزيد من عدد القتلى المحتمل لعدة ملايين من الأشخاص.
إذا كنت تعتقد أننا بعيدون عن أن نكون في هذا الموقف ، فكر مرة أخرى. يقود الذكاء الاصطناعي بالفعل السيارات و تطير طائرات عسكريةبشكل مستقل.
بدلاً من ذلك ، ماذا عن إغلاق الوصول إلى الحسابات المصرفية عبر مناطق شاسعة من العالم ، إثارة الاضطرابات المدنية في كل مكان مرة واحدة؟ أو اغلاق أنظمة التدفئة التي يتم التحكم فيها بواسطة الكمبيوتر في منتصف الشتاء ، أم أنظمة التكييف في ذروة حرارة الصيف؟
باختصار ، ليس من الضروري تكليف نظام ذكاء اصطناعي بمسؤولية الأسلحة النووية ليمثل تهديدًا خطيرًا للبشرية. لكن بينما نحن في هذا الموضوع ، إذا كان نظام الذكاء الاصطناعي قويًا وذكيًا بدرجة كافية ، فيمكنه إيجاد طريقة لتزوير هجوم على بلد بأسلحة نووية ، مما يؤدي إلى انتقام بشري.
هل يمكن أن يقتل الذكاء الاصطناعي أعدادًا كبيرة من البشر؟ يجب أن يكون الجواب نعم ، من الناحية النظرية. لكن هذا يعتمد إلى حد كبير على قرار البشر بمنحها السيطرة التنفيذية. لا يمكنني التفكير حقًا في أي شيء مرعب أكثر من ذكاء اصطناعي يمكنه اتخاذ القرارات ولديه القدرة على تنفيذها.
نبذة عن الكاتب
غيوم تيريأستاذ علم الأعصاب الإدراكي جامعة بانجور
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
