تصوير: نوربرت ايبلي ، سويسرا (العضو: Noebu)

في 2016 ، أصبحت السيارات ذاتية القيادة سائدة. مركبات اوبر المستقلة أصبح في كل مكان في الأحياء التي أعيش فيها في بيتسبرغ ، و لفترة وجيزة في سان فرانسيسكو. أصدر وزارة النقل في الولايات المتحدة التوجيه التنظيمي الجديد لهم. لا يحصى أوراق و الأعمدة ناقش كيف السيارات ذاتية القيادة ينبغي حل مأزق أخلاقي عندما تسوء الأمور. ولسوء الحظ ، رأى 2016 أيضا أول حالة وفاة تنطوي على سيارة مستقلة.

التكنولوجيات المستقلة تنتشر بسرعة تتجاوز قطاع النقل إلى الرعاية الصحية, الدفاع السيبراني المتقدم وحتى أسلحة مستقلة. في 2017 ، سيكون علينا أن نقرر ما إذا كنا نثق بهذه التقنيات. هذا سيكون أصعب بكثير مما قد نتوقع.

الثقة معقدة ومتنوعة ، ولكن أيضا جزء أساسي من حياتنا. نحن غالبا ما نثق في التكنولوجيا على أساس القدرة على التنبؤ: أنا أثق بشيء إذا كنت أعرف ماذا سيفعل في موقف معين ، حتى لو لم أكن أعرف لماذا. على سبيل المثال ، أنا أثق بجهاز الكمبيوتر الخاص بي لأنني أعرف كيف سيعمل ، بما في ذلك متى سيتم تقسيمه. أتوقف عن الثقة إذا بدأت تتصرف بشكل مختلف أو مفاجئ.

في المقابل ، يستند ثقتي في زوجتي على فهم معتقداتها وقيمها وشخصيتها. بشكل عام ، لا تتضمن الثقة بين الأشخاص معرفة بالضبط ما سيفعله الشخص الآخر - زوجتي تفاجئني بالتأكيد في بعض الأحيان! - ولكن بالأحرى لماذا يتصرفون كما يفعلون. وبالطبع ، يمكننا الوثوق بشخص ما (أو شيء ما) في كلا الاتجاهين ، إذا عرفنا ما سيفعلونه ولماذا.

لقد كنت أستكشف القواعد الممكنة لثقتنا في السيارات ذاتية القيادة وغيرها من التقنيات المستقلة من المنظورين الأخلاقي والنفسي. هذه هي الأجهزة ، لذلك قد تبدو القدرة على التنبؤ مثل المفتاح. ومع ذلك ، فنحن بحاجة إلى النظر ، نظرًا لاستقلالهم ، في أهمية وقيمة التعلم الذي يمثل الثقة في الطريقة التي نثق بها في البشر الآخرين.

الحكم الذاتي والقدرة على التنبؤ

نحن نريد تكنولوجياتنا ، بما في ذلك السيارات ذاتية القيادة ، أن نتصرف بطرق يمكننا التنبؤ بها وتوقعها. وبالطبع ، يمكن لهذه الأنظمة أن تكون حساسة للغاية للسياق ، بما في ذلك المركبات الأخرى والمشاة والأحوال الجوية وما إلى ذلك. بشكل عام ، على الرغم من ذلك ، قد نتوقع أن تتصرف سيارة ذاتية القيادة يتم وضعها مرارًا وتكرارًا في نفس البيئة بشكل مماثل في كل مرة. ولكن بأي معنى ستكون هذه السيارات التي يمكن التنبؤ بها بشكل كبير ذاتية ، وليس مجرد آلية؟

هنالك كان كثير مختلف محاولات إلى حدد الحكم الذاتيولكنهم يشتركون جميعا في هذا: يمكن أن تقوم الأنظمة المستقلة باتخاذ قراراتها وخططها الخاصة بها ، وبالتالي يمكنها أن تتصرف بشكل مختلف عما هو متوقع.

في الواقع ، هناك سبب واحد لاستخدام الحكم الذاتي (يختلف عن الأتمتة) هو بالضبط أن هذه الأنظمة يمكنها أن تتبع مسارات العمل غير المتوقعة والمفاجئة ، رغم أنها مبررة. فمثلا، DeepMind's AlphaGo فاز بالمباراة الثانية من سلسلة Go الأخيرة ضد Lee Sedol جزئيا بسبب وهي خطوة لم يقم بها أي إنسان ، ولكنها كانت الخطوة الصحيحة. لكن هذه المفاجآت نفسها تجعل من الصعب تأسيس ثقة قائمة على القدرة على التنبؤ. يمكن القول إن الثقة القوية القائمة على القابلية للتنبؤ لا يمكن تحقيقها إلا للأنظمة الآلية أو الأوتوماتيكية ، على وجه التحديد لأنها قابلة للتنبؤ (بافتراض أن وظائف النظام عادة).

احتضان المفاجآت

بالطبع ، كثيرًا ما يفاجئنا الآخرون ، ومع ذلك يمكننا أن نثق بهم بدرجة ملحوظة ، حتى نمنحهم سلطة الحياة والموت على أنفسنا. الجنود يثقون برفاقهم في بيئات معقدة ومعادية. مريض يثق جراحها في استئصال الورم. وفي وريد أكثر دنيوية ، تثق بي زوجتي في القيادة بأمان. هذه الثقة الشخصية تمكننا من احتضان المفاجآت ، لذلك ربما يمكننا تطوير شيء مثل الثقة الشخصية في السيارات ذاتية القيادة؟

بشكل عام ، تتطلب الثقة بين الأشخاص فهم سبب تصرف شخص ما بطريقة معينة ، حتى إذا كنت لا تستطيع التنبؤ بالقرار المحدد. قد لا تعرف زوجتي بالضبط كيف سأقود السيارة ، لكنها تعرف أنواع التفكير التي أستخدمها عندما أقود السيارة. ومن السهل نسبياً أن نفهم لماذا يقوم شخص ما بشيء ما ، لأننا جميعًا نفكر ونفكر بشكل مشابه ، على الرغم من وجود "مكونات خام" مختلفة - معتقداتنا ورغباتنا وخبراتنا.

في الواقع ، نحن بشكل مستمر ودون وعي نستنتج استنتاجات حول معتقدات ورغبات الآخرين بناء على أعمالهم ، إلى حد كبير بافتراض أنهم يفكرون ، ويقررون العقل ويقررون كما نفعل. كل هذه الاستدلالات والاستدلال على أساس المعرفة المشتركة (البشرية) لدينا تمكننا من فهم أسباب شخص آخر ، وبالتالي بناء الثقة بين الأشخاص مع مرور الوقت.

التفكير مثل الناس؟

التكنولوجيات المستقلة - السيارات ذاتية القيادة ، على وجه الخصوص - لا تفكر وتقرر مثل الناس. كانت هناك جهود ، على حد سواء الماضي و الأخيرةلتطوير نظم كمبيوتر تفكر وتعتقد مثل البشر. ومع ذلك ، كان أحد المحاور المتواصلة للتعلم الآلي خلال العقدين الماضيين هو المكاسب الهائلة التي تحققت على وجه التحديد من خلال عدم الحاجة إلى أن تعمل أنظمة الذكاء الاصطناعي لدينا بطرق شبيهة بالإنسان. بدلاً من ذلك ، كانت خوارزميات التعلم الآلي وأنظمة مثل AlphaGo قادرة على ذلك يتفوق الخبراء البشريين من خلال التركيز على مشاكل محددة ومحلية ، ثم حلها بشكل مختلف تمامًا عن البشر.

ونتيجة لذلك ، فإن محاولات تفسير تكنولوجيا مستقلة من حيث المعتقدات والرغبات الشبيهة بالإنسان يمكن أن تكون مزرية بشكل مذهل. عندما يرى سائق إنسان كرة في الطريق ، يبطئ معظمنا بشكل كبير ، لتجنب إصابة طفل قد يطاردها بعد ذلك. إذا كنا نركب سيارة مستقلة ونرى لفة الكرة في الشارع ، فإننا نتوقع أن تتعرف السيارة عليها ، وأن نكون مستعدين للتوقف عند تشغيل الأطفال. ومع ذلك ، قد ترى السيارة فقط عقبة يجب تجنبها. إذا انحرفت دون إبطاء ، فقد ينزعج البشر على متن الطائرة - وقد يكون أحد الأطفال في خطر.

استنتاجاتنا حول "المعتقدات" و "الرغبات" للسيارة ذاتية القيادة ستكون بالتأكيد خادعة بطرق مهمة ، على وجه التحديد لأن السيارة ليس لديها أي معتقدات أو رغبات شبيهة بالإنسان. لا يمكننا تطوير الثقة الشخصية في سيارة ذاتية القيادة ببساطة من خلال مشاهدتها ، لأننا لن نستنتج بشكل صحيح الأسباب وراء أفعاله.

بالطبع ، يمكن أن يصر العملاء في المجتمع أو السوق بشكل جماعي على أن السيارات ذاتية القيادة لها سمات شبيهة بالأنشطة البشرية (النفسية) ، على وجه التحديد حتى نتمكن من فهم وتطوير الثقة الشخصية فيها. هذه الاستراتيجية تعطي معنى جديدًا تمامًا "تصميم محوره الإنسان"، بما أن الأنظمة سيتم تصميمها على وجه التحديد بحيث تكون أعمالها قابلة للتفسير من قبل البشر. ولكنها تتطلب أيضًا تضمين رواية خوارزميات و تقنيات في السيارة ذاتية القيادة ، وكلها تمثل تغييرًا كبيرًا من استراتيجيات البحث والتطوير الحالية للسيارات ذاتية القيادة وغيرها من التقنيات المستقلة.

تمتلك السيارات ذاتية القيادة القدرة على إعادة تشكيل بنية النقل الأساسية بشكل جذري بطرق مفيدة كثيرة ، ولكن فقط إذا كان بإمكاننا الوثوق بها بما فيه الكفاية لاستخدامها فعليًا. ومن المفارقات ، أن الميزة التي تجعل السيارات ذاتية القيادة ذات قيمة - صنع القرار المرن والمستقل في مختلف الحالات - هي بالضبط ما يجعل من الصعب الوثوق بها.

authirhere

ديفيد دانك ، أستاذ الفلسفة وعلم النفس ، جامعة كارنيجي ميلون

تم نشر هذه المقالة في الأصل المحادثة. إقرأ ال المقال الأصلي.

كتب ذات صلة:

at سوق InnerSelf و Amazon