أحمد Misirligul / Shutterstock
يصور الفيلم القصير "Slaughterbots" مستقبلاً قريبًا تقتل فيه أسراب من الطائرات بدون طيار آلاف الأشخاص بسبب معتقداتهم السياسية. صدر في نوفمبر 2017 من قبل الأكاديميين والناشطين الذين يحذرون من مخاطر الذكاء الاصطناعي المتقدم (AI) ، سرعان ما أصبح فيروسي ، وجذب أكثر من وجهات نظر 3m حتى الآن. ساعد شرارة أ النقاش العام حول مستقبل الأسلحة ذاتية الحكم والضغط على اجتماع الدبلوماسيين في الأمم المتحدة اتفاقية الأسلحة التقليدية.
لكن هذا النوع من سرد القصص الخيالية العلمية المضاربة ليس مفيدًا فقط لجذب الانتباه. يمكن للأشخاص الذين يقومون بتصميم وبناء التكنولوجيا المتقدمة استخدام القصص للنظر في عواقب أعمالهم والتأكد من استخدامها بشكل جيد. ونعتقد أن هذا النوع من "النماذج الأولية للخيال العلمي" أو "الخيال التصميمي" يمكن أن يساعد في منع التحيزات البشرية من شق طريقها إلى التكنولوجيا الجديدة ، مما يزيد من ترسيخ تحيزات المجتمع وظلمه.
{vembed Y = 9CO6M2HsoIA}
يمكن أن يؤدي التحيز إلى تفضيل تعسفي لبعض الفئات (من النتائج أو الأشخاص أو الأفكار) على الفئات الأخرى. على سبيل المثال ، قد يكون بعض الناس متحيزين ضد توظيف النساء في وظائف تنفيذية ، سواء كانوا واعين بذلك ام لا.
التكنولوجيا المبنية على البيانات التي تسجل مثل هذا التحيز يمكن أن تنتهي تكرار المشكلة. على سبيل المثال ، قد تتم برمجة برنامج التوظيف المصمم لتحديد أفضل السير الذاتية لوظيفة معينة للبحث عن الخصائص التي تعكس التحيز اللاشعوري تجاه الرجال. في هذه الحالة ، ستنتهي الخوارزمية لصالح السير الذاتية للرجال. وهذه ليست نظرية - هو حدث فعلا لأمازون.
تصميم الخوارزميات دون النظر في الآثار السلبية المحتملة لقد تم مقارنة للأطباء "الكتابة عن فوائد العلاج المعطى والتجاهل التام للآثار الجانبية ، بغض النظر عن مدى خطورة".
تحاول بعض شركات التكنولوجيا والباحثين معالجة هذه المشكلة. على سبيل المثال ، وضعت جوجل أ مجموعة من المبادئ الأخلاقية لتوجيه تطورها من منظمة العفو الدولية. وأطلق الأكاديميون في المملكة المتحدة مبادرة تسمى غير متساوي التي تهدف إلى تشجيع المزيد من الإنصاف والعدالة في تصميم واستخدام التكنولوجيا.
تكمن المشكلة في أن الشركات تميل بشكل عام إلى تقديم رؤية إيجابية عن العواقب المحتملة للتكنولوجيات في المستقبل القريب. على سبيل المثال ، غالباً ما يتم تصوير السيارات بدون سائق على أنها تحل جميع مشكلات النقل لدينا من التكلفة إلى الأمان ، متجاهلة الزيادة مخاطر الهجمات الإلكترونية أو حقيقة أنها يمكن أن تشجع الناس على المشي أو دورة أقل.
الصعوبة في فهم كيفية عمل التقنيات الرقمية ، وخاصة تلك التي تحركها الخوارزميات الغامضة ، تجعل من الصعب على الناس أن يكون لديهم رؤية معقدة وشاملة للقضايا. ينتج عن هذا الموقف توتر بين السرد الإيجابي المطمئن والشك الغامض بأن التحيزات مدمجة إلى حد ما في التقنيات من حولنا. هذا هو المكان الذي نعتقد أن سرد القصص من خلال خيال التصميم يمكن أن يأتي.
القصص هي طريقة طبيعية للتفكير في الاحتمالات والمواقف المعقدة ، وقد سمعناها طوال حياتنا. يمكن أن يساعدنا الخيال العلمي في المضاربة على تأثير التقنيات في المستقبل القريب على المجتمع ، كما يفعل Slaughterbots. يمكن أن يشمل ذلك قضايا العدالة الاجتماعية ، مثل الطريقة التي يمكن أن تكون بها مجموعات معينة ، مثل اللاجئين والمهاجرين مستبعد من الابتكارات الرقمية.
الكشف عن المستقبل (ممكن)
تصميم قصص الخيال توفير طريقة جديدة للمصممين والمهندسين والمستقبليين (من بين آخرين) للتفكير في تأثير التكنولوجيا من منظور إنساني وربطها بالاحتياجات المستقبلية المحتملة. مع مزيج من المنطق والخيال ، يمكن أن يكشف خيال التصميم عن جوانب من كيفية تبني التكنولوجيا واستخدامها ، وبدء محادثات حول تداعيات المستقبل.
على سبيل المثال ، القصة القصيرة "الجريمة مصادر"يستكشف ما قد يحدث إذا كانت منظمة العفو الدولية تستخدم معلومات الاستعانة بمصادر خارجية وقاعدة بيانات جنائية للتنبؤ بمن قد يرتكب جريمة قتل. ووجد الباحثون أنه نظرًا لأن قاعدة البيانات كانت مليئة بالأشخاص المنتمين إلى مجموعات الأقليات العرقية والذين ، لأسباب اجتماعية ، كانوا أكثر عرضة للإحصاء من الناحية الإحصائية ، فإن نموذج "تحديد مصادر الجريمة" كان من المرجح أكثر تشتبه الأقليات خطأ من الناس البيض.
لست مضطرًا لأن تكون كاتبًا موهوبًا أو تصنع فيلمًا رائعًا لإنتاج خيال تصميمي. أنشطة العصف الذهني التي تنطوي على البطاقات واللوحات المصورة قد استعمل لتطوير خيال التصميم والمساعدة في تطوير عملية سرد القصص. إن جعل ورش العمل التي تستخدم هذه الأنواع من الأدوات أكثر شيوعًا ستمكن عددًا أكبر من المهندسين ورجال الأعمال وواضعي السياسات من استخدام طريقة التقييم هذه. ومن شأن جعل العمل الناتج متاحًا للجمهور أن يساعد على كشف التحيزات المحتملة في التقنيات قبل أن تؤثر على المجتمع.
إن تشجيع المصممين على إنشاء المزيد من القصص ومشاركتها بهذه الطريقة من شأنه أن يضمن أن السرد الذي يدعم التكنولوجيا الجديدة لن يقدم صورة إيجابية أو صورة سلبية للغاية أو عسر الولادة. بدلاً من ذلك ، سيتمكن الناس من تقدير كلا الجانبين لما يحدث حولنا.
حول المؤلف
اليسيو ماليزياأستاذ تصميم تجربة المستخدم جامعة هيرتفوردشاير و سيلفيو كارتا، رئيس قسم الفن والتصميم ورئيس مجموعة أبحاث التصميم ، جامعة هيرتفوردشاير
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
