هل تعرف ماذا يحدث عند مشاركة بياناتك؟ mtkang / shutterstock.com
يمكن أن يسترشد كل جانب من جوانب الحياة بخوارزميات الذكاء الاصطناعي - بدءًا من اختيار الطريق الذي يجب أن تسلكه في رحلتك الصباحية ، إلى تحديد الشخص الذي يجب أن تأخذه في موعد معين ، إلى المسائل القانونية والقضائية المعقدة مثل الشرطة التنبؤية.
تستخدم شركات التكنولوجيا الكبرى مثل Google و Facebook الذكاء الاصطناعى للحصول على معلومات عن مجموعة بيانات العملاء المفصلة الخاصة بهم. يتيح ذلك لهم تحقيق الدخل من التفضيلات الجماعية للمستخدمين من خلال ممارسات مثل الاستهداف الصغير ، وهي استراتيجية يستخدمها المعلنون لاستهداف مجموعات محددة من المستخدمين بشكل ضيق.
في موازاة ذلك ، يثق كثير من الناس الآن في المنصات والخوارزميات أكثر من حكوماتهم والمجتمع المدني. اقترحت دراسة أجريت في أكتوبر 2018 أن يثبت الناس "خوارزمية التقدير، "بقدر ما كانوا يعتمدون على النصيحة أكثر عندما يعتقدون أنها من خوارزمية أكثر من إنسان.
في الماضي ، قلق خبراء التكنولوجيا حول "تقسيم رقمي" بين أولئك الذين يمكنهم الوصول إلى أجهزة الكمبيوتر والإنترنت وأولئك الذين لا يستطيعون. الأسر التي لديها وصول أقل إلى التقنيات الرقمية في وضع غير مؤات في قدرتها على كسب المال وتراكم المهارات.
ولكن ، مع انتشار الأجهزة الرقمية ، لم تعد الفجوة تتعلق فقط بالوصول. كيف يتعامل الناس مع الحمل الزائد للمعلومات وعدد كبير من القرارات الحسابية التي تتخلل كل جانب من جوانب حياتهم؟
يتنقل المستخدمون المنقذون بعيدًا عن الأجهزة ويتعرفون على كيفية تأثير الخوارزميات على حياتهم. وفي الوقت نفسه ، يعتمد المستهلكون الذين لديهم معلومات أقل بشكل أكبر على الخوارزميات لتوجيه قراراتهم.
يجب أن تبقى على اتصال - أو افصل؟ PRYZMAT / shutterstock.com
الصلصة السرية وراء الذكاء الاصطناعي
السبب الرئيسي وراء الفجوة الرقمية الجديدة ، في رأيي كشخص يدرس أنظمة المعلومات ، هو ذلك قلة قليلة من الناس يفهمون كيف تعمل الخوارزميات. بالنسبة لغالبية المستخدمين ، تعتبر الخوارزميات بمثابة صندوق أسود.
خوارزميات الذكاء الاصطناعي تأخذ البيانات وتناسبها مع نموذج رياضي وتضع تنبؤًا يتراوح من ما الأغاني التي قد تستمتع بها إلى كم سنة يجب أن يقضيها شخص ما في السجن؟. تم تطوير هذه النماذج وتبديلها استنادًا إلى البيانات السابقة ونجاح النماذج السابقة. معظم الناس - حتى في بعض الأحيان مصممي الخوارزمية - لا يعرفون حقًا ما الذي يحدث داخل النموذج.
الباحثين منذ فترة طويلة تشعر بالقلق حول الإنصاف الخوارزمي. على سبيل المثال ، تحولت أداة التوظيف المستندة إلى Amazon من AI إلى اقالة المرشحات. كان نظام أمازون يستخرج بشكل انتقائي الكلمات ذات النوع الاجتماعي ضمنيًا - الكلمات التي يرجح أن يستخدمها الرجال في الكلام اليومي ، مثل "أعدم" و "أسر".
دراسات اخرى أظهرت أن الخوارزميات القضائية متحيزة عنصريًا ، وتصدر أحكام على المدعى عليهم السود الفقراء لفترة أطول من غيرها.
كجزء من اللائحة العامة لحماية البيانات المعتمدة حديثًا في الاتحاد الأوروبي ، يمتلك الأشخاص "حق في التفسير" المعايير التي تستخدمها الخوارزميات في قراراتها. يعالج هذا التشريع عملية اتخاذ القرارات الحسابية مثل كتاب وصفات. يذهب التفكير إلى أنه إذا فهمت الوصفة ، فيمكنك فهم كيف تؤثر الخوارزمية على حياتك.
وفي الوقت نفسه ، دفع بعض الباحثين في الذكاء الاصطناعى إلى الخوارزميات الموجودة عادلة ، مسؤولة وشفافة، طالما التأويل، بمعنى أنه ينبغي عليهم الوصول إلى قراراتهم من خلال عمليات يمكن للبشر فهمها وثقتها.
ماذا سيكون تأثير الشفافية؟ في في إحدى الدراسات التي نظرت في آثار خمسة أيام فقط من الراحة في الفراش ، رأى الباحثون زيادة مقاومة الأنسولين ، وهي مقدمة لمرض السكري.، تم تصنيف الطلاب بواسطة خوارزمية وقدموا مستويات مختلفة من الشرح حول كيفية تعديل درجات أقرانهم للوصول إلى الصف النهائي. إن الطلاب الذين لديهم تفسيرات أكثر شفافية يثقون في الخوارزمية بالفعل. هذا ، مرة أخرى ، يوحي بوجود فجوة رقمية: الوعي الخوارزمي لا يؤدي إلى مزيد من الثقة في النظام.
لكن الشفافية ليست حلا سحريا. حتى عندما يتم رسم عملية شاملة للخوارزمية ، قد لا تزال التفاصيل معقدة للغاية للمستخدمين لفهم. الشفافية ستساعد فقط المستخدمين الذين هم متطورون بما فيه الكفاية لفهم تعقيدات الخوارزميات.
على سبيل المثال ، في 2014 ، كان بن برنانكي ، الرئيس السابق للاحتياطي الفيدرالي ، في البداية نفى إعادة تمويل الرهن العقاري من قبل نظام الآلي. معظم الأفراد الذين يتقدمون بطلب لإعادة تمويل الرهن العقاري من هذا القبيل لن يفهموا كيف يمكن للخوارزميات تحديد جدارة الائتمان الخاصة بهم.
ماذا تقول الخوارزمية لتفعلها اليوم؟ ماريا سافينكو / shutterstock.com
إلغاء الاشتراك في النظام البيئي الجديد للمعلومات
في حين أن الخوارزميات تؤثر على الكثير من حياة الناس ، إلا أن جزءًا صغيرًا جدًا من المشاركين متطور بما يكفي للمشاركة بشكل كامل كيف تؤثر الخوارزميات على حياتهم.
لا توجد إحصائيات كثيرة حول عدد الأشخاص الذين يدركون الخوارزمية. وقد وجدت الدراسات دليلا على القلق الحسابي، مما يؤدي إلى خلل عميق في القوة بين المنصات التي تنشر الخوارزميات و المستخدمين الذين يعتمدون عليها.
دراسة استخدام الفيسبوك اكتشف أنه عندما يتم إطلاع المشاركين على خوارزمية Facebook لتنظيم موجزات الأخبار ، قام 83٪ من المشاركين بتعديل سلوكهم في محاولة للاستفادة من الخوارزمية ، بينما انخفض حوالي 10٪ من استخدامهم لـ Facebook.
تقرير نوفمبر 2018 من مركز بيو للأبحاث وجدت أن الغالبية العظمى من الجمهور لديهم مخاوف كبيرة حول استخدام الخوارزميات لاستخدامات معينة. لقد تبين أن 66٪ اعتقدت أنه لن يكون من العدل بالنسبة للخوارزميات أن تحسب نتائج التمويل الشخصي ، بينما قال 57٪ نفس الشيء عن فحص السيرة الذاتية تلقائيًا.
يمارس جزء صغير من الأفراد بعض التحكم في كيفية استخدام الخوارزميات لبياناتهم الشخصية. على سبيل المثال ، تسمح منصة Hu-Manity للمستخدمين خيار للتحكم في كمية البيانات التي يتم جمعها. الموسوعة على الإنترنت Everipedia يوفر للمستخدمين القدرة على أن يكونوا أصحاب مصلحة في عملية الإشراف ، مما يعني أنه يمكن للمستخدمين أيضًا التحكم في كيفية تجميع المعلومات وتقديمها لهم.
ومع ذلك ، فإن الغالبية العظمى من المنصات لا توفر مثل هذه المرونة للمستخدمين النهائيين أو الحق في اختيار كيفية استخدام الخوارزمية لتفضيلاتهم في تنسيق موجز الأخبار أو في التوصية بمحتواهم. إذا كانت هناك خيارات ، فقد لا يعرف المستخدمون عنها. قال حوالي 74٪ من مستخدمي Facebook في استطلاع رأي أنهم كانوا كذلك لا يدرك كيف تميز المنصة اهتماماتهم الشخصية.
من وجهة نظري ، لا يستخدم الإلمام بالقراءة والكتابة الرقمي الجديد جهاز كمبيوتر أو أن يكون متصلاً بالإنترنت ، ولكنه يفهم ويقيم عواقب أسلوب حياة دائم التوصيل.
هذا النمط له تأثير كبير على كيف يتفاعل الناس مع الآخرين. على قدرتهم على إيلاء الاهتمام لمعلومات جديدة. و على تعقيد عمليات صنع القرار الخاصة بهم.
قد ينعكس القلق المتزايد الحسابي أيضًا على التحولات الموازية في الاقتصاد. مجموعة صغيرة من الأفراد التقاط المكاسب من الأتمتة، في حين أن العديد من العمال في موقف غير مستقر.
يعد اختيار الخروج من الحساب الخوارزمي ترفًا - وقد يكون يومًا ما رمزًا للثراء المتاح لعدد قليل فقط من المختارين. والسؤال هو إذن ما هي الأضرار القابلة للقياس بالنسبة لأولئك على الجانب الخطأ من الفجوة الرقمية.
نبذة عن الكاتب
أنجانا سوزارلا ، أستاذة مشاركة في نظم المعلومات ، جامعة ولاية ميشيغان
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
كُتبٌ ذاتُ صِلَةٍ
at سوق InnerSelf و Amazon
