هل يوتيوب خلق المتطرفين؟ أ دراسة حديثة تسبب في جدال بين العلماء من خلال القول بأن الخوارزميات التي تشغل الموقع لا تساعد في تطرف الناس من خلال التوصية بمقاطع فيديو أكثر تطرفًا ، مثل وقد اقترح في السنوات الأخيرة.
الورقة ، المقدمة إلى مجلة الوصول المفتوح الاثنين الأول ولكن لم يتم مراجعتها من قبل النظراء ، حللت توصيات الفيديو التي تلقتها أنواع مختلفة من القنوات. فقد ادعى أن خوارزمية YouTube تفضل قنوات الوسائط الرئيسية على محتوى مستقل ، وخلصت إلى أن التطرف له علاقة بالأشخاص الذين ينشئون محتوى ضارًا أكثر من خوارزمية الموقع.
المتخصصين في هذا المجال كانوا سريعين في الاستجابة للدراسة، مع بعض الانتقاد طرق الورقة وآخرون يجادلون بأن الخوارزمية كانت واحدة من عدة عوامل مهمة وأن علم البيانات وحده لن يعطينا الجواب.
تكمن مشكلة هذه المناقشة في أنه لا يمكننا الإجابة عن سؤال حول الدور الذي تلعبه خوارزمية YouTube في تطرف الناس لأننا لا نفهم كيف يعمل. وهذا مجرد عرض لمشكلة أوسع بكثير. تلعب هذه الخوارزميات دورًا متزايدًا في حياتنا اليومية ولكنها تفتقر إلى أي نوع من الشفافية.
من الصعب القول أن YouTube لا يلعب دورًا في التطرف. أشار ذلك أولاً إلى عالم الاجتماع التكنولوجي زينب توفيكسي ، الذي أوضح كيف تدفع مقاطع الفيديو الموصى بها المستخدمين تدريجياً نحو محتوى أكثر تطرفا. وبكلمات توفيكسي ، تؤدي مقاطع الفيديو حول الركض إلى مقاطع فيديو حول تشغيل الماراثون الحار ، وأشرطة الفيديو حول اللقاحات تؤدي إلى نظريات المؤامرة ، وأشرطة الفيديو حول السياسة تؤدي إلى "نفي الهولوكوست ومحتوى مقلق آخر".
وقد كتب هذا أيضا عن بالتفصيل من قبل موظف YouTube السابق غيوم شاسلو الذي عمل على خوارزمية توصية الموقع. منذ مغادرة الشركة ، واصلت Chaslot محاولة تقديم تلك التوصيات أكثر شفافية. يقول إن توصيات YouTube منحازة نظريات المؤامرة وأشرطة الفيديو غير دقيقة في الواقع، والتي تجعل الناس يقضون المزيد من الوقت على الموقع.
في الواقع، تعظيم watchtime هو بيت القصيد من خوارزميات يوتيوب ، وهذا يشجع منشئي الفيديو على الكفاح من أجل الاهتمام بأي طريقة ممكنة. الشركة محض انعدام الشفافية حول بالضبط كيف يعمل هذا يجعل من المستحيل تقريبا محاربة التطرف على الموقع. بعد كل شيء ، وبدون شفافية ، من الصعب معرفة ما يمكن تغييره لتحسين الوضع.
كيف تعمل خوارزمية يوتيوب لا يزال لغزا. من هو داني / شترستوك
ولكن يوتيوب ليست غير عادية في هذا الصدد. عادة ما يكون عدم وجود شفافية حول كيفية عمل الخوارزميات كلما استخدمت في أنظمة كبيرة ، سواء من قبل الشركات الخاصة أو الهيئات العامة. بالإضافة إلى تحديد مقطع الفيديو الذي سيتم عرضه لك بعد ذلك ، يتم الآن استخدام خوارزميات التعلم الآلي وضع الأطفال في المدارس، اتخاذ قرار بشأن أحكام بالسجن، تحديد عشرات الائتمان و أسعار التأمينوكذلك مصير المهاجرين, المرشحين للعمل و المتقدمين بالجامعة. وعادة لا نفهم كيف تتخذ هذه الأنظمة قراراتها.
لقد وجد الباحثون طرقًا مبتكرة لإظهار تأثير هذه الخوارزميات على المجتمع ، سواء من خلال دراسة صعود اليمين الرجعي أو ال انتشار نظريات المؤامرة على يوتيوب ، أو عن طريق إظهار كيف محركات البحث تعكس التحيزات العنصرية من الناس الذين يخلقون لهم.
نظم التعلم الآلي عادة ما تكون كبيرة ومعقدة وغير شفافة. من المناسب ، وغالبا ما توصف بأنها مربعات سوداء، أين تذهب المعلومات ، وتخرج المعلومات أو الإجراءات ، لكن لا أحد يستطيع أن يرى ما يحدث فيما بينهما. هذا يعني أنه نظرًا لأننا لا نعرف بالضبط كيفية عمل الخوارزميات مثل نظام توصيات YouTube ، فإن محاولة معرفة كيفية عمل الموقع ستكون محاولة فهم سيارة دون فتح غطاء محرك السيارة.
وهذا بدوره يعني أن محاولة كتابة قوانين لتنظيم الخوارزميات التي ينبغي أو لا ينبغي أن تصبح عملية أعمى أو تجربة وخطأ. هذا ما يحدث مع YouTube ومع العديد من خوارزميات التعلم الآلي. نحن نحاول الحصول على رأي في نتائجها ، دون فهم حقيقي لكيفية عملهم حقًا. نحتاج إلى فتح هذه التقنيات الحاصلة على براءة اختراع ، أو على الأقل جعلها شفافة بما يكفي حتى نتمكن من تنظيمها.
التفسير والاختبار
إحدى الطرق للقيام بذلك هي توفير الخوارزميات تفسيرات عكسية جنبا إلى جنب مع قراراتهم. هذا يعني إيجاد الحد الأدنى من الشروط اللازمة للخوارزمية لاتخاذ قرار مختلف ، دون وصف منطقها الكامل. على سبيل المثال ، قد تنتج الخوارزمية التي تتخذ قرارات بشأن القروض المصرفية ناتجًا يقول: "إذا كان عمرك أكبر من 18 عامًا ولم يكن لديك دين سابق ، فسيتم قبول قرضك المصرفي". ولكن قد يكون هذا صعبًا على YouTube والمواقع الأخرى التي تستخدم خوارزميات التوصية ، كما يمكن نظريًا التوصية بأي فيديو على النظام الأساسي في أي وقت.
أداة قوية أخرى هي اختبار الخوارزمية ومراجعتها ، والتي كانت مفيدة بشكل خاص في تشخيص الخوارزميات المتحيزة. في الحالة الأخيرة ، اكتشفت شركة فحص السيرة الذاتية المهنية أن خوارزمية لها تحديد أولويات عاملين كأفضل متنبئين للأداء الوظيفي: ما إذا كان اسم المرشح هو جاريد ، وإذا كان يلعب اللاكروس في المدرسة الثانوية. هذا هو ما يحدث عندما يتم تشغيل الجهاز دون إشراف.
في هذه الحالة ، لاحظت خوارزمية فحص السيرة الذاتية أن الرجال البيض لديهم فرصة أكبر للتعاقد ، ووجدوا خصائص وكيل مرتبطة (مثل تسمية جاريد أو لعب لاكروس) حاضرة في المرشحين الذين تم توظيفهم. باستخدام YouTube ، يمكن أن تساعد مراجعة الخوارزميات في فهم أنواع مقاطع الفيديو التي يتم ترتيبها حسب الأولوية للتوصية - وربما تساعد في تسوية النقاش حول ما إذا كانت توصيات YouTube تساهم في التطرف أم لا.
يعد تقديم تفسيرات عكسية أو استخدام تدوين الخوارزمية عملية صعبة ومكلفة. لكنه مهم ، لأن البديل أسوأ. إذا لم يتم التحقق من الخوارزميات وعدم تنظيمها ، فقد نرى زحفًا تدريجيًا من منظري المؤامرة والمتطرفين إلى وسائل الإعلام لدينا ، واهتمامنا يسيطر عليه كل من يمكنه إنتاج المحتوى الأكثر ربحية.
عن المؤلف
تشيكو ك. كامارجو ، باحث ما بعد الدكتوراه في علوم البيانات ، جامعة أكسفورد
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
