الخوارزميات في YouTube قد تزيد من تعقيد الناس - لكن المشكلة الحقيقية هي أنه ليس لدينا فكرة عن كيفية عملهم

الخوارزميات في YouTube قد تزيد من تعقيد الناس - لكن المشكلة الحقيقية هي أنه ليس لدينا فكرة عن كيفية عملهم السيد Tempter / Shutterstock

هل يوتيوب خلق المتطرفين؟ أ دراسة حديثة تسبب في جدال بين العلماء من خلال القول بأن الخوارزميات التي تشغل الموقع لا تساعد في تطرف الناس من خلال التوصية بمقاطع فيديو أكثر تطرفًا ، مثل وقد اقترح في السنوات الأخيرة.

الورقة ، المقدمة إلى مجلة الوصول المفتوح الاثنين الأول ولكن لم يتم مراجعتها من قبل النظراء ، حللت توصيات الفيديو التي تلقتها أنواع مختلفة من القنوات. فقد ادعى أن خوارزمية YouTube تفضل قنوات الوسائط الرئيسية على محتوى مستقل ، وخلصت إلى أن التطرف له علاقة بالأشخاص الذين ينشئون محتوى ضارًا أكثر من خوارزمية الموقع.

المتخصصين في هذا المجال كانوا سريعين في الاستجابة للدراسة، مع بعض الانتقاد طرق الورقة وآخرون يجادلون بأن الخوارزمية كانت واحدة من عدة عوامل مهمة وأن علم البيانات وحده لن يعطينا الجواب.

تكمن مشكلة هذه المناقشة في أنه لا يمكننا الإجابة عن سؤال حول الدور الذي تلعبه خوارزمية YouTube في تطرف الناس لأننا لا نفهم كيف يعمل. وهذا مجرد عرض لمشكلة أوسع بكثير. تلعب هذه الخوارزميات دورًا متزايدًا في حياتنا اليومية ولكنها تفتقر إلى أي نوع من الشفافية.

من الصعب القول أن YouTube لا يلعب دورًا في التطرف. أشار ذلك أولاً إلى عالم الاجتماع التكنولوجي زينب توفيكسي ، الذي أوضح كيف تدفع مقاطع الفيديو الموصى بها المستخدمين تدريجياً نحو محتوى أكثر تطرفا. وبكلمات توفيكسي ، تؤدي مقاطع الفيديو حول الركض إلى مقاطع فيديو حول تشغيل الماراثون الحار ، وأشرطة الفيديو حول اللقاحات تؤدي إلى نظريات المؤامرة ، وأشرطة الفيديو حول السياسة تؤدي إلى "نفي الهولوكوست ومحتوى مقلق آخر".

وقد كتب هذا أيضا عن بالتفصيل من قبل موظف YouTube السابق غيوم شاسلو الذي عمل على خوارزمية توصية الموقع. منذ مغادرة الشركة ، واصلت Chaslot محاولة تقديم تلك التوصيات أكثر شفافية. يقول إن توصيات YouTube منحازة نظريات المؤامرة وأشرطة الفيديو غير دقيقة في الواقع، والتي تجعل الناس يقضون المزيد من الوقت على الموقع.

في الواقع، تعظيم watchtime هو بيت القصيد من خوارزميات يوتيوب ، وهذا يشجع منشئي الفيديو على الكفاح من أجل الاهتمام بأي طريقة ممكنة. الشركة محض انعدام الشفافية حول بالضبط كيف يعمل هذا يجعل من المستحيل تقريبا محاربة التطرف على الموقع. بعد كل شيء ، وبدون شفافية ، من الصعب معرفة ما يمكن تغييره لتحسين الوضع.


الحصول على أحدث من InnerSelf


الخوارزميات في YouTube قد تزيد من تعقيد الناس - لكن المشكلة الحقيقية هي أنه ليس لدينا فكرة عن كيفية عملهم كيف تعمل خوارزمية يوتيوب لا يزال لغزا. من هو داني / شترستوك

ولكن يوتيوب ليست غير عادية في هذا الصدد. عادة ما يكون عدم وجود شفافية حول كيفية عمل الخوارزميات كلما استخدمت في أنظمة كبيرة ، سواء من قبل الشركات الخاصة أو الهيئات العامة. بالإضافة إلى تحديد مقطع الفيديو الذي سيتم عرضه لك بعد ذلك ، يتم الآن استخدام خوارزميات التعلم الآلي وضع الأطفال في المدارس، اتخاذ قرار بشأن أحكام بالسجن، تحديد عشرات الائتمان و أسعار التأمينوكذلك مصير المهاجرين, المرشحين للعمل و المتقدمين بالجامعة. وعادة لا نفهم كيف تتخذ هذه الأنظمة قراراتها.

لقد وجد الباحثون طرقًا مبتكرة لإظهار تأثير هذه الخوارزميات على المجتمع ، سواء من خلال دراسة صعود اليمين الرجعي أو ال انتشار نظريات المؤامرة على يوتيوب ، أو عن طريق إظهار كيف محركات البحث تعكس التحيزات العنصرية من الناس الذين يخلقون لهم.

نظم التعلم الآلي عادة ما تكون كبيرة ومعقدة وغير شفافة. من المناسب ، وغالبا ما توصف بأنها مربعات سوداء، أين تذهب المعلومات ، وتخرج المعلومات أو الإجراءات ، لكن لا أحد يستطيع أن يرى ما يحدث فيما بينهما. هذا يعني أنه نظرًا لأننا لا نعرف بالضبط كيفية عمل الخوارزميات مثل نظام توصيات YouTube ، فإن محاولة معرفة كيفية عمل الموقع ستكون محاولة فهم سيارة دون فتح غطاء محرك السيارة.

وهذا بدوره يعني أن محاولة كتابة قوانين لتنظيم الخوارزميات التي ينبغي أو لا ينبغي أن تصبح عملية أعمى أو تجربة وخطأ. هذا ما يحدث مع YouTube ومع العديد من خوارزميات التعلم الآلي. نحن نحاول الحصول على رأي في نتائجها ، دون فهم حقيقي لكيفية عملهم حقًا. نحتاج إلى فتح هذه التقنيات الحاصلة على براءة اختراع ، أو على الأقل جعلها شفافة بما يكفي حتى نتمكن من تنظيمها.

التفسير والاختبار

إحدى الطرق للقيام بذلك هي توفير الخوارزميات تفسيرات عكسية جنبا إلى جنب مع قراراتهم. هذا يعني إيجاد الحد الأدنى من الشروط اللازمة للخوارزمية لاتخاذ قرار مختلف ، دون وصف منطقها الكامل. على سبيل المثال ، قد تنتج الخوارزمية التي تتخذ قرارات بشأن القروض المصرفية ناتجًا يقول: "إذا كان عمرك أكبر من 18 عامًا ولم يكن لديك دين سابق ، فسيتم قبول قرضك المصرفي". ولكن قد يكون هذا صعبًا على YouTube والمواقع الأخرى التي تستخدم خوارزميات التوصية ، كما يمكن نظريًا التوصية بأي فيديو على النظام الأساسي في أي وقت.

أداة قوية أخرى هي اختبار الخوارزمية ومراجعتها ، والتي كانت مفيدة بشكل خاص في تشخيص الخوارزميات المتحيزة. في الحالة الأخيرة ، اكتشفت شركة فحص السيرة الذاتية المهنية أن خوارزمية لها تحديد أولويات عاملين كأفضل متنبئين للأداء الوظيفي: ما إذا كان اسم المرشح هو جاريد ، وإذا كان يلعب اللاكروس في المدرسة الثانوية. هذا هو ما يحدث عندما يتم تشغيل الجهاز دون إشراف.

في هذه الحالة ، لاحظت خوارزمية فحص السيرة الذاتية أن الرجال البيض لديهم فرصة أكبر للتعاقد ، ووجدوا خصائص وكيل مرتبطة (مثل تسمية جاريد أو لعب لاكروس) حاضرة في المرشحين الذين تم توظيفهم. باستخدام YouTube ، يمكن أن تساعد مراجعة الخوارزميات في فهم أنواع مقاطع الفيديو التي يتم ترتيبها حسب الأولوية للتوصية - وربما تساعد في تسوية النقاش حول ما إذا كانت توصيات YouTube تساهم في التطرف أم لا.

يعد تقديم تفسيرات عكسية أو استخدام تدوين الخوارزمية عملية صعبة ومكلفة. لكنه مهم ، لأن البديل أسوأ. إذا لم يتم التحقق من الخوارزميات وعدم تنظيمها ، فقد نرى زحفًا تدريجيًا من منظري المؤامرة والمتطرفين إلى وسائل الإعلام لدينا ، واهتمامنا يسيطر عليه كل من يمكنه إنتاج المحتوى الأكثر ربحية.المحادثة

عن المؤلف

تشيكو ك. كامارجو ، باحث ما بعد الدكتوراه في علوم البيانات ، جامعة أكسفورد

يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.

enafarزكية-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

اتبع InnerSelf على

الفيسبوك أيقونةتويتر أيقونةآر إس إس أيقونة

احصل على آخر عبر البريد الإلكتروني

{Emailcloak = إيقاف}

الأكثر قراءة

كيف تعزز الفنون الصحة العقلية
كيف تعزز الفنون الصحة العقلية
by بريتاني هاركر مارتن
معضلة حرية الاختيار
معضلة حرية الاختيار
by يزيت شويتميكر

من المحررين

Blue-Eyes vs Brown Eyes: كيف يتم تدريس العنصرية
by ماري ت. راسل ، إنيرسيلف
في حلقة أوبرا شو عام 1992 ، علّمت الناشطة والمناهضة للعنصرية جين إيليوت الحائزة على جوائز الجمهور درساً قاسياً حول العنصرية من خلال إظهار مدى سهولة تعلم التحيز.
تغير سوف يأتي...
by ماري ت. راسل ، إنيرسيلف
(30 مايو 2020) بينما أشاهد الأخبار عن الأحداث في فيلادلفيا والمدن الأخرى في البلاد ، فإن قلبي يتألم لما يحدث. أعلم أن هذا جزء من التغيير الأكبر الذي يحدث ...
أغنية يمكن أن ترفع القلب والروح
by ماري ت. راسل ، إنيرسيلف
لدي العديد من الطرق التي أستخدمها لمسح الظلام من ذهني عندما أجد أنه تسلل إلى الداخل. أحدهما هو البستنة ، أو قضاء الوقت في الطبيعة. والآخر هو الصمت. طريقة أخرى هي القراءة. وواحد ...
لماذا يمكن أن يكون دونالد ترامب أكبر الخاسرين في التاريخ
by روبرت جينينغز ، InnerSelf.com
يكلف جائحة الفيروس التاجي بأكمله ثروة ، ربما 2 أو 3 أو 4 ثروة ، كلها ذات حجم غير معروف. أوه نعم ، ومئات الآلاف ، وربما مليون شخص سيموتون قبل الأوان بشكل مباشر ...
التميمة للوباء والأغنية موضوع للتمييز الاجتماعي والعزلة
by ماري ت. راسل ، إنيرسيلف
لقد صادفت أغنية مؤخرًا ، وبينما كنت أستمع إلى كلمات الأغاني ، اعتقدت أنها ستكون أغنية مثالية كـ "أغنية موضوعية" في أوقات العزلة الاجتماعية هذه. (كلمات تحت الفيديو.)