عادةً ما يتم اختبار خوارزميات التعرف على الوجه باستخدام الوجوه البيضاء ، مما يؤدي إلى عدم قدرة التكنولوجيا على التمييز بين الأفراد الذين يعانون من العنصرية. (صراع الأسهم)
اعتقلت شرطة ديترويت خطأ روبرت جوليان بورشاك ويليامز في يناير 2020 لحادث سرقة وقع قبل عامين. على الرغم من أن ويليامز لا علاقة له بالحادث ، فإن تقنية التعرف على الوجه التي استخدمتها شرطة ولاية ميشيغان "مطابقة" وجهه بصورة محببة تم الحصول عليها من مقطع فيديو للمراقبة داخل المتجر يظهر رجلًا أمريكيًا من أصل أفريقي يأخذ ساعات بقيمة 3,800 دولار أمريكي.
بعد أسبوعين ، رُفضت القضية بناء على طلب النيابة. ومع ذلك ، بالاعتماد على المباراة الخاطئة ، قامت الشرطة بالفعل بتقييد يدي ويليامز واعتقاله أمام عائلته ، وأجبرته على تقديم رصاصة ، وبصمات أصابع وعينة من الحمض النووي الخاص به ، واستجوبته وسجنته طوال الليل.
يشير الخبراء إلى أن ويليامز ليس وحده ، وأن آخرين قد تعرضوا لمظالم مماثلة. يؤكد الجدل المستمر حول استخدام الشرطة لـ Clearview AI بالتأكيد على مخاطر الخصوصية التي تشكلها تقنية التعرف على الوجه. لكن من المهم أن تدرك ذلك لا نتحمل جميعًا هذه المخاطر بالتساوي.
تدريب الخوارزميات العنصرية
تقنية التعرف على الوجه تم تدريبهم وضبطهم على الوجوه القوقازية يخطئ بشكل منهجي في تحديد الأفراد الذين يعانون من العنصرية ويصفهم بشكل خاطئ: تشير العديد من الدراسات إلى أن تقنية التعرف على الوجه "معيبة ومنحازة ، مع معدلات خطأ أعلى بشكل ملحوظ عند استخدامها ضد الأشخاص الملونين".
هذه يقوض الفردية والإنسانية للأشخاص العنصريين الذين هم أكثر عرضة لسوء تعريفهم كمجرمين. تعكس التكنولوجيا - وأخطاء تحديد الهوية التي ترتكبها - الانقسامات الاجتماعية الطويلة الأمد التي ترتبط بعمق بالعنصرية والتمييز على أساس الجنس ورهاب المثلية الجنسية والاستعمار الاستيطاني وغير ذلك من أشكال الاضطهاد المتقاطعة.
{vembed Y = vSuDE6wvQlU}
تحقيق France24 في التحيز العنصري في تقنية التعرف على الوجه.
كيف تصنف التكنولوجيا المستخدمين
في كتابه لعام 1993 الذي غير قواعد اللعبة ، النوع Panoptic، حذر الباحث أوسكار غاندي من أن "التكنولوجيا المعقدة [التي] تتضمن جمع ومعالجة ومشاركة المعلومات حول الأفراد والجماعات التي يتم إنشاؤها من خلال حياتهم اليومية ... تستخدم للتنسيق والتحكم في وصولهم إلى السلع والخدمات التي تحدد الحياة في الاقتصاد الرأسمالي الحديث ". يستخدمه تطبيق القانون لانتزاع المشتبه بهم من عامة الناس ، وتستخدمه المؤسسات الخاصة لتحديد ما إذا كان لدينا إمكانية الوصول إلى أشياء مثل مصرفي و توظيف.
حذر غاندي بشكل نبوئي من أنه إذا تُرك هذا الشكل من "الفرز الإلكتروني" دون رادع ، فمن شأنه أن يلحق الضرر بشكل كبير بأعضاء المجتمعات التي تسعى إلى تحقيق المساواة - على سبيل المثال ، المجموعات العنصرية أو المحرومة اجتماعيًا واقتصاديًا - سواء من حيث ما سيتم تخصيصه لهم أو كيف يمكن أن يفهموا أنفسهم.
بعد حوالي 25 عامًا ، نعيش الآن مع النوع الشامل على المنشطات. وتكثر الأمثلة على آثارها السلبية على المجتمعات الساعية للمساواة ، مثل التعريف الخاطئ لوليامز.
التحيز الموجود مسبقًا
يتغلغل هذا التصنيف باستخدام الخوارزميات في الجوانب الأساسية للحياة اليومية ، مما يتسبب في حدوث عنف مباشر وبنيوي في أعقابه.
يتضح العنف المباشر الذي تعرض له ويليامز على الفور في الأحداث المحيطة باعتقاله واحتجازه ، والأضرار الفردية التي تعرض لها واضحة ويمكن إرجاعها إلى تصرفات الشرطة التي اختارت الاعتماد على "مطابقة" التكنولوجيا لإجراء اعتقال. أكثر ماكرة هو العنف الهيكلي من خلال تقنية التعرف على الوجه و التقنيات الرقمية الأخرى هذا المعدل والمطابقة والتصنيف والفرز للأفراد بطرق تضخم الأنماط التمييزية الموجودة مسبقًا.
إن أضرار العنف البنيوي أقل وضوحًا وأقل مباشرة ، وتتسبب في إلحاق الضرر بالجماعات الساعية إلى المساواة من خلال الحرمان المنهجي للسلطة والموارد والفرص. في الوقت نفسه ، يزيد من المخاطر المباشرة والأضرار التي تلحق بأفراد تلك المجموعات.
استخدامات الشرطة التنبؤية المعالجة الحسابية للبيانات التاريخية للتنبؤ بالوقت والمكان الذي من المحتمل أن تحدث فيه جرائم جديدة، يخصص موارد الشرطة وفقًا لذلك ويدمج مراقبة الشرطة المعززة في المجتمعات ، عادة في الأحياء ذات الدخل المنخفض والمتحيزة العنصرية. هذا يزيد من فرص اكتشاف أي نشاط إجرامي - بما في ذلك النشاط الإجرامي الأقل خطورة والذي قد يؤدي إلى عدم استجابة الشرطة - ومعاقبتهم ، مما يحد في النهاية من فرص الحياة للأشخاص الذين يعيشون في تلك البيئة.
وتستمر الأدلة على التفاوتات في القطاعات الأخرى في التصاعد. مئات الطلاب في المملكة المتحدة احتج في 16 أغسطس على النتائج الكارثية لـ Ofqual، وهي خوارزمية معيبة استخدمتها حكومة المملكة المتحدة لتحديد الطلاب المؤهلين للجامعة. في عام 2019 ، خدمة إعلانات الاستهداف الدقيق على Facebook ساعدت العشرات من أرباب العمل في القطاعين العام والخاص استبعاد الأشخاص من تلقي إعلانات الوظائف على أساس العمر والجنس. تم توثيق الأبحاث التي أجرتها ProPublica تمييز أسعار المنتجات عبر الإنترنت على أساس العرق. وتنتج محركات البحث بانتظام نتائج عنصرية وجنسية.
القهر الدائم
هذه النتائج مهمة لأنها تديم وتعمق عدم المساواة الموجودة مسبقًا بناءً على خصائص مثل العرق والجنس والعمر. إنها مهمة أيضًا لأنها تؤثر بعمق في كيفية معرفتنا لأنفسنا والعالم من حولنا ، أحيانًا عن طريق الاختيار المسبق للمعلومات نتلقى بطرق تعزز التصورات النمطية. حتى شركات التكنولوجيا نفسها تعترف بـ ضرورة منع الخوارزميات من إدامة التمييز.
حتى الآن ، كان نجاح التحقيقات المخصصة ، التي أجرتها شركات التكنولوجيا نفسها ، غير متسق. في بعض الأحيان ، تسحبها الشركات المشاركة في إنتاج أنظمة تمييزية من السوق ، مثل متى أعلنت Clearview AI أنها لن تقدم تقنية التعرف على الوجه بعد الآن في كندا. ولكن غالبًا ما تنتج مثل هذه القرارات عن التدقيق التنظيمي أو الاحتجاج العام فقط بعد أعضاء المجتمعات الساعية للمساواة قد تضرروا بالفعل.
حان الوقت لمنح مؤسساتنا التنظيمية الأدوات التي تحتاجها لمعالجة المشكلة. لا يمكن فصل إجراءات حماية الخصوصية البسيطة التي تعتمد على الحصول على موافقة فردية لتمكين الشركات من التقاط البيانات وإعادة توجيهها لأغراض أخرى عن النتائج التمييزية لهذا الاستخدام. هذا صحيح بشكل خاص في عصر كان فيه معظمنا (بما في ذلك شركات التكنولوجيا نفسها) لا يفهم تمامًا ما تفعله الخوارزميات أو سبب إنتاجها لنتائج محددة.
الخصوصية حق من حقوق الإنسان
يستلزم جزء من الحل تحطيم الصوامع التنظيمية الحالية التي تتعامل مع الخصوصية وحقوق الإنسان على أنها قضايا منفصلة. الاعتماد على نموذج حماية البيانات القائم على الموافقة يتعارض مع المبدأ الأساسي القائل بأن الخصوصية والمساواة هما من حقوق الإنسان التي لا يمكن التنازل عنها.
حتى الميثاق الرقمي الكندي - أحدث محاولة للحكومة الفيدرالية للرد على أوجه القصور في الوضع الحالي للبيئة الرقمية - تحافظ على هذه الفروق المفاهيمية. إنه يتعامل مع الكراهية والتطرف ، والسيطرة والموافقة ، والديمقراطية القوية على أنها فئات منفصلة.
لمعالجة التمييز الخوارزمي ، يجب أن نعترف بالخصوصية والمساواة على حد سواء ونؤطرهما كحقوق إنسان. ويجب علينا إنشاء بنية تحتية تهتم بنفس القدر وخبرة في كليهما. بدون مثل هذه الجهود ، سيستمر بريق الرياضيات والعلوم اللامع في إخفاء التحيزات التمييزية للذكاء الاصطناعي ، ومن المتوقع أن تتكاثر الصور الشاذة مثل تلك التي لحقت ويليامز.
حول المؤلف
جين بيلي ، أستاذة القانون والرئيسة المشاركة لمشروع eQuality ، جامعة أونوتاوا / جامعة أوتاوا؛ جاكلين بوركيل ، نائب الرئيس المساعد للأبحاث ، الجامعة الغربية، وفاليري ستيفيز ، أستاذة كاملة ، جامعة أونوتاوا / جامعة أوتاوا
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
كتب عن عدم المساواة من قائمة أفضل البائعين في أمازون
"الطبقة: أصول سخطنا"
بواسطة إيزابيل ويلكرسون
في هذا الكتاب ، تبحث إيزابيل ويلكرسون في تاريخ أنظمة الطبقات في المجتمعات حول العالم ، بما في ذلك الولايات المتحدة. يستكشف الكتاب تأثير الطبقة الاجتماعية على الأفراد والمجتمع ، ويقدم إطارًا لفهم ومعالجة عدم المساواة.
انقر لمزيد من المعلومات أو للطلب
"لون القانون: تاريخ منسي لكيفية عزل حكومتنا لأمريكا"
بقلم ريتشارد روثستين
في هذا الكتاب ، يستكشف ريتشارد روثستين تاريخ السياسات الحكومية التي خلقت وعززت الفصل العنصري في الولايات المتحدة. يبحث الكتاب في تأثير هذه السياسات على الأفراد والمجتمعات ، ويقدم دعوة للعمل من أجل معالجة عدم المساواة المستمرة.
انقر لمزيد من المعلومات أو للطلب
"مجموعنا: تكلفة العنصرية للجميع وكيف يمكننا الازدهار معًا"
بواسطة هيذر ماكغي
في هذا الكتاب ، تستكشف هيذر ماكغي التكاليف الاقتصادية والاجتماعية للعنصرية ، وتقدم رؤية لمجتمع أكثر إنصافًا وازدهارًا. يتضمن الكتاب قصصًا لأفراد ومجتمعات تحدوا عدم المساواة ، بالإضافة إلى حلول عملية لخلق مجتمع أكثر شمولية.
انقر لمزيد من المعلومات أو للطلب
"أسطورة العجز: النظرية النقدية الحديثة وولادة الاقتصاد الشعبي"
بواسطة ستيفاني كيلتون
في هذا الكتاب ، تتحدى ستيفاني كيلتون الأفكار التقليدية حول الإنفاق الحكومي والعجز القومي ، وتقدم إطارًا جديدًا لفهم السياسة الاقتصادية. يتضمن الكتاب حلولاً عملية لمعالجة عدم المساواة وخلق اقتصاد أكثر إنصافاً.
انقر لمزيد من المعلومات أو للطلب
"The New Jim Crow: سجن جماعي في عصر عمى الألوان"
ميشيل الكسندر
في هذا الكتاب ، تستكشف ميشيل ألكساندر الطرق التي يديم بها نظام العدالة الجنائية عدم المساواة والتمييز العنصريين ، لا سيما ضد الأمريكيين السود. يحتوي الكتاب على تحليل تاريخي للنظام وتأثيره ، بالإضافة إلى دعوة للعمل من أجل الإصلاح.
