كيف أن تقنية التعرف على الوجه معيبة ومنحازة عنصريًا

كيف أن تقنية التعرف على الوجه معيبة ومنحازة عنصريًا
عادةً ما يتم اختبار خوارزميات التعرف على الوجه باستخدام الوجوه البيضاء ، مما يؤدي إلى عدم قدرة التكنولوجيا على التمييز بين الأفراد الذين يعانون من العنصرية. (صراع الأسهم)

اعتقلت شرطة ديترويت خطأ روبرت جوليان بورشاك ويليامز في يناير 2020 لحادث سرقة وقع قبل عامين. على الرغم من أن ويليامز لا علاقة له بالحادث ، فإن تقنية التعرف على الوجه التي استخدمتها شرطة ولاية ميشيغان "مطابقة" وجهه بصورة محببة تم الحصول عليها من مقطع فيديو للمراقبة داخل المتجر يظهر رجلًا أمريكيًا من أصل أفريقي يأخذ ساعات بقيمة 3,800 دولار أمريكي.

بعد أسبوعين ، رُفضت القضية بناء على طلب النيابة. ومع ذلك ، بالاعتماد على المباراة الخاطئة ، قامت الشرطة بالفعل بتقييد يدي ويليامز واعتقاله أمام عائلته ، وأجبرته على تقديم رصاصة ، وبصمات أصابع وعينة من الحمض النووي الخاص به ، واستجوبته وسجنته طوال الليل.

يشير الخبراء إلى أن ويليامز ليس وحده ، وأن آخرين قد تعرضوا لمظالم مماثلة. يؤكد الجدل المستمر حول استخدام الشرطة لـ Clearview AI بالتأكيد على مخاطر الخصوصية التي تشكلها تقنية التعرف على الوجه. لكن من المهم أن تدرك ذلك لا نتحمل جميعًا هذه المخاطر بالتساوي.

تدريب الخوارزميات العنصرية

تقنية التعرف على الوجه تم تدريبهم وضبطهم على الوجوه القوقازية يخطئ بشكل منهجي في تحديد الأفراد الذين يعانون من العنصرية ويصفهم بشكل خاطئ: تشير العديد من الدراسات إلى أن تقنية التعرف على الوجه "معيبة ومنحازة ، مع معدلات خطأ أعلى بشكل ملحوظ عند استخدامها ضد الأشخاص الملونين".

هذا يقوض الفردية والإنسانية للأشخاص العنصريين الذين هم أكثر عرضة لسوء تعريفهم كمجرمين. تعكس التكنولوجيا - وأخطاء تحديد الهوية التي ترتكبها - الانقسامات الاجتماعية الطويلة الأمد التي ترتبط بعمق بالعنصرية والتمييز على أساس الجنس ورهاب المثلية الجنسية والاستعمار الاستيطاني وغير ذلك من أشكال الاضطهاد المتقاطعة.


تحقيق France24 في التحيز العنصري في تقنية التعرف على الوجه.

كيف تصنف التكنولوجيا المستخدمين

في كتابه لعام 1993 الذي غير قواعد اللعبة ، النوع Panoptic، حذر الباحث أوسكار غاندي من أن "التكنولوجيا المعقدة [التي] تتضمن جمع ومعالجة ومشاركة المعلومات حول الأفراد والجماعات التي يتم إنشاؤها من خلال حياتهم اليومية ... تستخدم للتنسيق والتحكم في وصولهم إلى السلع والخدمات التي تحدد الحياة في الاقتصاد الرأسمالي الحديث ". يستخدمه تطبيق القانون لانتزاع المشتبه بهم من عامة الناس ، وتستخدمه المؤسسات الخاصة لتحديد ما إذا كان لدينا إمكانية الوصول إلى أشياء مثل مصرفي و توظيف.


الحصول على أحدث من InnerSelf


حذر غاندي بشكل نبوئي من أنه إذا تُرك هذا الشكل من "الفرز الإلكتروني" دون رادع ، فمن شأنه أن يلحق الضرر بشكل كبير بأعضاء المجتمعات التي تسعى إلى تحقيق المساواة - على سبيل المثال ، المجموعات العنصرية أو المحرومة اجتماعيًا واقتصاديًا - سواء من حيث ما سيتم تخصيصه لهم أو كيف يمكن أن يفهموا أنفسهم.

بعد حوالي 25 عامًا ، نعيش الآن مع النوع الشامل على المنشطات. وتكثر الأمثلة على آثارها السلبية على المجتمعات الساعية للمساواة ، مثل التعريف الخاطئ لوليامز.

التحيز الموجود مسبقًا

يتغلغل هذا التصنيف باستخدام الخوارزميات في الجوانب الأساسية للحياة اليومية ، مما يتسبب في حدوث عنف مباشر وبنيوي في أعقابه.

يتضح العنف المباشر الذي تعرض له ويليامز على الفور في الأحداث المحيطة باعتقاله واحتجازه ، والأضرار الفردية التي تعرض لها واضحة ويمكن إرجاعها إلى تصرفات الشرطة التي اختارت الاعتماد على "مطابقة" التكنولوجيا لإجراء اعتقال. أكثر ماكرة هو العنف الهيكلي من خلال تقنية التعرف على الوجه و التقنيات الرقمية الأخرى هذا المعدل والمطابقة والتصنيف والفرز للأفراد بطرق تضخم الأنماط التمييزية الموجودة مسبقًا.

إن أضرار العنف البنيوي أقل وضوحًا وأقل مباشرة ، وتتسبب في إلحاق الضرر بالجماعات الساعية إلى المساواة من خلال الحرمان المنهجي للسلطة والموارد والفرص. في الوقت نفسه ، يزيد من المخاطر المباشرة والأضرار التي تلحق بأفراد تلك المجموعات.

استخدامات الشرطة التنبؤية المعالجة الحسابية للبيانات التاريخية للتنبؤ بالوقت والمكان الذي من المحتمل أن تحدث فيه جرائم جديدة، يخصص موارد الشرطة وفقًا لذلك ويدمج مراقبة الشرطة المعززة في المجتمعات ، عادة في الأحياء ذات الدخل المنخفض والمتحيزة العنصرية. هذا يزيد من فرص اكتشاف أي نشاط إجرامي - بما في ذلك النشاط الإجرامي الأقل خطورة والذي قد يؤدي إلى عدم استجابة الشرطة - ومعاقبتهم ، مما يحد في النهاية من فرص الحياة للأشخاص الذين يعيشون في تلك البيئة.

وتستمر الأدلة على التفاوتات في القطاعات الأخرى في التصاعد. مئات الطلاب في المملكة المتحدة احتج في 16 أغسطس على النتائج الكارثية لـ Ofqual، وهي خوارزمية معيبة استخدمتها حكومة المملكة المتحدة لتحديد الطلاب المؤهلين للجامعة. في عام 2019 ، خدمة إعلانات الاستهداف الدقيق على Facebook ساعدت العشرات من أرباب العمل في القطاعين العام والخاص استبعاد الأشخاص من تلقي إعلانات الوظائف على أساس العمر والجنس. تم توثيق الأبحاث التي أجرتها ProPublica تمييز أسعار المنتجات عبر الإنترنت على أساس العرق. وتنتج محركات البحث بانتظام نتائج عنصرية وجنسية.

القهر الدائم

هذه النتائج مهمة لأنها تديم وتعمق عدم المساواة الموجودة مسبقًا بناءً على خصائص مثل العرق والجنس والعمر. إنها مهمة أيضًا لأنها تؤثر بعمق في كيفية معرفتنا لأنفسنا والعالم من حولنا ، أحيانًا عن طريق الاختيار المسبق للمعلومات نتلقى بطرق تعزز التصورات النمطية. حتى شركات التكنولوجيا نفسها تعترف بـ ضرورة منع الخوارزميات من إدامة التمييز.

حتى الآن ، كان نجاح التحقيقات المخصصة ، التي أجرتها شركات التكنولوجيا نفسها ، غير متسق. في بعض الأحيان ، تسحبها الشركات المشاركة في إنتاج أنظمة تمييزية من السوق ، مثل متى أعلنت Clearview AI أنها لن تقدم تقنية التعرف على الوجه بعد الآن في كندا. ولكن غالبًا ما تنتج مثل هذه القرارات عن التدقيق التنظيمي أو الاحتجاج العام فقط بعد أعضاء المجتمعات الساعية للمساواة قد تضرروا بالفعل.

حان الوقت لمنح مؤسساتنا التنظيمية الأدوات التي تحتاجها لمعالجة المشكلة. لا يمكن فصل إجراءات حماية الخصوصية البسيطة التي تعتمد على الحصول على موافقة فردية لتمكين الشركات من التقاط البيانات وإعادة توجيهها لأغراض أخرى عن النتائج التمييزية لهذا الاستخدام. هذا صحيح بشكل خاص في عصر كان فيه معظمنا (بما في ذلك شركات التكنولوجيا نفسها) لا يفهم تمامًا ما تفعله الخوارزميات أو سبب إنتاجها لنتائج محددة.

الخصوصية حق من حقوق الإنسان

يستلزم جزء من الحل تحطيم الصوامع التنظيمية الحالية التي تتعامل مع الخصوصية وحقوق الإنسان على أنها قضايا منفصلة. الاعتماد على نموذج حماية البيانات القائم على الموافقة يتعارض مع المبدأ الأساسي القائل بأن الخصوصية والمساواة هما من حقوق الإنسان التي لا يمكن التنازل عنها.

حتى الميثاق الرقمي الكندي - أحدث محاولة للحكومة الفيدرالية للرد على أوجه القصور في الوضع الحالي للبيئة الرقمية - تحافظ على هذه الفروق المفاهيمية. إنه يتعامل مع الكراهية والتطرف ، والسيطرة والموافقة ، والديمقراطية القوية على أنها فئات منفصلة.

لمعالجة التمييز الخوارزمي ، يجب أن نعترف بالخصوصية والمساواة على حد سواء ونؤطرهما كحقوق إنسان. ويجب علينا إنشاء بنية تحتية تهتم بنفس القدر وخبرة في كليهما. بدون مثل هذه الجهود ، سيستمر بريق الرياضيات والعلوم اللامع في إخفاء التحيزات التمييزية للذكاء الاصطناعي ، ومن المتوقع أن تتكاثر الصور الشاذة مثل تلك التي لحقت ويليامز.المحادثة

حول المؤلف

جين بيلي ، أستاذة القانون والرئيسة المشاركة لمشروع eQuality ، جامعة أونوتاوا / جامعة أوتاوا؛ جاكلين بوركيل ، نائب الرئيس المساعد للأبحاث ، الجامعة الغربية، وفاليري ستيفيز ، أستاذة كاملة ، جامعة أونوتاوا / جامعة أوتاوا

يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.

enafarزكية-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

اتبع InnerSelf على

الفيسبوك أيقونةتويتر أيقونةآر إس إس أيقونة

احصل على آخر عبر البريد الإلكتروني

{Emailcloak = إيقاف}

دعم وظيفة جيدة!

الأكثر قراءة

من المحررين

النشرة الإخبارية InnerSelf: أكتوبر 18 ، 2020
by InnerSelf الموظفين
نحن نعيش هذه الأيام في فقاعات صغيرة ... في منازلنا وفي العمل وفي الأماكن العامة ، وربما في أذهاننا ومع مشاعرنا. ومع ذلك ، نعيش في فقاعة ، أو نشعر وكأننا ...
النشرة الإخبارية InnerSelf: أكتوبر 11 ، 2020
by InnerSelf الموظفين
الحياة رحلة ، وكما هو الحال في معظم الرحلات ، تأتي مع تقلباتها. ومثلما يتبع النهار دائمًا الليل ، تنتقل تجاربنا الشخصية اليومية من الظلام إلى النور ، ذهابًا وإيابًا. ومع ذلك،…
النشرة الإخبارية InnerSelf: أكتوبر 4 ، 2020
by InnerSelf الموظفين
مهما كان ما نمر به ، فرديًا وجماعيًا ، يجب أن نتذكر أننا لسنا ضحايا لا حول لهم ولا قوة. يمكننا استعادة قوتنا لنحت طريقنا وشفاء حياتنا روحياً ...
النشرة الإخبارية InnerSelf: أيلول 27 و 2020
by InnerSelf الموظفين
إحدى أعظم قوة الجنس البشري هي قدرتنا على أن نكون مرنين ، وأن نكون مبدعين ، وأن نفكر خارج الصندوق. أن نكون شخصًا آخر غير ما كنا عليه بالأمس أو في اليوم السابق. يمكننا ان نغير...…
ما يصلح لي: "لأعلى خير"
by ماري ت. راسل ، إنيرسيلف
السبب في أنني أشارك "ما يناسبني" هو أنه قد يعمل معك أيضًا. إذا لم تكن الطريقة التي أفعل بها ذلك بالضبط ، نظرًا لأننا جميعًا فريدون ، فقد يكون بعض التباين في الموقف أو الطريقة أمرًا جيدًا ...