في أنظمة العدالة الجنائية ، وأسواق الائتمان ، وساحات التوظيف ، وعمليات القبول في التعليم العالي وحتى شبكات التواصل الاجتماعي، خوارزميات يحركها البيانات الآن دفع صنع القرار بطرق تمس حياتنا الاقتصادية والاجتماعية والمدنية. تقوم أنظمة البرمجيات هذه بترتيب المعلومات أو تصنيفها أو ربطها أو تصفيتها باستخدام قواعد من صنع الإنسان أو مستحثة بالبيانات تسمح بمعالجة متسقة بين أعداد كبيرة من السكان.
ولكن على الرغم من تحقيق مكاسب في الكفاءة من هذه التقنيات ، إلا أنها يمكن أن تحدث ميناء التحيزات ضد الفئات المحرومة or تعزيز التمييز الهيكلي. فيما يتعلق بالعدالة الجنائية ، على سبيل المثال ، هل من العدل إصدار الأحكام على الإفراج المشروط للفرد بناءً على الميول الإحصائية المقاسة عبر مجموعة واسعة من الناس؟ يمكن أن ينشأ التمييز من تطبيق نموذج إحصائي وضعت لسكان دولة إلى أخرى ، والسكان مختلفة ديموغرافيا؟
يحتاج الجمهور إلى فهم التحيز وقوة الخوارزميات المستخدمة في المجال العام ، بما في ذلك من قبل الهيئات الحكومية. جهد أنا مع ، ودعا المساءلة الحسابية، يسعى إلى جعل تأثيرات تلك الأنواع من الأنظمة أكثر وضوحًا وفهمًا على نطاق واسع.
تقنيات الشفافية الحالية ، عند تطبيقها على الخوارزميات ، يمكن أن تمكن الناس من مراقبة وتدقيق وانتقاد كيف تعمل هذه الأنظمة - أو لا تعمل ، حسب الحالة. لسوء الحظ ، يبدو أن الوكالات الحكومية غير مستعدة للاستعلام عن الخوارزميات واستخداماتها في القرارات التي تؤثر بشكل كبير على كل من الأفراد والجمهور ككل.
فتح الخوارزميات للتدقيق العام
في العام الماضي بدأت الحكومة الفيدرالية الدراسة إيجابيات وسلبيات استخدام تحليل البيانات المحوسب للمساعدة في تحديد احتمال سجناء السجن من reoffending عند إطلاق سراحهم. يمكن أن يساعد تسجيل الأفراد بصفتهم ذوي مستويات منخفضة أو متوسطة أو عالية الخطورة في اتخاذ القرارات المتعلقة بالإسكان والمعالجة ، وتحديد الأشخاص الذين يمكن إرسالهم بأمان إلى سجن الأمان الحد الأدنى أو حتى "منزل في منتصف الطريق" ، أو الذين سيستفيدون من نوع معين من رعاية نفسية.
هذه المعلومات يمكن أن تجعل العملية القضائية أكثر كفاءة وأقل تكلفة ، وحتى تقلل من ازدحام السجون. لقد تم عرض معاملة الجناة ذوي الخطورة المنخفضة مثل الجناة ذوي الخطورة العالية في بعض الدراسات أن تؤدي بهم إلى استيعاب كونهم مجرمين "مرضى" ويحتاجون إلى علاج لسلوكهم المنحرف. يمكن فصلها وبالتالي الحد من تطور السلوكيات السلبية التي من شأنها أن تؤدي إلى النكوص عند إطلاق سراحهم.
البيانات والخوارزميات لتسجيل مخاطر إعادة تقديم السجناء هي بالفعل تستخدم على نطاق واسع من قبل الدول لإدارة الاحتجاز قبل المحاكمة ، والرقابة ، والإفراج المشروط وحتى الحكم. لكن من السهل عليهم ألا يلاحظوا أحد - فغالبًا ما يشبهون الأعمال الورقية البيروقراطية.
عادةً ما يتم غلي الخوارزميات إلى أوراق تسجيل مبسطة تملأ من قبل الموظفين العموميين مع فهم قليل للحسابات الأساسية. على سبيل المثال ، قد يقوم عامل الحالة بتقييم السجين باستخدام نموذج يشير فيه عامل القضية إلى أن السجين قد أدين بجريمة عنيفة ، وكان صغيراً وقت الاعتقال الأول ، ولم يتخرج من المدرسة الثانوية أو حصل على GED. هذه العوامل وغيرها من الخصائص المتعلقة بالشخص والجريمة تؤدي إلى نتيجة تشير إلى ما إذا كان النزيل قد يكون مؤهلاً لمراجعة الإفراج المشروط.
غالبًا ما يكشف النموذج نفسه ، بالإضافة إلى نظام التسجيل الخاص به ، عن السمات الرئيسية حول الخوارزمية ، مثل المتغيرات قيد النظر وكيف يجتمعون لتشكيل درجة مخاطرة شاملة. ولكن المهم أيضًا بالنسبة للشفافية الخوارزمية هو معرفة كيفية تصميم هذه النماذج وتطويرها وتقييمها. عندها فقط يمكن للجمهور أن يعرف ما إذا كانت العوامل والحسابات التي ينطوي عليها الوصول إلى النتيجة عادلة ومعقولة ، أو غير مطلعة ومنحازة.
باستخدام قانون حرية المعلومات
إن أداتنا الأساسية للحصول على هذه النماذج والمواد الداعمة لها هي القانون ، وعلى وجه التحديد ، قوانين حرية المعلومات. إنها من بين أقوى الآليات التي يمتلكها الجمهور لضمان الشفافية في الحكومة. على المستوى الفيدرالي ، قانون حرية المعلومات (FOIA) يسمح للجمهور بطلب رسمي - ويتوقع أن يحصل في المقابل - وثائق من الحكومة الفيدرالية. توجد قوانين مماثلة لكل ولاية.
تم إنشاؤه في 1966 ، تم إنشاء FOIA قبل الاستخدام الواسع النطاق للحوسبة ، وقبل استخدام رواسب كبيرة من البيانات بشكل روتيني في أنظمة البرمجيات لإدارة الأفراد وإجراء التنبؤات. كان هناك بعض البحوث الأولية إلى ما إذا كان FOIA قادرًا على تسهيل الكشف عن شفرة مصدر البرنامج. ولكن يبقى سؤال حول ما إذا كانت القوانين الحالية تستجيب لاحتياجات جمهور القرن 21st: هل يمكننا خوارزميات FOIA؟
دراسة حالة في شفافية الخوارزمية
أنا وضعت للإجابة على هذا السؤال في كلية فيليب ميريل للصحافة في جامعة ماريلاند ، حيث أنا أستاذ مساعد. في خريف 2015 ، من خلال العمل مع زميلي Sandy Banisky في مادة القانون ، قمنا بتوجيه الطلاب في تقديم طلبات قانون حرية المعلومات إلى كل ولاية من دول 50. لقد طلبنا المستندات ، والأوصاف الرياضية ، والبيانات ، وتقييمات التحقق من الصحة ، والعقود ، وكود المصدر المتعلق بالخوارزميات المستخدمة في العدالة الجنائية ، مثل قرارات الإفراج المشروط والإفراج بكفالة أو إصدار الأحكام.
كمشروع لمدة فصل دراسي ، تم تقييد الجهد بالضرورة بمرور الوقت ، مع الكثير من العقبات ونجاحات قليلة نسبيًا. كما هو الحال مع تحقيقات العديد من الصحفيين ، كان حتى تحديد من يسأل - وكيف - يمثل تحديًا. قد تكون الوكالات المختلفة مسؤولة عن مجالات مختلفة من نظام العدالة الجنائية (قد يتم إصدار الأحكام من قبل المحاكم ، ولكن إدارة الإفراج المشروط تتم بواسطة إدارة الإصلاحيات).
حتى بعد تحديد الشخص المناسب ، وجد الطلاب أن المسؤولين الحكوميين استخدموا مصطلحات مختلفة مما جعل من الصعب توصيل المعلومات التي يريدونها. في بعض الأحيان ، كان على الطلاب أن يعملوا بجد لشرح "خوارزميات العدالة الجنائية" لموظف حكومي ليس لديه ما يكفي من البيانات. عند العودة إلى الوراء ، ربما كان أكثر فعالية في طلب "أدوات تقييم المخاطر" ، حيث أن هذا المصطلح غالبًا ما تستخدمه حكومات الولايات.
التعامل مع الإجابات
رفضت بعض الولايات ، مثل كولورادو ، طلبنا ، قائلة إن الخوارزميات كانت متضمنة في البرامج ، والتي لم تُعتبر "وثيقة" تطلب قوانين الحكومة المفتوحة من المسؤولين نشرها. الدول المختلفة لها قواعد مختلفة حول الكشف عن استخدام البرنامج. ظهر هذا أحيانًا في المحاكم ، مثل 2004 دعوى ضد مدينة ديترويت حول ما إذا كان يجب نشر معادلة حساب رسوم المياه المفروضة على مدينة مجاورة.
في جهودنا الخاصة ، تلقينا وصفًا رياضيًا واحدًا فقط لخوارزمية العدالة الجنائية: تم الكشف عن أوريغون متغيرات 16 وأوزانها في نموذج يستخدم هناك للتنبؤ بالعودة. أصدرت ولاية نورث داكوتا جدول بيانات Excel يُظهر المعادلة المستخدمة لتحديد التواريخ التي يكون فيها السجناء مؤهلين للنظر في الإفراج المشروط. من ولاية ايداهو ونيو مكسيكو ، تلقينا مستندات تحتوي على بعض أوصاف تقييمات مخاطر النكوص التي استخدمتها تلك الدول ، لكن لا توجد تفاصيل حول كيفية تطويرها أو التحقق من صحتها.
استندت تسع ولايات إلى رفضها الكشف عن تفاصيل حول خوارزميات العدالة الجنائية الخاصة بها بناءً على الادعاء بأن المعلومات مملوكة بالفعل لشركة. هذا المعنى هو أن إطلاق الخوارزمية سيؤذي الشركة التي طورتها. استبيان شائع حول خطر الإجرام ، دعا LSI-R، تبين أنه منتج تجاري ، محمي بموجب حقوق الطبع والنشر. ادعت دول مثل هاواي وماين أن منعت الكشف عنها للجمهور.
وقالت لويزيانا إن عقدها مع مطور تقنية جديدة لتقييم المخاطر حال دون إصدار المعلومات المطلوبة لمدة ستة أشهر. استشهد ولاية كنتاكي عقدها مع مؤسسة خيرية لأنه لا يمكن الكشف عن مزيد من التفاصيل. قد تكون المخاوف المتعلقة بملكية المعلومات شرعية ، ولكن بالنظر إلى أن الحكومة تتعاقد بشكل روتيني مع الشركات الخاصة ، كيف يمكننا موازنة تلك المخاوف مع نظام قضائي يمكن تفسيره بالفعل؟
إجراء تحسينات
هناك حاجة ماسة لإصلاح قانون حرية المعلومات حاليا قيد المداولة من قبل الكونغرس. يوفر هذا فرصة لتحديث القانون ، لكن التغييرات المقترحة لا تزال تفعل القليل لاستيعاب الاستخدام المتزايد للخوارزميات في الحكومة. معلومات الشفافية الخوارزمية قد تكون مقننة في التقارير التي تفيد بأن الحكومة تنشئ وتعلن للجمهور بشكل منتظم ، كجزء من العمل كالمعتاد.
كمجتمع ، يجب أن نطلب تدريب ضباط الإعلام حتى يكونوا متعلمين ولديهم طلاقة في المصطلحات التي قد يواجهونها عندما يطلب الجمهور خوارزميات. قد تنشئ الحكومة الفيدرالية موقعًا جديدًا لـ "قيصر الخوارزميات" ، وهو أمين المظالم الذي تتمثل مهمته في الاتصال والاستفسار عن الأتمتة الحكومية.
لم تخبرنا أي من الوثائق التي تلقيناها في بحثنا كيف تم تطوير أو تقييم نماذج تقييم مخاطر العدالة الجنائية. نظرًا لأن الخوارزميات تحكم حياتنا أكثر فأكثر ، يحتاج المواطنون - ويجب عليهم - إلى مزيد من الشفافية.
نبذة عن الكاتب
نيكولاس دياكوبولوس ، زميل Tow ، مركز Tow للصحافة الرقمية في جامعة كولومبيا ؛ أستاذ مساعد في الصحافة ، جامعة ماريلاند. بحثه في الصحافة الحاسوبية والبيانات مع التركيز على المساءلة الخوارزمية ، وتصور البيانات السردية ، والحوسبة الاجتماعية في الأخبار.
تم نشر هذه المقالة في الأصل المحادثة. إقرأ ال المقال الأصلي.
كُتبٌ ذاتُ صِلَةٍ
at سوق InnerSelf و Amazon
