هل يمكن أن تساعد الخوارزميات الرقمية في حماية الأطفال مثل غابرييل فرنانديز من الإساءة؟

كل عام يتم الإبلاغ عن ما يقرب من 7 ملايين طفل لسلطات رعاية الطفل لاحتمال تعرضهم لسوء المعاملة ، ولكن كيف تحدد السلطات ما إذا كان الأطفال يحبون ذلك غابرييل فرنانديز في خطر كبير وبحاجة إلى التدخل؟





تعتمد العديد من سلطات رعاية الأطفال على تقييمات المخاطر التي يقدمها الموظفون المدربون لإدارة خطوط الهاتف حيث يتم الإبلاغ عن إساءة معاملة مشتبه بها ، لكن البعض يعتقد أنه قد يكون هناك طريقة أفضل.

'هناك قدر كبير من الأدبيات التي رأيناها تشير إلى أن البشر ليسوا كرات بلورية جيدة بشكل خاص' ، هكذا قالت إميلي بوتنام هورنشتاين ، مديرة شبكة بيانات الأطفال وأستاذ مشارك في جامعة جنوب كاليفورنيا ، قالا في سلسلة Neflix docu الجديدة 'The Trials of Gabriel Fernandez'. 'بدلاً من ذلك ، ما نقوله هو دعونا ندرب خوارزمية لتحديد أي من هؤلاء الأطفال يناسب ملفًا شخصيًا حيث تشير مخاطر القوس الطويل إلى مشاركة النظام في المستقبل.'



كان فرنانديز صبيًا يبلغ من العمر 8 سنوات تعرض للضرب والتعذيب حتى الموت على يده أم وهي حبيب ، على الرغم من النداءات المتكررة من قبل معلمه وآخرين للسلطات للإبلاغ عن الانتهاكات المشتبه بها. تتناول السلسلة الجديدة المكونة من ستة أجزاء حياة فرنانديز والموت المروع ، لكنها تلقي نظرة أكبر أيضًا مشاكل جهازية ضمن نظام رعاية الطفل الذي كان من الممكن أن يلعب دورًا.



يجادل بوتنام-هورنشتاين بأن إحدى الإستراتيجيات لتحديد الأطفال المعرضين للخطر الأكبر بشكل أكثر فعالية يمكن أن تكون استخدام خوارزميات تم إنشاؤها خصيصًا والتي تستخدم السجلات الإدارية واستخراج البيانات لتحديد درجات المخاطر لكل طفل.



قالت: 'لدينا في الواقع حوالي 6 أو 7 ملايين طفل يتم الإبلاغ عنهم بسبب سوء المعاملة أو الإهمال المزعوم كل عام في الولايات المتحدة ، وتاريخيًا ، تعتمد الطريقة التي اتخذنا بها بعض قرارات الفحص لدينا على نوع من التقييمات'. 'نمذجة المخاطر التنبؤية هي فقط قول ،' لا ، لا ، لا ، دعونا نتبع نهجًا أكثر منهجية وتجريبية لهذا الأمر '.

بوتنام هورنشتاين وريما فايثياناثان ، المدير المشارك لـ مركز تحليلات البيانات الاجتماعية ، تمكنوا من وضع الفكرة موضع التنفيذ في مقاطعة أليغيني ، بنسلفانيا. استخدم الزوجان الآلاف من إحالات إساءة معاملة الأطفال لتصميم خوارزمية من شأنها تحديد درجة الخطر لكل عائلة تم الإبلاغ عنها إلى خدمات حماية الطفل في المقاطعة ، وفقًا لـ مركز الصحافة الصحية .



أوضح مارك تشيرنا ، مدير إدارة الخدمات الإنسانية في مقاطعة أليغيني ، في سلسلة docu: 'هناك مائة أو نحو ذلك من العوامل المختلفة التي يتم النظر إليها'. 'بعض الأمثلة الأساسية هي تاريخ رعاية الطفل ، وتاريخ الوالدين ، وبالتأكيد تعاطي المخدرات والإدمان ، والأمراض العقلية العائلية ، والسجن والإدانات ، وخاصة إذا كانت هناك اعتداءات وأشياء من هذا القبيل.'

الأماكن التي لا تزال فيها العبودية قانونية

نظرًا للحجم الكبير للمكالمات ، فإن سلطات رعاية الطفل في جميع أنحاء البلاد مكلفة بتحديد ما إذا كان ينبغي فحص الأسرة للتحقيق بناءً على الشكوى ، أو يتم فحصها.

أين يمكن مشاهدة نادي الفتيات السيئات على الإنترنت

في عام 2015 ، تم فحص 42٪ من 4 ملايين ادعاء تم تلقيها في جميع أنحاء البلاد والتي تشمل 7.2 مليون طفل ، وفقًا لـ اوقات نيويورك .

ومع ذلك ، لا يزال الأطفال يموتون من سوء معاملة الأطفال.

تم تصميم النظام المستخدم في مقاطعة Allegheny للتنبؤ بشكل أكثر دقة بالعائلات التي من المحتمل أن يكون لها مشاركة في النظام في المستقبل من خلال تحليل البيانات.

قال فايثياناثان لصحيفة التايمز: 'ما يمتلكه القائمون على الفحص هو الكثير من البيانات'. 'ولكن ، من الصعب جدًا التنقل ومعرفة العوامل الأكثر أهمية. خلال مكالمة واحدة إلى C.Y.F. ، قد يكون لديك طفلان ، الجاني المزعوم ، سيكون لديك أمي ، وقد يكون لديك شخص بالغ آخر في المنزل - كل هؤلاء الأشخاص سيكون لديهم تاريخ في النظام يمكن للشخص الذي يقوم بفحص المكالمة التحقيق فيه. لكن العقل البشري ليس بارعًا في تسخير جميع البيانات وفهمها '.

تستخدم أداة فحص عائلة Allegheny تقنية إحصائية تسمى 'التنقيب عن البيانات' للنظر في الأنماط التاريخية 'لمحاولة إجراء تنبؤ حول ما يمكن أن يحدث' في أي حالة معينة ، كما قالت في سلسلة docu.

يتم منح كل حالة درجة مخاطر تتراوح من 1 إلى 20 - وتصنيف كل حالة على أنها عالية الخطورة أو متوسطة الخطورة أو منخفضة المخاطر.

قالت راشيل بيرغر ، طبيبة الأطفال في مستشفى الأطفال في بيتسبرغ ، لصحيفة The Times في عام 2018 أن ما يجعل التحليل التنبئي ذا قيمة هو أنه يلغي بعض الذاتية التي تدخل عادةً في العملية.

قالت: 'كل هؤلاء الأطفال يعيشون في حالة من الفوضى'. 'كيف يعمل C. اختر أيها أكثر عرضة للخطر عندما يكون لديهم جميعًا عوامل الخطر؟ لا يمكنك تصديق مقدار الذاتية التي تدخل في قرارات حماية الطفل. لهذا السبب أحب التحليلات التنبؤية. إنه أخيرًا جلب بعض الموضوعية والعلم إلى القرارات التي يمكن أن تغير الحياة بشكل لا يصدق '.

لكن كان هناك أيضًا نقاد يجادلون بأن استخدام التحليلات التنبؤية يعتمد على البيانات التي قد تكون متحيزة بالفعل. أظهرت الأبحاث السابقة أن الأقليات والعائلات ذات الدخل المنخفض غالبًا ما يتم تمثيلها بشكل مفرط في البيانات التي يتم جمعها ، مما قد يؤدي إلى تحيز ضد العائلات الأمريكية الأفريقية أو عائلات الأقليات الأخرى ، وفقًا لسلسلة docu.

آخر بودكاست على اليسار تيد باندي

'التحيزات البشرية وتحيزات البياناتيسيران جنبا إلى جنب مع بعضها البعضقال كيلي كاباتوستو ، باحث مشارك كبير في معهد كيروان لدراسة العرق والعرق في جامعة ولاية أوهايو ، وفقًا لمركز الصحافة الصحية. 'من خلال هذه القرارات ، نفكر في المراقبة والاتصال بالنظام - مع الشرطة ، ووكالات رعاية الأطفال ، وأي وكالات رعاية اجتماعية. ستكون ممثلة تمثيلا زائدا في المجتمعات (منخفضة الدخل والأقليات). إنه ليس بالضرورة مؤشرًا على مكان حدوث هذه الحالات '.

أقرت إيرين دالتون ، نائبة مدير مكتب التحليل والتكنولوجيا والتخطيط في مقاطعة أليغيني ، بأن التحيز ممكن.

'بالتأكيد ، هناك تحيز في أنظمتنا. قالت في سلسلة Netflix إن إساءة معاملة الأطفال تعتبر من قبلنا وبياناتنا على أنها ليست وظيفة فعلية لإساءة معاملة الأطفال ، إنها وظيفة من يتم الإبلاغ عنه '.

لكن المقاطعة أخبرت أيضًا مركز الصحافة الصحية أنها وجدت أن تلقي المنافع العامة يقلل من درجات المخاطر لدى عائلاتها تقريبًا.

تيوقالت شيرنا في سلسلة الوثائق إن المقاطعة 'حساسة للغاية' لهذا القلق وتقوم بتحليل مستمر للنظام لتحديد ما إذا كانت الجماعات قد استُهدفت بشكل غير متناسب.

نظام مقاطعة أليغيني مملوك من قبل المقاطعة نفسها ، ولكن كان هناك أيضًا بعض الانتقادات لأنظمة الفحص المملوكة للقطاع الخاص الأخرى.

أعلنت إدارة خدمات الأطفال والأسرة في إلينوي في عام 2018 أنها لن تستخدم بعد الآن حزمة التحليلات التنبؤية التي طورتها Eckerd Connects ، وهي منظمة غير ربحية وشريكتها الهادفة للربح MindShare Technology ، ويرجع ذلك جزئيًا إلى أن الشركة رفضت تقديم تفاصيل عن العوامل. تم استخدامها في صيغتها ، وفقًا لصحيفة The Times.

وبحسب ما ورد بدأ النظام في تصنيف آلاف الأطفال على أنهم بحاجة إلى حماية عاجلة ، مما منح أكثر من 4100 طفل من إلينوي 90 في المائة أو أكثر من احتمال الوفاة أو الإصابة ، شيكاغو تريبيون ذكرت في عام 2017.

ومع ذلك ، فإن الأطفال الآخرين الذين لم يحصلوا على درجات عالية الخطورة ما زالوا يموتون من سوء المعاملة.

'التحليلات التنبؤية (لم) تتنبأ بأي من الحالات السيئة' ، مدير إدارة خدمات الأطفال والأسرة بيفرلي 'B.J.' قال والكر تريبيون. 'لقد قررت عدم المضي قدما في هذا العقد.'

دانيال هاتشر ، مؤلف ' صناعة الفقر: استغلال المواطنين الأكثر ضعفاً في أمريكا 'مقارنة بعض الأنظمة التحليلية بـ' الصندوق الأسود '، مشيرًا في سلسلة docu إلى أن كيفية اتخاذ قراراتهم ليست واضحة دائمًا.

قال: 'ليس لديهم طريقة لمعرفة كيف يقررون فعليًا مستوى الرعاية الذي له تأثير كبير على الفرد'.

لماذا قتل الأخوان بريلي

أقرت بوتنام-هورنشتاين بأن أنظمة التحليل التنبؤية ليست قادرة على تحديد السلوك المستقبلي ، لكنها تعتقد أنها أداة قيّمة تسمح للمراقبين باتخاذ قرارات أكثر استنارة بشأن الأطفال الذين قد يكونون الأكثر عرضة للخطر.

قالت ، 'آمل أن تساعد هذه النماذج نظامنا في إيلاء المزيد من الاهتمام للمجموعة الفرعية الصغيرة نسبيًا من الإحالات حيث يكون الخطر مرتفعًا بشكل خاص وسنكون قادرين على تخصيص المزيد من الموارد لهؤلاء الأطفال والعائلات بطريقة وقائية' ، لمركز الصحافة الصحية. 'لا أريد لأي شخص أن يبالغ في بيع نماذج المخاطر التنبؤية. إنها ليست كرة بلورية. لن تحل كل مشاكلنا. ولكن على الهامش ، إذا سمح لنا باتخاذ قرارات أفضل قليلاً وتحديد الحالات عالية الخطورة وفرزها من الحالات منخفضة المخاطر وتعديلها وفقًا لذلك ، فقد يكون هذا تطورًا مهمًا في هذا المجال '.

فئة
موصى به
المشاركات الشعبية