خوارزمية "جوجل" ضد الإساءة الجنسية تأتي بنتائج عكسية على الآباء!

20:50 2022-08-26 94292 منوعات 0

2022-08-26

94292

تخاطر حملة جوجل ضد الاستغلال الجنسي للأطفال على منصاتها بتدمير حياة الأطفال الذين تزعم إنقاذهم.

وكذلك الآباء الأبرياء، من خلال ترك سمعتهم وحريتهم وربما بقاء أسرهم في أيدي خوارزمية مفرطة في الحماس، وفقا لتحقيق صحيفة نيويورك تايمز الذي نشر يوم الأحد.

ووُصف والدان لأطفال صغار، غير معروفين لبعضهما البعض، بأنهما متحرشان بالأطفال للاشيء أكثر شرا من محاولة الحصول على مساعدة طبية لأطفالهما الصغار.

ولم يفكر الوالدان بأي شيء يتعلق في إرسال صور للأعضاء التناسلية المتورمة لأبنائهما، بناء على طلب أطباء الأطفال، وهي ممارسة أصبحت طبيعية تماما في نموذج ما بعد الجائحة.

ولم يفكر في أي شيء آخر أثناء تعافي ابنه، فقد أُيقظ مارك بوقاحة من خلال هاتفه على Google Fi وأخبره أنه تم اكتشاف "محتوى ضار" يحتمل أن يكون غير قانوني.

وأدت محاولة الطعن في القرار إلى الرفض وعدم وجود تواصل آخر من غوغل.

وفقد مارك إمكانية الوصول إلى هاتفه وبريده الإلكتروني وجهات اتصاله وكل منتج من منتجات غوغل. وتم قفل جميع بياناته، بما في ذلك الصور ومقاطع الفيديو، في السحابة.

وأثناء فحص محتوى مارك، عثرت غوغل على مقطع فيديو آخر أطلق الإنذارات، باستخدام أداة ذكاء اصطناعي تدعي التعرف على الصور التي لم يسبق رؤيتها لاستغلال الأطفال بناء على تشابهها مع الصور الموجودة.

وبدلا من إحضار مشرف بشري للتحقق من الصورة، تتمثل عملية غوغل في إغلاق الحساب ومسح كل صورة أخرى لديه والاتصال بالمركز الوطني للأطفال المفقودين والمستغلين، والذي يعطي الأولوية للضحايا الجدد المحتملين.

وتتم إضافة الصور التي أبلغ عنها بشكل غير صحيح إلى قاعدة بيانات الأطفال الذين تم استغلالهم، لذا فإن المزيد من الصور غير الضارة تخاطر بإطلاق الإنذار.

وفتحت شرطة سان فرانسيسكو تحقيقا بعد أن أبلغت غوغل عن فيديو مارك، وحصلت على نسخة من كل شيء في حساباته على غوغل، بما في ذلك سجل البحث والموقع والرسائل والمستندات المرسلة والمستلمة والصور ومقاطع الفيديو المخزنة على السحابة، وقرر تطبيق القانون عدم ارتكاب أي جريمة وأغلق القضية.

وعلى الرغم من تبرئة الشرطة للوالدين، التزمت غوغل قرارها بوضع علامة على الوالدين كمتحرشين بالأطفال وحظر جميع بياناتهم.

وقالت الشركة في بيان، وفقا لصحيفة نيويورك تايمز: "مواد الاعتداء الجنسي على الأطفال بغيضة ونحن ملتزمون بمنع انتشارها على منصاتنا".

ومن غير المعروف عدد قضايا خدمات حماية الطفل التي تم فتحها على أساس مثل هذه "الأخطاء"، ولا عدد التدخلات التي أحدثتها قرارات الخوارزمية غير الصحيحة.