يكتشف مستخدمو Twitter التحيز العنصري المحتمل في خوارزمية الاقتصاص التلقائي

يحاول Twitter تحديد سبب إظهار ميزة معاينة الصورة علامات التحيز العنصري. وجد العديد من المستخدمين أنه من المرجح أن يتم اقتصاص الوجوه السوداء من معاينات الصور أكثر من الوجوه البيضاء.

عندما ترى صورة على Twitter ، فهي مجرد معاينة – عليك النقر عليها لمشاهدة الصورة بأكملها. يستخدم Twitter خوارزمية لاقتصاص الصور ، وإملاء ما ستراه في معاينات الصور.

في عام 2018 ، أعلن Twitter عن ميزة Smart Auto Crop في منشور مدونة . تستخدم هذه الميزة “الملوحة” لتحسين أهم أجزاء الصور ، ثم قص معاينات الصورة وفقًا لذلك.

اكتشف مستخدمو Twitter أن الشبكة العصبية للمنصة قد يكون لها تحيز عنصري. نشر أحد المستخدمين صورة للسيناتور الأمريكي ميتش مكونيل مع الرئيس السابق باراك أوباما.

معاينة الصورة تقطع وجه أوباما بشكل صارخ ، حتى عندما يكون وجهه في أعلى الصورة. عندما حاول المستخدم نفسه قلب ألوان الصورة ، ظهر وجه أوباما أخيرًا في معاينة الصورة.

بدأ مستخدمون آخرون في إجراء تجاربهم الخاصة. مرارًا وتكرارًا ، وجد المستخدمون أن الخوارزمية بدت وكأنها تفضل الوجوه البيضاء على الوجوه السوداء.

نشرت ليز كيلي ، عضوة في فريق اتصالات تويتر ، تغريدة رداً على نتائج مستخدمي تويتر. وأشار إلى أنه على الرغم من أن فريق Twitter قد اختبر بالفعل خوارزمية التحيز ، كان ينبغي عليه إجراء مزيد من التحقيق.

كل هذه النتائج تنبع من تغريدة مستخدم حول مشكلة اتصال Zoom . فشل Zoom باستمرار في اكتشاف وجه صديقه الأسود عندما حاول استخدام خلفية افتراضية. عندما انتقل المستخدم إلى Twitter لنشر لقطات شاشة للمشكلة ، قام Twitter بقص صديقه الأسود من معاينة الصورة.

في حين أن كل هذه التجارب غير رسمية ، يبدو أنها تسلط الضوء على مشكلة حقيقية. سيحتاج Twitter بالتأكيد إلى إلقاء نظرة فاحصة على ميزة الاقتصاص التلقائي الخاصة به ومعرفة ما إذا كان قد ترسخ في التحيز العنصري.

ومع ذلك ، فإن خوارزمية الاقتصاص التلقائي في Twitter ليست الميزة الوحيدة على Twitter التي تم انتقادها. بعد كل شيء ، العديد من المستخدمين ليسوا معجبين بخوارزمية النظام الأساسي التي تنظم خلاصتك تلقائيًا.