تحيز جندري وعرقي في تقنية "أمازون" للتعرف إلى الوجه

وأوضح الباحثون، أمس الجمعة، أن تقنية "أمازون" حددت النساء ذوات البشرة الداكنة بأنهن رجال، بنسبة 31 في المائة من إجمالي المرات. وأخطأت التعرف إلى النساء ذوات البشرة الأفتح بنسبة 7 في المائة من إجمالي المرات. وبلغ مستوى الخطأ في التعرف إلى الرجال من أصحاب البشرة الداكنة 1 في المائة، وصفراً لدى الرجال ذوي البشرة الأفتح.

وكان مساهمون في "أمازون" طالبوا بأن تتوقف الشركة عن بيع تقنية التعرف إلى الوجه إلى الجهات الحكومية، إلا إذا حددت الإدارة أن البرمجية "لا تسبب أو تساهم في انتهاكات فعلية أو محتملة لحقوق الإنسان والحقوق المدنية".

وطالبها "اتحاد الحقوق والحريات المدنية" ومجموعات حقوقية ومدنية أميركية، في مايو/ أيار الماضي، بالتوقف عن بيع تقنيتها المخصصة للتعرف إلى الوجوه للشرطة وكيانات حكومية أخرى، خوفاً من استغلالها في استهداف المتظاهرين والمهاجرين وغيرهم.