الذكاء الصناعي: خوارزميات العنصرية
إن القلق يزداد حول زيادة عدد الخوارزميات التي لا تتجاهل نوع ولون بشرة الإنسان في اتخاذ القرارات المصيرية في حياتنا. الخوارزمية هي مجموعة من الخطوات الرياضية والمنطقية والمتسلسلة اللازمة لحل مشكلة ما. وسميّت الخوارزمية بهذا الاسم نسبة إلى العالم أبو جعفر محمد بن موسى الخوارزمي الذي ابتكرها في القرن التاسع الميلادي.
إن هذه الخوارزميات تحدد كل شيء ابتداءً من الأشياء التي نعجب بها على الإنترنت حتّى الحث على فعل الجريمة أو احتمالية تعرّضنا لجريمة. حتى وإن كان الحادث عرضيًا، فإن الإنسان يتعرّض للاتهامات حتى تتّضح الحقيقة.
عند البحث على الإنترنت عن كلمة (الأطفال) على أي محرّك بحث تريده، فإن نتائج بحث الصور ستكون في معظمها عائدة لأطفال بيض.
عدالة الخوارزميات
قام مصمم الغرافيك Johanna Burai بإنشاء موقع على الإنترنت في إطار مشروع "World White Web Project"، المناهض لنتائج بحث غوغل للصور التي يطغى عليها لون البشرة البيضاء. منتجو محتوى الموقع يعرضون فيه صورًا بديلة عن أيدٍ بألوان مختلفة بهدف خلق التوازن.
ويدافع عملاق البحث غوغل عن هذه النتائج بأنها لا تمثّل قيم ومبادئ الموقع، كما يضيف مسؤولو غوغل أن نتائج بحث غوغل تعكس المحتوى الأكثر تواجدًا والأكثر شيوعًا على الإنترنت. ومن ناحية أخرى يقول Johanna Burai إن وعي الناس بخصوص هذه المسألة في ازدياد مستمرّ، ويضيف قائلًا إنه عندما بدأ في مشروعه، الكثير من الناس استغربوا من الأمر. ومن أفضل الأمثلة على زيادة الوعي في هذه المسألة هو إنشاء مؤسّسة (Algorithmic Justice Leagu- AJL) لضمان نزاهة وعدالة الخوارزميات.
مضطر لارتداء لثامٍ أبيض
يقول مؤسّس هذه المبادرة، وهو طالب الدكتوراه في معهد ماساتشوستس للتكنولوجيا Joy Buolamwini، إنه بدأ بهذه المبادرة بعد أن عجز برنامج للتعرّف على الوجوه عن التعرّف إلى وجهه بسبب لون بشرته، ما اضطره لاستخدام لثام أبيض حتى يستطيع الذكاء الصناعي (البرنامج) التعرّف إليه. ويضيف أنه كانت تخالجه مشاعر غريبة، حيث قال: "إنني أشعر بالغضب بسبب أن هذه المشكلة لا زالت مستمرّة منذ أكثر من خمس سنوات، وفي الوقت نفسه أشعر بالتسلية بسبب أن اللثام الأبيض مفيد لهذه الدرجة".
وإليكم مثالا بسيطا يظهر جانبا من التفريق والعنصرية التي تقوم عليها هذه الخوارزميات حيث إنه في إحدى الدراسات الطبيّة قاموا بإنشاء خوارزمية تستطيع التعرف على سرطان الجلد، والغريب في الأمر أن القائمين على هذه الدراسة قاموا باستشارة (AJL) إذا كانت هذه الخوارزمية تستطيع التعرّف على لون البشرة السوداء أم لا. ويضيف Buolamwini أن طريقة عمل الخوارزميات المخصّصة لكبار السن والبدناء تثير فضوله.
غوغل: الموظفون التقنيون 19% منهم نساء و1% سود.
وحسب Buolamwini، فإن أحد أسباب عنصرية الخوارزميات هو عدم تنوّع الموظفين التقنيين التكنولوجيين العاملين في الشركات التكنولوجية الكبيرة بالشكل الكافي، حيث إن تقارير التنوّع التي ينشرها عمالقة التكنولوجيا في العالم كل عام تشير إلى ذلك.
وحسب التقرير الذي نشرته غوغل في شهر يناير/ كانون الثاني من العام الماضي 2016، فإن الموظّفين التقنيين العاملين في أقسامها 19% منهم نساء و1% منهم فقط سود، أما في التقرير الذي نشرته مايكروسوفت في شهر أيلول/ سبتمبر من العام نفسه، فإن 17.5% من موظفيها التقنيين نساء و2.7% سود أو أميركيون أفارقة. في حين أنه في التقرير الذي نشرته فيسبوك في شهر حزيران/ يونيو من العام نفسه أيضًا، فإن نسبة الموظفات التقنيات العاملات في أقسام أميركا تشكل 17% من نسبة الموظفين التقنيين، في حين أن نسبة السود العاملين في المجال نفسه 1%.
في العام الماضي وفي مسابقة اختيار أجمل صورة سلفي من ستة آلاف صورة مختارة من أكثر من 100 دولة حول العالم، قامت الخوارزميات باختيار أجمل 44 شخصا وصورة، واحدة منها فقط ليست لأبيض، وعدد قليل من الآسيويين.
الذكاء الصناعي يضع الأسود رمزًا للجريمة
في الدراسة التي حصلت في أميركا، قام الذكاء الصناعي المستخدم في تحديد المجرمين بربط السود بالجريمة أكثر من البيض، حيث جعل الجريمة مرتبطة باللون الأسود أكثر من ارتباطها باللون الأبيض.
ويقول الخبراء إنه مع تغير معالم العالم، فإن محدّدات القرار ستكون قائمة على التفرقة والنظرة الأولى دون أن نشعر بذلك. وحسب الخبراء أيضًا، فإن هناك ثلاثة أمور رئيسية يجب فعلها للتغلّب على هذا الأمر.
1- إيجاد قواعد بيانات أكثر لتربية وتعليم الخوارزميات (أي أنه يجب إيجاد قواعد بيانات أكثر تقوم على أساسها خوارزميات تؤمن بالتعددية وعدم التفرقة على أساس العرق واللون).
2- نشر وتعزيز هذه العادة بين مبرمجي وبائعي البرامج.
3- إنشاء خوارزميات قادرة على إعلام المستخدم بالنظرة أو الفكرة الأولى خلال اتخاذ القرار.
ويحذّر الخبراء من أنه إذا لم يتم إيجاد حل لهذه الخوارزميات المنتشرة في الوقت الحالي، فإن الروبوتات ستحمل الخوارزميات نفسها، أو حتى خوارزميات أكثر تطرّفًا في المستقبل.
