"تويتر" تختبر حلولاً جديدة لمحاربة المحتوى السام

14 يناير 2020
الصورة
تعاني "تويتر" من الإساءة والتنمر (Chesnot/Getty)
+ الخط -
لا تزال منصة التدوين المصغر "تويتر" تعاني من المحتوى السام مثل الإساءة والتنمر. وفي لقاء مع موقع "وايرد"، سرد مسؤول المنتج في الشركة، كايفون بيكبور، مجموعة من الجوانب التي تعمل عليها لمحاولة التقليل من هذه السمية.

وقال بيكبور إن إحدى الخطوات التي تتخذها الشركة للحد من السمية هي إعادة ترتيب الردود المسيئة باستخدام التعلم الآلي

وأوضح "ستحتاج إلى التقليل من أهمية الردود التي من المحتمل أن يتم حظرها أو الإبلاغ عن إساءة استخدامها". 

وأضاف أن "تويتر" تحسن الردود التي من المرجح أن تحصل على ردود فعل، لكن مع تعديل الخوارزمية لتغيير ترتيب الردود التي قد تبدو مهمة لكنها مسيئة.


وعن كيفية محاولة الشركة التحكم في النظام بحيث لا يحفز التسمم، قال المسؤول إن الشبكة الاجتماعية تدرب نماذج ذكاء اصطناعي بدقة على فهم قواعدها ولوائحها.

وأوضح "اليوم، هناك طريقة بارزة للغاية في الاستفادة من الذكاء الاصطناعي في محاولة لتحديد السمية، وهي وجود تعريف جيد للغاية لماهية قواعدنا، ومن ثم الحصول على كمية هائلة من بيانات-عينة حول التغريدات التي تنتهك القواعد وبناء النماذج حولها".

وتابع "نحن نحاول بشكل أساسي التنبؤ بالتغريدات التي من المحتمل أن تنتهك قواعدنا. وهذا مجرد شكل من أشكال ما قد يعتبره الناس مسيئاً، لأن شيئاً قد تعتبره مسيئاً قد لا يتعارض مع سياساتنا، وهذا هو الوضع الصعب".

دلالات

المساهمون