ذكاء "فيسبوك" الاصطناعي يحارب التضليل وخطاب الكراهية

وتعتمد "فيسبوك" بشكل أكبر على التقنية في الوقت الحاضر للمساعدة في تنسيق منصتها أثناء فيروس كورونا المستجد، مما يمنع الشركة من استخدام جهات خارجية لأنه لا يُسمح لموظفي تلك الشركات بالوصول إلى بيانات "فيسبوك" الحساسة من أجهزة الكمبيوتر في المنازل. 

وتقول "فيسبوك" إن البيانات في التقرير قد لا تشرح بالتفصيل الجانب المتعلق بالوباء، لأن الأخير ضرب العالم في وقت متأخر جداً من فترة إعداد التقارير. 

وأوضح مسؤول في الشركة أن التقرير يتضمن بيانات حتى مارس/آذار 2020 فقط، لذا فهو لا يعكس التأثير الكامل للتغييرات التي أجرتها خلال الوباء.

وعموماً يحوي التقرير معلومات جديدة حول كيفية مكافحة الشركة بشكل خاص للمعلومات الخاطئة المتعلقة بكورونا وأشكال أخرى من إساءة استخدام المنصة باستخدام أدوات الذكاء الاصطناعي.

ووضع الموقع الأزرق ملصقات تحذير على 50 مليون منشور ذي صلة بالفيروس في شهر إبريل/نيسان.

هذا وقالت المنصة إنها حذفت أكثر من 2.5 مليون قطعة من المحتوى حول بيع كمامات ومعقمات اليدين ومناديل تعقيم الأسطح وأجهزة الاختبار.

وأشارت الشركة في تدوينة إلى أن "هذه تحديات صعبة، وأدواتنا أبعد ما تكون عن الكمال. علاوة على ذلك، فإن الطبيعة العدائية لهذه التحديات تعني أن العمل لن ينتهي أبداً".

ويقول "فيسبوك" إن ملصقاته تعمل بنسبة 95 في المئة من الوقت، بحيث يقدر من يتلقى التحذير من محتوى به معلومات خاطئة أن يقرر عدم مشاهدته. 

لكن إنتاج هذه الملصقات عبر منصتها الضخمة يمثل تحدياً. فمثلاً كمية لا بأس بها من المعلومات الخاطئة، بالإضافة إلى خطاب الكراهية، يظهران الآن في الصور ومقاطع الفيديو، وليس فقط في روابط نصية أو مقالات.

وتعترف الشركة بأن هذا تحدٍ أصعب يواجهه الذكاء الاصطناعي. ليس فقط لأن النماذج المدربة بالذكاء الاصطناعي تجد صعوبة في تحليل صورة ساخرة أو مقطع فيديو بسبب التعقيدات مثل التلاعب بالألفاظ والاختلافات اللغوية، لكن يجب عليها أيضاً أن تميز بين المنشورات المسيئة وتلك التي تشبهها لكنها تضم محتوى يناقضها أو يصححها.

وحسّن "فيسبوك" من جودة التعامل مع خطاب الكراهية باستخدام العديد من التقنيات نفسها التي يستخدمها في المحتوى المرتبط بالفيروس التاجي.

وتقول الشركة: "يكتشف الذكاء الاصطناعي الآن بشكل استباقي 88.8 في المئة من محتوى الكلام الذي يحض على الكراهية الذي نزيله، مقارنة بـ80.2 في المئة في الربع السابق". 

وأضحت "فيسبوك" قادرة على الاعتماد بشكل أكبر على الذكاء الاصطناعي، وذلك بفضل بعض التطورات في كيفية فهم نماذجه للنص وتحليله.

لكن الشركة تعترف أن التلاعب بالكلمات والصيغة لتجنب الحذف، وعبارات الرد على خطاب الكراهية وتصحيحه باستخدام نفس الكلمات المسيئة لا يزال يمثل صعوبة أمام عملية الفلترة.