تزييف الصور بواسطة "غروك" يثير مخاوف من انتشار العنصرية رقمياً

13 يناير 2025
يتبع برنامج الذكاء الاصطناعي غروك لمنصة إكس المملوكة لإيلون ماسك (Getty)
+ الخط -

استمع إلى الملخص

اظهر الملخص
- تزايدت العنصرية عبر الإنترنت بسبب الصور المزيفة التي أنشأها برنامج "غروك" التابع لمنصة إكس، مما أدى إلى زيادة تقارير الإساءة وفقًا لمنظمة سيغنيفاي.
- أطلق إيلون ماسك برنامج "غروك" في ديسمبر 2023، وأثار الجدل بسبب إنشاء صور مزيفة لشخصيات عامة، واستخدامه في إنشاء صور عنصرية للاعبي كرة القدم.
- يشجع نظام تقاسم الإيرادات في منصة "إكس" على نشر الكراهية، حيث أظهر تقرير أن 80% من الصور المسيئة أنشئت بواسطة "غروك"، مما دفع الدوري الإنجليزي والاتحاد الإنجليزي لاتخاذ إجراءات لمكافحة الإساءة.

حذر خبراء رقميون من ازدياد العنصرية عبر الإنترنت بسبب انتشار الصور المزيفة التي أنشئت بواسطة أحدث إصدار من برنامج الذكاء الاصطناعي غروك (Grok) التابع لمنصة إكس في ديسمبر/كانون الأول الماضي، بحسب صحيفة "ذا غارديان" البريطانية. 

وأعلنت منظمة سيغنيفاي التي تعمل مع مجموعات ونوادٍ رياضية لتتبع الكراهية عبر الإنترنت والإبلاغ عنها، أنها شهدت زيادة في تقارير الإساءة منذ إصدار آخر تحديث لبرنامج غروك في ديسمبر الماضي.

وأضافت في بيان: "أنها مشكلة الآن، لكنها في الحقيقة مجرد بداية لمشكلة قادمة. سوف تزداد الأمور سوءاً ونحن في البداية فقط، نتوقع أن تتفاقم خطورة المشكلة بشكل لا يصدق خلال السنة المقبلة".

وكان إيلون ماسك قد أطلق برنامج غروك في ديسمبر/كانون الأول من العام 2023. وفي التاسع من ديسمبر الماضي، صدر تحديث جديد، ضم أداة أورورا لإنشاء صور واقعية بواسطة الذكاء الاصطناعي، بناءً على طلب المستخدم. مع العلم أن نسخاً سابقة من البرنامج احتوت أداة فلوكس لإنشاء الصور، كانت قد أثارت الجدل بدورها، بسبب إنشائها صوراً مزيفة لشخصيات محمية بحقوق النشر أو لشخصيات عامة في مواقف مسيئة، أو حتى خلق صور لتعاطي المخدرات وأعمال العنف.

في الآونة الأخيرة، صدرت تقارير عديدة، بحسب "ذا غارديان"، تشير إلى استخدام "غروك" لإنشاء صور عنصرية لعددٍ من لاعبي كرة القدم والمدربين في الدوري الإنكليزي الممتاز. أظهرت إحداها لاعباً أسود يقطف القطن، بينما وضعت صورة أخرى اللاعب نفسه في غابة محاطاً بالقرود وهو يأكل الموز.

فيما أظهرت صورة أخرى لاعبين في هيئة طيارين يقودان الطائرات التي استخدمت لتنفيذ هجوم 11 سبتمبر/أيلول 2001. كذلك، نشرت صور أخرى مزيفة بواسطة "غروك" للاعبين ومدربين مختلفين مع شخصيات مثيرة للجدل، مثل الرئيس العراقي السابق صدام حسين وزعيم تنظيم القاعدة السابق أسامة بن لادن، وكذلك الزعيم الألماني النازي أدولف هتلر.

قال رئيس رئيس الأبحاث في مركز مكافحة الكراهية الرقمية، كالوم هود، إن "إكس" صارت منصة تشجع وتكافئ على نشر الكراهية من خلال تقاسم الإيرادات، معتبراً أن الترويج للصور المزيفة بواسطة برنامج غروك جعلت ذلك أسهل.

وتابع: "إكس قدمت حوافز مالية للمستخدمين للقيام بذلك، على نحو لم تقدمه أي منصة تواصل اجتماعي أخرى، وهو ما يدفع أصحاب الحسابات على إكس لنشر أكبر قدرٍ ممكنٍ من الكراهية والتضليل".

وأشار خبراء كثر إلى أن "غروك" يفتقر نسبياً للقيود على ما يمكن للمستخدمين طلبه، لكن ما يثير الخوف أكثر، بحسب الصحيفة البريطانية، هو سهولة التحايل على القيود الموجودة، مما يعزّز المخاوف من زيادة استعمال البرنامج لتزييف الصور.

ووفقاً لتقرير صدر في الصيف الماضي عن مركز مكافحة الكراهية الرقمية، أنشأ "غروك" 80% من الصور التي تضمنت خطاب كراهية، منها 50% أنشئت بعد التحايل على القيود.

وأعلن القائمون على الدوري الإنكليزي الممتاز لكرة القدم إنهم على علم بالصور ولديهم فريق مكلف بالعثور والإبلاغ عن الإساءات العنصرية الموجهة إلى الرياضيين. بدوره، قال متحدث باسم الاتحاد الإنكليزي لكرة القدم: "لا مكان للتمييز في لعبتنا أو مجتمعنا الأوسع. نواصل حث شركات وسائل التواصل الاجتماعي والسلطات المعنية على معالجة الإساءة عبر الإنترنت واتخاذ إجراءات ضد مرتكبي هذا السلوك غير المقبول".

المساهمون