باحثون يحذّرون من انتشار المحتوى المولد بواسطة الذكاء الاصطناعي على "تيك توك"

كشف باحثون عن أن مئات الحسابات على منصة تيك توك تحصد مليارات المشاهدات من خلال محتوى معادٍ للمهاجرين وذي طابع جنسي أنشئ بواسطة الذكاء الاصطناعي، بحسب ما نقلته صحيفة "ذا غارديان" اليوم الأربعاء. وأشار باحثو منظمة إيه آي فورينسيكس غير الربحية إلى أنّهم أحصوا 354 حساباً تعتمد على الذكاء الاصطناعي، شاركت 43000 منشور صُنعت باستخدام أدوات الذكاء الاصطناعي، وحصدت 4.5 مليارات مشاهدة خلال شهر واحد.

كما لفت الباحثون إلى أن بعض هذه الحسابات حاولت التحايل على خوارزمية "تيك توك" التي تحدّد ما يراه المستخدمون عبر نشر كمية كبيرة من المقاطع على أمل أن تصير رائجة. ونشر أحد هذه الحسابات 70 مقطعاً في اليوم بالتوقيت نفسه، ما يؤشر إلى كونه حساباً آلياً. وكانت "تيك توك" قد قالت الشهر الماضي إن ما لا يقل عن 1.3 مليار منشور على منصتها أُُنتجت بواسطة الذكاء الاصطناعي. لكن ذلك يظلّ رقماً ضئيلاً من إجمالي منشورات المنصة، التي تستقبل أكثر من مئة مليون منشور يومياً، مع العلم أن الشركة تتيح تقليل كمية المحتوى المولد بالذكاء الاصطناعي الذي يظهر لهم.

بحسب "إيه آي فورينسيكس"، ظهرت معظم الحسابات الـ354 في مطلع العام 2025، وركّزت الحسابات الأكثر نشراً للمحتوى بينها على مواد تتعلّق بجسد المرأة. وقال التقرير: "النساء المصنوعات بالذكاء الاصطناعي يظهرن دائماً بشكل نمطي جذاب، بملابس جنسية أو كاشفة عن منطقة الصدر".

ووجدت المنظمة التي تقع في باريس أن نصف المحتوى الذي نشرته هذه الحسابات لم يُشر إليه بوصفه للبالغين، وأن أقل من 2% من هذه المنشورات حملت علامة "تيك توك" التي تشير إلى أنّها مولّدة بواسطة الذكاء الاصطناعي، وهو ما قد يعزّز الطابع المضلّل لهذه المواد، ويزيد الطابع الخادع لهذه المواد.

وأضاف باحثو المنظمة أن هذه الحسابات تفلت أحياناً من رقابة "تيك توك لأشهر"، رغم نشرها محتوى محظوراً وفق شروط الخدمة، كما لفتوا إلى أن العشرات من الحسابات التي كشفها التقرير حُذفت لاحقاً، ما يدلّ على أن بعضها قد أُزيل من قبل فرق الإشراف على المحتوى التابعة للمنصة. وتضمّنت بعض المنشورات نشرات أخبار مزيفة من قنوات معروفة مثل "سكاي نيوز" و"إي بي سي" تحمل روايات معادية للمهاجرين، بالإضافة إلى مواد تسلّع النساء، ومن ضمنهن فتيات يبدين قاصرات.

من جهتها، أزالت "تيك توك" بعض هذه المنشورات بعد تنبيهها إليها من قبل "ذا غارديان"، لكنها اعتبرت أن مزاعم التقرير "غير مثبتة"، ورأت أن الباحثين استهدفوها بشكل خاص، علماً أنّ قضية المواد المولدة بواسطة الذكاء الاصطناعي تؤثر على العديد من المنصات. وكانت "ذا غارديان" قد كشفت في أغسطس/ آب أن نحو واحد من كل عشرة من أسرع القنوات نمواً على يوتيوب عالمياً يعرض فقط محتوى مولداً بالذكاء الاصطناعي.

سوشيال ميديا

التحديثات الحية

هيئة تنظيم الإعلام الأيرلندية تحقق مع منصتي "تيك توك" و"لينكد إن"

وقال متحدث باسم الشركة: "نحن نزيل المحتوى الضار المُنشأ بالذكاء الاصطناعي، ونمنع إنشاء مئات الملايين من حسابات الروبوتات، ونستثمر في تقنيات رائدة لوسم المحتوى بالذكاء الاصطناعي، ونمنح الناس أدوات وتعليماً للتحكم في كيفية خوضهم لتجربة هذا النوع من المحتوى على منصتنا".

وانتشرت هذه المقاطع على الرغم من أن إرشادات "تيك توك" تحظر بوضوح استخدام الذكاء الاصطناعي لخلق مصادر مزيّفة أو محاكاة هيئة أشخاص دون سن 18 أو حتى البالغين ممّن ليسوا شخصيات عامة. بالنسبة للباحثين يبيّن ذلك كيف صار محتوى الذكاء الاصطناعي مدمجاً في المنصات، واعتبروا أن "الخط الفاصل بين المحتوى الحقيقي البشري والمحتوى المُصنّع بالذكاء الاصطناعي يزداد ضبابية"، متوقعة ظهور المزيد من المحتوى الاصطناعي للمستخدمين.

على الرغم من ترحيب "إيه آي فورينسيكس" بميزة "تيك توك" التي تتيح للمستخدمين تقليل ظهور المحتوى المولد بواسطة الذكاء الاصطناعي، إلّا أنها شكّكت بمقدار نجاحها، مع وجود كمٍ هائل من المحتوى الذي فشل النظام في تحديده على أنّه من صنع غير بشري. ودعا باحثو المنظمة القائمين على منصة مقاطع الفيديو إلى التفكير في إنشاء ميزة خاصة بالمحتوى المولّد بالذكاء الاصطناعي، لفصل هذا النوع من المحتوى عن المحتوى المنشأ بواسطة البشر، أو إلى إيجاد نظام "عادل وواضح" يفرض وسماً منهجياً ومرئياً بوضوح لهذا المحتوى.