"ميتا" تحدّث قواعد روبوتات الدردشة لمنع المواضيع الخطرة على المراهقين

قرّرت شركة ميتا تحديث قواعد روبوتات الدردشة لتجنب المواضيع غير اللائقة والخطيرة مع المستخدمين المراهقين. وصرّحت متحدثة باسم الشركة بأنها تعمل على تغيير طريقة تدريب روبوتات الدردشة التي تعمل بالذكاء الاصطناعي لإعطاء الأولوية لسلامة المراهقين، وذلك عقب تقرير استقصائي حول افتقار الشركة إلى ضمانات تحمي القاصرين من الذكاء الاصطناعي.

وبحسب التصريحات، سوف تدرّب الشركة روبوتات الدردشة الآن على التوقف عن التفاعل مع المستخدمين المراهقين بشأن إيذاء النفس، أو الانتحار، أو اضطرابات الأكل، أو المحادثات الرومانسية غير اللائقة. وأشارت "ميتا" إلى أن هذه تغييرات مؤقتة، وسوف تُصدر تحديثات سلامة أكثر فعالية وطويلة الأمد للقاصرين في المستقبل.

"ميتا" تعترف

اعترفت المتحدثة باسم "ميتا" ستيفاني أوتواي بأن روبوتات الدردشة التابعة للشركة كانت قادرة سابقاً على التحدث مع المراهقين حول جميع هذه المواضيع. وتُدرك "ميتا" الآن أن هذا كان خطأً. وقالت أوتواي: "نضيف المزيد من الحواجز الأمنية في إجراء احترازي إضافي، بما في ذلك تدريب أنظمة الذكاء الاصطناعي لدينا على عدم التفاعل مع المراهقين حول هذه المواضيع، بل توجيههم إلى موارد الخبراء، وتقييد وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعي في الوقت الحالي. هذه التحديثات قيد التنفيذ بالفعل، وسوف نواصل تكييف نهجنا للمساعدة في ضمان حصول المراهقين على تجارب آمنة ومناسبة لأعمارهم مع الذكاء الاصطناعي.

تكنولوجيا

التحديثات الحية

روبوت دردشة من "ميتا" يودي بحياة مسن في الولايات المتحدة

وإلى جانب تحديثات التدريب، سوف تقيد الشركة أيضاً وصول المراهقين إلى بعض شخصيات الذكاء الاصطناعي التي قد تُجري محادثات غير لائقة. تتضمن بعض هذه الشخصيات، التي أنشأها المستخدمون وتتيحها "ميتا" على "إنستغرام" و"فيسبوك"، روبوتات دردشة جنسية. وبدلاً من ذلك، سوف يتمكن المستخدمون المراهقون من الوصول فقط إلى شخصيات الذكاء الاصطناعي التي تُعزز التعليم والإبداع، وفقاً لتصريحات أوتواي.