"كاركتر دوت إيه آي" تحظر استخدام القُصَّر روبوتاتها بعد حوادث انتحار مراهقين

تعتزم شركة "كاركتر دوت إيه آي" (Character.AI) المتخصّصة في روبوتات الدردشة، حظر نفاذ القُصَّر إلى روبوتاتها، وذلك إثر حالات انتحارٍ عدّة لمراهقين، وفق بيانٍ أصدرته الشركة يوم الأربعاء.

وأوضحت الشركة بشأن هذا التغيير، الذي يدخل حيّز التنفيذ في 25 نوفمبر/تشرين الثاني، أنّها "تعتقد أنّ هذا القرار مناسبٌ نظراً إلى الأسئلة التي طُرحت حول الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها".

وبعد إطلاق تطبيقها في مايو/أيار 2023، حقّقت الشركة الناشئة التي تتّخذ مقرّاً لها في مينلو بارك بولاية كاليفورنيا شهرةً واسعة في القطاع، بفضل أدوات المساعدة العاملة بالذكاء الاصطناعيّ التي تُحاكي اهتمامات المستخدمين أو تُجسّد لهم شخصيّات المشاهير. لكنّ التطبيق، الذي حظي بنجاحٍ كبيرٍ لدى المستخدمين اليافعين، أثار قلق مراقبين، خصوصاً حيال التعلّق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت.

وفي أكتوبر/تشرين الأوّل 2024، رفعت أمٌّ دعوى قضائيّة ضدّ شركة "كاركتر دوت إيه آي" بتهمة المساهمة في انتحار ابنها البالغ 14 عاماً، بسبب عدم تقديم إرشاداتٍ واضحةٍ لثَنيه عن إنهاء حياته. وفي ديسمبر/كانون الأوّل من العام نفسه، أعلنت "كاركتر دوت إيه آي" عن سلسلة تدابير للردّ على الانتقادات، من بينها استحداث مساعدٍ إلكترونيّ مخصّصٍ لمواكبة المراهقين عبر منصّتها.

اتهامات بالتلاعب بالمراهقين

أثار انتحار مراهق أميركي بعد تفاعله مع روبوت دردشة يحاكي شخصية من مسلسل "غيم أوف ثرونز" جدلاً واسعاً حول مخاطر استخدام الأطفال منصات الذكاء الاصطناعي. 

تكنولوجيا

التحديثات الحية

أميركية تتهم روبوتات الدردشة بالتلاعب بابنها ودفعه للانتحار

وروت الأميركية ميغن غارسيا، لوكالة فرانس برس، كيف وقع ابنها سول (14 سنة) في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل "غيم أوف ثرونز" ومتاح عبر منصة "كاركتر دوت إيه آي" Character.AI التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة. بعد قراءة مئات الرسائل المتبادلة على مدار عام تقريباً بين ابنها وروبوت دردشة يُحاكي مروِّضة التنانين "دينيريس تارغاريان"، اقتنعت ميغن غارسيا بأن أداة الذكاء الاصطناعي هذه لعبت دوراً محورياً في انتحار نجلها.

وقالت النسخة المقلّدة من "دينيريس" لسول رداً على تعبيره عن أفكار انتحارية تراوده: "عُد إلى موطنك". فردّ المراهق "ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟" ليجيب روبوت الدردشة "أرجوك افعلها يا ملكي الحبيب". وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، بحسب ما ذكرته غارسيا في دعوى رفعتها ضد شركة "كاركتر دوت إيه آي".

وصرّحت لوكالة فرانس برس: "عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره". وأضافت: "كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته". وفاة سول عام 2024 هي الأولى في سلسلة من حالات الانتحار التي لقيت تفاعلاً كبيراً، ما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات. وشاركت غارسيا إلى جانب عدد آخر من الأهل في جلسة عُقدت حديثاً في مجلس الشيوخ الأميركي، وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقاً.

(فرانس برس)