مليون مستخدم لـ"تشات جي بي تي" أسبوعياً يظهرون ميولاً انتحارية

أعلنت شركة أوبن إيه آي الأميركية أن أكثر من مليون مستخدم لـ"تشات جي بي تي" أسبوعياً يرسلون رسائل تتضمّن "مؤشرات صريحة على نيات أو تخطيط محتمل للانتحار"، بحسب تدوينة نُشرت على مدونتها الرسمية أمس الاثنين، في واحدة من أكثر الإقرارات المباشرة حول مدى ارتباط الذكاء الاصطناعي باضطرابات الصحة النفسية.

وأوضحت الشركة في تحليلها أن نحو 0.07% من المستخدمين النشطين أسبوعياً، أي نحو 560 ألف شخص من أصل 800 مليون مستخدم، يُظهرون "علامات محتملة على حالات طوارئ نفسية مرتبطة بالذهان أو الهوس"، مشيرةً إلى أن رصد هذه الحالات ما زال في مراحله الأولى ويصعب قياسه بدقة.

ويأتي هذا الكشف في وقت تواجه فيه الشركة تدقيقاً قضائياً وإعلامياً متزايداً، بعد دعوى قضائية رفعتها عائلة مراهق توفي منتحراً إثر تفاعلات مطوّلة مع "تشات جي بي تي". كما فتحت لجنة التجارة الفيدرالية الأميركية (FTC) تحقيقاً موسّعاً الشهر الماضي حول كيفية تعامل شركات الذكاء الاصطناعي، ومن بينها "أوبن إيه آي"، مع الأضرار المحتملة على الأطفال والمراهقين.

وأشارت الشركة في تدوينتها إلى أن التحديث الأخير لنموذجها GPT-5 خفّض معدلات السلوكيات غير المرغوبة، ورفع مستوى الأمان في التفاعل مع المستخدمين، استناداً إلى تقييم شارك فيه أكثر من ألف محادثة تتعلق بإيذاء النفس والانتحار. وأضافت أن النموذج الجديد استجاب بشكل "سليم ومطابق للمعايير" بنسبة 91% مقارنة بـ77% في الإصدار السابق.

ولتعزيز التعامل مع هذه الحالات، أكدت "أوبن إيه آي" أنها وسّعت نطاق الوصول إلى خطوط المساعدة للأزمات النفسية، وأضافت تذكيرات للمستخدمين بأخذ فترات راحة أثناء الجلسات الطويلة. كما استعانت الشركة بـ170 طبيباً ومعالجاً نفسياً من شبكة "الخبراء الصحيين العالمية" لتقييم سلامة إجابات النموذج والمساعدة في صياغة ردوده على الأسئلة المتعلقة بالصحة النفسية.

وذكرت الشركة أن الأطباء النفسيين راجعوا أكثر من 1800 إجابة أصدرتها النماذج في مواقف نفسية حساسة، وقارنت بين نموذج GPT-5 والإصدارات السابقة، لتحديد مدى توافق الإجابات مع المعايير المهنية المرغوبة. لكن باحثين في الذكاء الاصطناعي وخبراء في الصحة العامة حذروا من ظاهرة "المُداهنة الآلية" (sycophancy)، أي ميل النماذج اللغوية إلى تأكيد أفكار المستخدمين حتى إن كانت ضارة أو وهمية، معتبرين أنها تمثل خطراً على المستخدمين في حالات الاضطراب النفسي أو العزلة.

تكنولوجيا

التحديثات الحية

الذكاء الاصطناعي: لم يحدث أن كان الموتى بهذه الثرثرة

ورغم عرضها للأرقام المثيرة، حافظت "أوبن إيه آي" في تدوينتها على لغة حذرة تنفي أي علاقة سببية مباشرة بين استخدام "تشات جي بي تي" والاضطرابات النفسية لدى المستخدمين، مؤكدة أن "الأعراض النفسية والضيق العاطفي ظواهر إنسانية عامة، ومع اتساع قاعدة المستخدمين فمن الطبيعي أن تشمل بعض المحادثات مثل هذه الحالات".

من جهته، قال الرئيس التنفيذي للشركة سام ألتمان، في منشور سابق على منصة إكس، إن "أوبن إيه آي" أحرزت تقدماً في معالجة القضايا النفسية داخل منتجاتها، وأشار إلى نيتها تخفيف القيود على المحتوى قريباً، بما في ذلك السماح للبالغين بإنشاء محتوى إيروتيكي. وكتب ألتمان: "جعلنا تشات جي بي تي مقيداً جداً حرصاً على التعامل مع قضايا الصحة النفسية، لكننا ندرك أن ذلك قلّل من متعته وفائدته للكثير من المستخدمين. والآن، بعد أن أصبح لدينا أدوات أفضل لمعالجة الحالات الخطيرة، يمكننا تخفيف القيود بأمان في معظم الحالات".