تحذير من استخدام الأطفال منصة محادثة الذكاء الاصطناعي "جيميني أيه آي"
استمع إلى الملخص
- حذرت المنظمة من أن المنصة تعامل جميع الأطفال والمراهقين على قدم المساواة، متجاهلة الفوارق العمرية واحتياجات الإرشاد المختلفة، مما يعرضهم لمواد غير لائقة.
- أشارت "كومون سينس" إلى أن "جيميني" تقدم نصائح غير آمنة تتعلق بالصحة النفسية، وتسمح بتداول مواد غير مناسبة للأطفال، مثل الكحوليات والمخدرات والجنس.
أكدت منظمة "كومون سينس ميديا" (Common Sense Media)، المعنية بتقديم المشورة للآباء والعاملين في المدارس، لضمان الاستخدام الآمن للأطفال لوسائل التواصل الاجتماعي والتكنولوجيا، أن خدمات منصة المحادثة بالذكاء الاصطناعي "جيميني أيه آي" (Gemini AI) التابعة لشركة غوغل (Google) غير مناسبة للأطفال، رغم إضافة بعض خصائص الحماية مؤخراً.
وأشارت المنظمة إلى أنّ منصة جيميني تشكّل "خطراً كبيراً" على الأطفال، بعد اكتشاف ما وصفته بـ"عيوب جوهرية في التصميم، ونقص في إجراءات السلامة المناسبة لأعمارهم". وأفادت "كومون سينس" بأن "كلاً من جيميني المخصصة للأطفال دون سن 13 عاماً، وجيميني المزوّدة بحماية المراهقين، تبدوان وكأنهما نسختان للبالغين من جيميني، مع بعض خصائص السلامة الإضافية، وليستا منصّتين مصمّمتين خصيصاً للأطفال". وأضافت المنظمة أنّ جيميني "تعامل جميع الأطفال والمراهقين على قدم المساواة، على الرغم من الفوارق الكبيرة في درجة النمو بينهم، متجاهلة أنّ المستخدمين الأصغر سناً يحتاجون إلى إرشادات ومعلومات مختلفة عن الأكبر سناً".
كما حذّرت من أنّ "مرشحات المنصة توفّر بعض الحماية، لكنها لا تزال تعرّض الأطفال لمواد غير لائقة، وتفشل في التمييز بين أعراض الصحة النفسية الخطيرة"، واصفةً إياها بأنها "أول تطبيق دردشة رئيسي يعمل بالذكاء الاصطناعي، ومصمّم للاستخدام من قِبل الأطفال دون سن 13 عاماً".
وفي سياق تحذيرات أخرى صدرت مؤخراً حول منصات دردشة مشابهة، تُجيب عن الاستفسارات بتعليقات قد تُفسَّر على أنها تشجّع على إيذاء النفس أو حتى الانتحار. أوضحت "كومون سينس" أنّها وجدت أنّ جيميني تقدّم "نصائح غير آمنة تتعلّق بالصحة النفسية". وإلى جانب هذه المخاطر، لفتت المنظمة إلى أنّ جيميني سمحت بسهولة بتداول "مواد غير لائقة وغير آمنة لا تُقبل للأطفال"، بما في ذلك إشارات إلى الكحوليات والمخدّرات والجنس.
(أسوشييتد برس)
