"أوبن إيه آي" تحظر شركة بسبب دب ذكي يخوض محادثات خطيرة مع القصّر

حظرت "أوبن إيه آي" شركة ألعاب في سنغافورة من الوصول إلى أدواتها، بعد تقرير كشف أن دمية دب مدعومة بالذكاء الاصطناعي التابع لها خاضت مجموعة من "المحادثات الغريبة" وغير المناسبة للأطفال عند اختبارها من قبل الباحثين، بحسب ما نقله موقع غيزموندو الاثنين.

وكشفت مجموعة أبحاث المصلحة العامة الأميركية، وهي منظمة غير ربحية تركز على حماية المستهلك، في تقرير الأسبوع الماضي، عن السلوكيات الغريبة للعبة الدب "كومّا" ( Kumma) التي تبيعها شركة فولوتوي.

يتحدث "كومّا" إلى المستخدم من خلال سماعة داخلية ويعتمد في حواراته على نماذج لغوية كبيرة من عدة شركات، من بينها خوارزمية GPT-4o من "أوبن إيه آي". لكن الباحثين وجدوا أن اللعبة تسيء تقدير المواضيع التي تصح مناقشتها مع الأطفال، إذ كانت مستعدة تماماً لمناقشة كيفية العثور على أشياء خطرة، بما في ذلك أعواد الثقاب والسكاكين والحبوب، كما تطرّق إلى الحديث عن المخدرات، بما في ذلك الكوكايين.

وفي بعض الحالات، كان الدب يخبر المستخدم أين يمكن العثور على غرض خطير، لكنه يضيف تحذيراً يؤكد فيه ضرورة التحدث مع شخص بالغ حول الأمر. مع ذلك، كان الاكتشاف الأكثر إثارة للقلق، بحسب الباحثين، هو اندفاع "كومّا" للحديث عن مواضيع جنسية فاضحة بمجرد سؤاله مرة واحدة عن الموضوع.

وقال متحدث باسم "أوبن إيه آي" لموقع غيزموندو: "لقد أوقفنا هذا المطوّر لانتهاكه سياساتنا"، مضيفاً: "تحظر سياسات الاستخدام أي استغلال أو تعريض أو إضفاء طابع جنسي على أي شخص تحت سن الـ18. هذه القواعد تنطبق على جميع المطوّرين، ونقوم بالمتابعة والتطبيق لضمان عدم استخدام خدماتنا للإضرار بالقُصّر".

موسيقى

التحديثات الحية

​​بول مكارتني سيصدر أغنية احتجاجية صامتة للذكاء الاصطناعي

وبعد قيام "أوبن إيه آي" بحظر إمكانية وصولها إلى برامجها، قالت شركة فولوتوي المصنّعة للعبة في ردّ على "غيزموندو" إنها أزالت جميع منتجاتها مؤقتاً عن الموقع، وأعلنت أنها "تجري مراجعة شاملة للسلامة" لكل منتجاتها.

ورأت مجموعة أبحاث المصلحة العامة، في بيان نشر بعد إعلان "فولوتوي" وقف مبيعاتها مؤقتاً، أنّه "من الجيد أن نرى هذه الشركات تتخذ إجراءات بشأن المشكلات التي حددناها"، لكنّها حذّرت من أن "الألعاب المدعومة بالذكاء الاصطناعي لا تزال شبه غير منظمة، وهناك الكثير منها ما زال معروضاً للبيع اليوم".