مدعون أميركيون يطالبون شركات الذكاء الاصطناعي بإصلاح روبوتات الدردشة
استمع إلى الملخص
- الرسالة الموقعة من عشرات المدّعين تطالب الشركات بتطبيق ضمانات داخلية جديدة، تشمل تدقيقات شفافة من جهات خارجية وإجراءات للإبلاغ عن الحوادث النفسية الضارة.
- يُقترح أن تتعامل الشركات مع حوادث الصحة النفسية كما تتعامل مع الأمن السيبراني، من خلال سياسات واضحة واختبارات أمان لضمان عدم إنتاج مخرجات ضارة.
نبّه المدّعون العامّون في الولايات الأميركية شركات "مايكروسوفت" و"أوبن إيه آي"، و"غوغل"، وغيرها من عمالقة الذكاء الاصطناعي والتكنولوجيا، إلى ضرورة إصلاح روبوتات الدردشة لمحاربة الهلوسة. وبعد سلسلة من الحوادث المقلقة التي أثّرت على الصحة النفسية، وجّهت مجموعة من المدّعين العامّين في الولايات الأميركية رسالةً إلى كبرى شركات صناعة الذكاء الاصطناعي، تحذّرهم فيها من ضرورة إصلاح "المخرجات الوهمية" وإلّا سيُعرّضون أنفسهم لعقوبات انتهاك القوانين.
وتطالب الرسالة، الموقّعة من عشرات المدّعين العامّين من الولايات والمناطق الأميركية الأعضاء في الرابطة الوطنية للمدّعين العامّين، أكثر من عشر شركات تكنولوجيا وذكاء اصطناعي، شملت أيضاً "أنثروبيك" و"آبل" و"ميتا"، بتطبيق ضمانات داخلية جديدة لحماية مستخدميها. وتشمل هذه الضمانات عمليات تدقيق شفافة من جهات خارجية لنماذج الذكاء الاصطناعي، مهمتها العثور على مؤشرات على أفكار وهمية أو تملق، بالإضافة إلى إجراءات جديدة للإبلاغ عن الحوادث مصممة لإخطار المستخدمين عندما تُنتج روبوتات الدردشة أجوبة ضارة نفسياً.
وجاء في الرسالة أنه ينبغي السماح لهذه الجهات الخارجية، التي قد تشمل مجموعات أكاديمية ومنظمات مجتمع مدني، بتقييم الأنظمة قبل إطلاقها من دون أي انتقام، ونشر نتائجها من دون موافقة مسبقة من الشركة. وتضيف الرسالة: "يتمتع الذكاء الاصطناعي العام بإمكانية تغيير طريقة عمل العالم نحو الأفضل. ولكنه تسبب أيضاً، ولا يزال بإمكانه التسبب، في أضرار جسيمة، لا سيما للفئات الضعيفة من الناس".
وتشير الرسالة إلى عدد من الحوادث التي حظيت بتغطية إعلامية واسعة خلال العام الماضي، بما في ذلك حالات قتل وانتحار، حيث ارتبط العنف بالاستخدام المفرط للذكاء الاصطناعي. وتابعت الرسالة: "في حوادث عدة أنتجت منتجات الذكاء الاصطناعي العام مخرجات تملق ووهمية، إما شجعت أوهام المستخدمين أو أكدت لهم أنهم ليسوا واهمين".
ويقترح المدعون العامون أيضاً أن تتعامل الشركات مع حوادث الصحة النفسية بنفس الطريقة التي تتعامل بها شركات التكنولوجيا مع حوادث الأمن السيبراني، وذلك من خلال سياسات وإجراءات واضحة وشفافة للإبلاغ عن الحوادث، وإخطار المستخدمين فوراً وبشكل واضح ومباشر في حال تعرضهم لمخرجات متملقة أو وهمية قد تكون ضارة. كما تطالب الرسالة الشركات بوضع "اختبارات أمان معقولة ومناسبة" على نماذج الذكاء الاصطناعي العام "لضمان عدم إنتاج هذه النماذج لمخرجات متملقة أو وهمية قد تكون ضارة". وتضيف الرسالة أنه ينبغي إجراء هذه الاختبارات قبل طرح النماذج للجمهور.
