هلوسات الذكاء الاصطناعي تزداد سوءاً

على الرغم من التقدم الكبير في أحدث البرمجيات ​التي أطلقتها شركات الذكاء الاصطناعي الأبرز مثل "أوبن إيه آي" مطورة "تشات جي بي تي"، فإن "الهلوسة" لا تزال مشكلة تحتاج إلى حل لها، ويبدو أنها تتفاقم في النماذج الجديدة بدل أن يُسيطر عليها. الأغرب من ذلك أن الشركات والباحثين لا يعرفون السبب. حتى أحدث التقنيات وأكثرها قوة، والتي تسمّى أنظمة التفكير المنطقي، والتي تقدمها شركات "أوبن إيه آي" و"غوغل" و"ديبسيك"، تُنتج أخطاءً أكثر وليس أقل، على الرغم من التحسّن الملحوظ في مهاراتها الرياضية.

تَعِد "أوبن إيه آي" والشركات الرئيسية المطوِّرة لأنظمة الذكاء الاصطناعي التوليدي بجعلها أكثر صدقاً. لكن ذلك لم يحدث بعد. مع استخدام أنظمة التفكير الجديدة، تتزايد الأخطاء. ووفقاً لاختبارات "أوبن إيه آي" نفسها، تُصاب أحدث أنظمتها بالهلوسة بمعدل أعلى من النظام السابق. وجدت الشركة أن نظام o3، أقوى أنظمتها، يُصاب بالهلوسة بنسبة 33% من المرات في اختبار الشخصيات العامة. وهذا يزيد عن ضعف معدل الهلوسة لنظام "أوبن إيه آي" السابق للاستدلال، المسمى o1. أما نظام o4 ميني الجديد، فقد أصابته الهلوسة بنسبة أعلى وصلت 48%. وفي اختبار الأسئلة العامة، بلغت معدلات الهلوسة لنظامي o3 وo4 ميني إلى 51% و79% على التوالي. أما النظام السابق، o1، فقد أصابته الهلوسة بنسبة 44% من المرات. تهلوس روبوتات الدردشة وتختلق معلومات غير صحيحة عند الإجابة عن الأسئلة.

هذه مشكلة تواجه أنواع المستخدمين الذين يستعينون بالذكاء الاصطناعي للحصول على الإجابات خلال الدراسة والبحث والعمل. وهلوسات الذكاء الاصطناعي قد تعود بضرر كبير على المؤسسات والشركات التي يزداد استخدامها لتقنياته طوال الوقت بغرض تحسين الخدمات أو المنتجات أو توفير النفقات. إذ قد تؤدي إلى اتخاذ قرارات غير صائبة، أو تكبد خسائر مادية، أو التعرض لخطر الملاحقة القضائية، أو الإضرار بسمعتها. ومن ثم تبرز أهمية التغلب على تلك الهلوسات. وكانت وكالة أسوشييتد برس للأنباء نقلت عن رئيسة شركة أنثروبيك مالكة روبوت الدردشة "كلود 2"، دانييلا أمودي، قولها: "لا أعتقد أن هناك أي نموذج اليوم لا يعاني بعض الهلوسة". وتتخذ هلوسات أو اختلاقات الذكاء الاصطناعي أشكالاً عدة أبرزها: هلوسات واقعية، وهلوسات في الاستشهادات والمصادر، وهلوسات سياقية، وهلوسات استنتاجية، وهلوسات بصرية، وهلوسات ناتجة عن التحيز، وهلوسات منطقية عندما يقدم إجابات لا تتسق مع المنطق.

في ورقة بحثية تتناول تفاصيل الاختبارات التي أجرتها شركة أوبن إيه آي الأميركية الناشئة، ذكرت أن هناك حاجة إلى مزيد من البحث لفهم سبب هذه النتائج. ولأن أنظمة الذكاء الاصطناعي تتعلم من بيانات أكثر مما يستطيع البشر استيعابه، فإن خبراء التكنولوجيا يجدون صعوبة في تحديد سبب تصرفاتها بهذه الطريقة. ونقلت صحيفة نيويورك تايمز، هذا الأسبوع، عن الشركة قولها: "سنواصل أبحاثنا حول الهلوسة في جميع النماذج لتحسين الدقة والموثوقية". وفي انتظار ذلك، كشف معهد ماساشوستس للتكنولوجيا عن تقنية جديدة اسمها "سيمجين" للمساعدة في اكتشاف هلوسة الذكاء الاصطناعي، على أمل مساعدة مدققي الحقائق من البشر الذين يتعين عليهم تصفح مستندات طويلة ومعقدة عدة تستخدمها برامج الدردشة للتوصل إلى الإجابات. وأشار الباحثون إلى أن التقنية تقدّم "مقتطفات تشير مباشرة إلى مكان المعلومة في المصدر الأصلي مثل خلية معينة في قاعدة البيانات"، وهذا يقلل وقت التحقق بنحو 20%.