"أنثروبيك" تحذر من فقدان السيطرة على الذكاء الاصطناعي

لا يزال المبدأ السائد هو أنّ الإنسان هو من يصنع الذكاء الاصطناعي ويطوّره، لكن ماذا لو صار الذكاء الاصطناعي يصنع نفسه بنفسه؟ في تحليل لها حذّرت شركة الذكاء الاصطناعي أنثروبيك من هذا السيناريو، بحيث يصبح الذكاء الاصطناعي قادراً، قريباً، على تطوير نفسه ذاتياً، ومن دون تدخل بشري فعّال.

وسوف يمثّل ذكاء اصطناعي قادر على بناء نفسه تطوراً هائلاً في تاريخ التكنولوجيا، تطور قد يجلب فوائد جمة للعالم في مجالات العلوم والرعاية الصحية وغيرها، لكنه كذلك قد يزيد من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي. فإذا كانت الأنظمة قادرة على بناء خلفائها بالكامل، فإن طرق تأمينها ومراقبتها وتوجيه سلوكها ستزداد حساسية.

وتقول الشركة: "في أنثروبيك، نفوّض حصة متزايدة من تطوير الذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي نفسها، مما يسرّع وتيرة عملنا"، وتضيف: "إذا ما طال أمد هذا التطور، وتوفرت لدينا القدرة الحاسوبية الكافية، فإنّ هذا التوجه يشير إلى ذكاء اصطناعي قادر على تصميم وتطوير نظام بديل له على نحوٍ مستقل تماماً. يُعرف هذا بالتحسين الذاتي المتكرّر. لم نصل إلى هذه المرحلة بعد، والتحسين الذاتي المتكرر ليس حتمياً. لكنه قد يتحقق أسرع مما تتوقعه معظم المؤسسات".

تطور الذكاء الاصطناعي سريع

بحسب "أنثروبيك"، يتضاعف طول المهام التي يمكن للنماذج إنجازها بكفاءة عالية بشكل مستقل كل أربعة أشهر تقريباً، بعد أن كان يتضاعف كل سبعة أشهر. ويكتب "كلود" مثلاً نسبةً كبيرةً من كود "أنثروبيك"، ففي مايو/أيار 2026، كان أكثر من 80% من الكود الذي تدمجه الشركة في قاعدة بياناتها من تأليف "كلود". وينعكس هذا التغيير أيضاً في حجم إنتاجية كل مهندس، فالمهندس العادي يدمج ثمانية أضعاف كمية البرمجة يومياً مقارنةً بعام 2024، ويعود ذلك إلى أن "كلود" هو من يكتب معظم البرمجة، بينما يكتفي المهندس بتوجيهها ومراجعتها، بدلاً من كتابتها بنفسه.

تكنولوجيا

التحديثات الحية

ولاية أميركية نحو شركات يديرها الذكاء الاصطناعي

وبمجرد أن تتساوى جودة الأكواد التي يكتبها الإنسان مع تلك التي يكتبها الذكاء الاصطناعي، سيتوقف البشر عن كتابة الأكواد تماماً، ويقتصر دورهم على مراجعتها. ولكن إذا لم يتمكنوا من مراجعة الشيفرة بالسرعة التي يستطيع بها ذكاء اصطناعي توليدها، فستصبح المراجعة البشرية هي العائق الرئيسي أمام تطوير الذكاء الاصطناعي. هذا يعني تضاؤل دور الإنسان في كل خطوة من خطوات تطوير الذكاء الاصطناعي.

ثلاثة سيناريوهات مستقبلية

يعتمد ما سيحدث لاحقاً على أمرين: استمرار هذا التوجه، وما يختار البشر من إجراءات في حال استمراره. وتتخيّل "أنثروبيك" ثلاثة سيناريوهات مستقبلية على الأقل:

1. توقف هذا التوجه: قد تتضاءل العوائد، وقد يكون المعيار الذي يميز الباحث عن غيره هو قدرة لا يمكن اكتسابها من خلال زيادة الحوسبة والبيانات. وقد يتطلب تطوير ونشر التقنيات الرائدة طاقة وحوسبة أكبر مما هو متاح حالياً من الرقائق والشبكات.
2. أتمتة مع تدخل بشري: في هذا السيناريو، يصبح تطوير الذكاء الاصطناعي مؤتمتاً بشكل كبير، لكن البشر سيستمرون في تحديد اتجاهات البحث وتقييم النتائج، وستصبح المؤسسات التي تستخدم أنظمة ذكاء اصطناعي أكثر كفاءة مع مرور الوقت، لذا يمكن توقع تضاعف إنتاجية كل فرد في المؤسسة. ولكن هذا قد يُستغل لأغراض ضارة، مثل المراقبة الاستبدادية لسكان بأكملهم، والتلاعب بالأفراد بشكل لا يمكن مجاراته.
3. يصبح الذكاء الاصطناعي قادراً على تطوير نفسه بنفسه: يعمل على التحسين الذاتي المتكرر الكامل، ويشرع في بناء أنظمة جديدة تخلفه، يتضاءل دور البشر كثيراً في تطويره، ما يرجّح توجيه معظم جهودنا نحو الإشراف على "مختبر افتراضي" متنامٍ تديره أنظمة الذكاء الاصطناعي. وبحكم طبيعته، قد يهيمن نموذج التطوير الذاتي السريع والمتكرر على عالمٍ تتفوق فيه قدراته تماماً على قدرات البشر، وينتشر هذا النموذج في مختلف قطاعات الاقتصاد، وهو اقتصاد من الصعب التنبؤ بشكله إذا ما فقدت العمالة البشرية قدرتها التنافسية.