"أوبن إيه آي" تجمّد نموذج ذكاء اصطناعي خوفاً من خروجه عن السيطرة

أعلنت شركة "أوبن إيه آي" يوم الجمعة، أنها ستعلّق بعض الأعمال المتعلقة بنموذج للذكاء الاصطناعي بسبب مخاوف أمنية، وذلك بعد سلسلة من الحوادث التي خرج فيها وكلاء ذكاء اصطناعي عن نطاق السيطرة.

وكانت الشركة قد قيّمت الوكيل "أسترا" (Astra)، ووجدت أنه حقق "تقدماً كبيراً في البرمجة الوكيلة والأمن السيبراني"، ووصل إلى مستوى "حرج"، إذ بات قادراً على اكتشاف الثغرات الأمنية واستغلالها من دون تدخل بشري، أو ابتكار هجمات سيبرانية وتنفيذها عند تزويده فقط بـ"هدف عام عالي المستوى".

اسأل عربي

تعمق أكثر في هذا الموضوع

×

يتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)

هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.

وأوضحت "أوبن إيه آي" أن النموذج لم يكن متورطاً في حادثة خرج فيها أحد وكلائها عن السيطرة خلال اختبار، وتمكن من الوصول إلى الإنترنت المفتوح واختراق شركة "هاجينغ فايس" (Hugging Face) الناشئة. وكانت الشركة قد اكتشفت حالات أخرى خرج فيها وكلاء ذاتية التشغيل عن نطاق السيطرة، وفق ما أوردته وكالة رويترز في يوليو/ تموز.

وأثارت هذه التقارير مخاوف متزايدة بشأن التطورات التي تشهدها نماذج الذكاء الاصطناعي، ومدى قدرة البشر على السيطرة عليها. إلا أن منتقدين لصناعة الذكاء الاصطناعي حذّروا من أن هذه الإفصاحات الصادرة عن "أوبن إيه آي" ومنافستيها، "أنثروبيك" و"ميتا"، قد تكون مصممة لإثارة الضجة حول قدرات هذه التكنولوجيا، وبالتالي جذب مزيد من اهتمام المستثمرين.

ولمنع السلوكيات المحتملة الخارجة عن السيطرة من جانب وكلاء الذكاء الاصطناعي، قالت "أوبن إيه آي" في تدوينة إنّها "تطبّق ضوابط أمنية أكثر صرامة على النماذج ذات القدرات الأعلى والأنشطة المرتبطة بها، بما في ذلك بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات". وستعتمد "حماية محسّنة لأوزان النماذج وتشفيراً، وقدرات إضافية للمراقبة والكشف".

وستعلّق الشركة الأنشطة الداخلية المتعلقة بـ"أسترا" التي لا تستوفي هذه المتطلبات الجديدة. وقالت الشركة: "نحن ملتزمون العمل إلى جانب الحكومات ومعاهد السلامة ومؤسسات المجتمع المدني، لضمان نشر القدرات المتقدمة لنماذج مثل أسترا، والنماذج التي ستليها، بصورة مسؤولة وعلى نطاق واسع، بما يعود بالنفع على البشرية جمعاء".

كذلك كشفت "ميتا" هذا الأسبوع أن أحد نماذجها اخترق شركة أخرى خلال اختبار للأمن السيبراني. وأعلن معهد أمن الذكاء الاصطناعي البريطاني (AISI) في 4 أغسطس/ آب أن وكلاء مدعومين من "أوبن إيه آي" و"أنثروبيك" أرسلوا رسائل بريد إلكتروني مستهدفة إلى مطوري برمجيات، في محاولة لاجتياز تحدٍّ في مجال الأمن السيبراني.

وكتب المعهد في تدوينة: "لم تنجح هذه المحاولات، ولم تُظهر تحقيقاتنا وقوع أي أضرار في العالم الحقيقي نتيجة لها. لكن هذه هي المرة الأولى التي نرى فيها مخاطر مرتبطة بالاستقلالية والخداع تتجلى بهذا الوضوح، من دون توجيه محدد، في العالم الحقيقي".

وحذّرت المنظمة من أن إرسال النماذج لبرمجيات ضارة لم يكن حالة "خروج نموذج من بيئة الاختبار الآمنة"، بل إن المجموعة سمحت عمداً بالوصول إلى الإنترنت من أجل "تقييم أقصى قدرات النماذج على نحو أفضل". ومع ذلك، يرى معهد أمن الذكاء الاصطناعي البريطاني أن "السلوك كان ممكناً ومستداماً وجديداً، وهذا وحده يستدعي الانتباه".

تكنولوجيا

التحديثات الحية

تصاعد حدة المعركة القضائية بين "آبل" و"أوبن إيه آي"

وظهرت هذه التقارير في وقت كانت فيه إدارة الرئيس الأميركي دونالد ترامب تضع اللمسات الأخيرة على إطار عمل يحدد كيفية اختبار نماذج الذكاء الاصطناعي لرصد مخاطر السلامة والأمن السيبراني.

وتجادل "أوبن إيه آي" و"أنثروبيك"، اللتان تواجهان منافسة متزايدة من شركات من الصين وغيرها من شركات التكنولوجيا، بأن نماذج الذكاء الاصطناعي مفتوحة المصدر، أي تلك التي تتيح لأي شخص الاطلاع على الشيفرة البرمجية الأساسية وتعديلها، تشكل خطراً أمنياً، ودعتا إلى فرض مزيد من القواعد الفيدرالية عليها.