"أوبن إيه آي" تستعد لإطلاق نموذج أسترا رغم مخاوف أمنية سيبرانية

تستعد شركة أوبن إيه آي لإطلاق نموذجها الجديد للذكاء الاصطناعي المعروف باسم "أسترا"، بعد إخضاعه لـ"إجراءات أمنية أقوى"، عقب هجوم سيبراني شنّته نماذج تابعةٌ لها خلال الصيف، بحسب ما أعلنته الثلاثاء.

وأوقفت شركة الذكاء الاصطناعي أعمال تطوير النماذج لمدة أسبوعين، لتورّط نموذجين كانت تختبرهما في هجوم سيبراني استهدف منصة البرمجة هاغينغ فيس. وقالت "أوبن إيه آي"، في تدوينة نشرتها الثلاثاء، إن نموذج أسترا لم يكن متورّطاً في هذه الحادثة، لكن ذلك دفعها لتعزيز إجراءات السلامة الخاصة به. وأضافت: "طبقنا منذ ذلك الحين تدابير حماية أقوى لنموذج أسترا، تشمل تدريبه على رفض تنفيذ أنشطة سيبرانية ضارة بموثوقية أكبر والالتزام بقيود السلامة، وتوفير حماية إضافية ضد سوء الاستخدام، وتفعيل آليات مراقبة قادرة على إيقاف أي نشاط قد يكون غير مصرح به".

وكشفت الشركة أن "أسترا" هو أول نموذج تصنّفه في مستوى "الخطر الحرج" في مجال الأمن السيبراني، وهو ما يستدعي فرض إجراءات أمنية إضافية قبل إتاحته للمستخدمين. وأشارت إلى أنها ستقيّد الوصول إلى بعض قدراته عند إطلاقه للمستخدمين العاديين.

وبحسب صحيفة وول ستريت جورنال، جاء هذا التصنيف للنموذج الجديد نتيجة للقدرات التي أظهرها في الاختبارات الداخلية، بما في ذلك اختراق بيئات العزل الخاصة بمتصفحات الإنترنت، وتشغيل أوامر على أجهزة الكومبيوتر التي تعمل عليها تلك المتصفحات، فضلاً عن قدرته على اكتشاف ثغرات في نظام تشغيل وُصف بأنه صعب الاختراق.

تكنولوجيا

التحديثات الحية

البنتاغون يطلق نسخته الخاصة من "تشات جي بي تي" و"غروك"

وازدادت المخاوف خلال الفترة الماضية من قدرات نماذج الذكاء الاصطناعي المتقدمة على شنّ هجمات سيبرانية. وإضافةً إلى الهجوم الذي كشفت عنه "أوبن إيه آي"، أعلنت شركة أنثروبيك أخيراً أن نماذجها اخترقت منصات ثلاث مؤسسات لم تكشف عن أسمائها، وذلك خلال اختبارها في بيئات معزولة.

وخلال الأسبوع الماضي، وقّعت أكثر من 100 شركة، من بينها "أنثروبيك" و"أوبن إيه آي" و"غوغل"، على رسالة مفتوحة دعت إلى توحيد الجهود العالمية من أجل "تعزيز الدفاعات السيبرانية" في مواجهة تهديدات الهجمات المدعومة بأدوات الذكاء الاصطناعي. وجاء في الرسالة: "لدينا نافذة زمنية محدودة لتعزيز دفاعاتنا السيبرانية"، مضيفةً: "في الأشهر المقبلة، ستصير الهجمات السيبرانية المدعومة بالذكاء الاصطناعي أكثر انتشاراً وتعقيداً بكثير، مع تزايد قدرات النماذج حول العالم".