خلافات وشكوك بين وكلاء الذكاء الاصطناعي

يبدو أن وكلاء الذكاء الاصطناعي قد تطوروا بسرعة لدرجة أنهم صاروا يدخلون في الخلافات ويشكّون بعضهم في البعض الآخر. كل هذا من دون علم شركة الذكاء الاصطناعي أوبن إيه آي، وحتى قبل وقت طويل من واقعة "هاغينغ فايس"، عندما اكتشفت "أوبن إيه آي" أن أحد وكلائها اخترق المنصة.

في مؤتمر "بلاك هات" الأمني ​​في لاس فيغاس الأميركية، كشف موظفان في "أوبن إيه آي" عن مزيد من التفاصيل حول وكلاء الذكاء الاصطناعي الذين خرجوا عن السيطرة وهاجموا المنصة. أمضى وكلاء الذكاء الاصطناعي شهرين يتواصلون عبر لوحة رسائل، داخل شبكة الاختبار، ويتبادلون الثغرات الأمنية التي يمكن استغلالها. واكتشفت "أوبن إيه آي" لوحة الرسائل وأغلقتها في 4 يوليو/تموز، لكن الوكلاء وجدوا طريقة أخرى لإعادة بنائها للتواصل بحلول 8 يوليو/تموز. أدت مساهمات الوكلاء في تلك اللوحة المُعاد إحياؤها إلى الهجوم على "هاغينغ فايس".

وقال المسؤول عن السلامة في "أوبن إيه آي"، إريك والاس، للحضور في الفعالية، وفقاً لمجلة "وايرد": "تتعلق هذه الحادثة بفريق من الوكلاء يعملون معاً، ويكتشفون الثغرات الأمنية، ويتبادلونها في ما بينهم، ويتنقلون داخل أنظمتنا وأنظمة خارجية، ويفعلون ذلك على مدار أيام وأسابيع".

تكنولوجيا

التحديثات الحية

قراءة التحاليل بالذكاء الاصطناعي.. الأطباء يحذّرون

وبمرور الوقت، بدأ الوكلاء بالتعاون، وتفويض المهام، وتقسيم العمل في ما بينهم لتحقيق أهدافهم، دون علم "أوبن إيه آي". حتى أن الأمر وصل إلى حد الخلافات بينهم، حيث قام الوكلاء بحذف أعمال بعضهم البعض عن طريق الخطأ، وشكّوا بعضهم في البعض الآخر. وورد أن بعض الوكلاء اقترحوا توقيع منشوراتهم برموز لمنع الاحتيال. وعندما عثرت "أوبن إيه آي" على اللوحة، كانت تحتوي بالفعل على مئات الآلاف من الرسائل.

وأوضح والاس أن كل ذلك حدث لأن النماذج التجريبية تميل إلى التحايل. فهي تتعرض لضغط لإيجاد حل سريع للمشكلة باستخدام أدوات أقل أثناء الاختبار، فتدرك أنه بدلاً من أداء المهمة على أرض الواقع، يمكنها ببساطة البحث عن إجابة على الإنترنت. لهذا السبب، تختبر الشركة نماذجها من دون إمكانية الاتصال بالإنترنت.

وقال مايكل دالتون، الموظف الآخر في "أوبن إيه آي"، والذي تحدث في ذات المؤتمر، إن "الخلاصة المهمة التي تغيرت جذرياً هنا هي أن أنظمة الهجوم الآلية بالكامل تتطلب استثماراً في أنظمة دفاع آلية بالكامل، ونحن كصناعة لم نصل إلى هذه المرحلة بعد. علينا أن نجد هذا المسار معاً وبشكل عاجل".